{"id":16703,"date":"2026-10-03T18:03:27","date_gmt":"2026-10-03T21:03:27","guid":{"rendered":"https:\/\/ilheusnews.com.br\/?p=16703"},"modified":"2026-10-03T18:03:27","modified_gmt":"2026-10-03T21:03:27","slug":"empresas-de-ia-deveriam-ter-regras-de-usinas-nucleares-diz-ex-openai","status":"publish","type":"post","link":"https:\/\/ilheusnews.com.br\/?p=16703","title":{"rendered":"Empresas de IA deveriam ter regras de usinas nucleares, diz ex-OpenAI"},"content":{"rendered":"
\n

A cultura na ind\u00fastria da intelig\u00eancia artificial<\/a> quebrou. \u00c9 o que escreveu David Robinson num editorial publicado na The Atlantic<\/em><\/a> nesta semana.<\/p>\n

Por que o coment\u00e1rio dele importa? Bem, era Robinson quem escrevia os relat\u00f3rios de seguran\u00e7a que acompanhavam grandes lan\u00e7amentos de modelos de IA da OpenAI, desenvolvedora do ChatGPT.<\/p>\n

IA precisa de salvaguardas de n\u00edvel nuclear<\/h2>\n

Para Robinson, que saiu da OpenAI, o problema \u00e9 t\u00e3o profundo que regular o setor (leia-se: criar regras para o treinamento de modelos de IA) n\u00e3o seria suficiente.<\/p>\n

O especialista escreveu que a IA precisa de salvaguardas de n\u00edvel nuclear.<\/p>\n

\u201cDiante dos riscos atuais, os laborat\u00f3rios de ponta precisam operar como usinas nucleares ou aeroportos movimentados, com camadas de redund\u00e2ncia e um planejamento cuidadoso e demorado, para que o erro humano \u2013 ocasional e inevit\u00e1vel \u2013 n\u00e3o abra caminho para um desastre\u201d, disse Robinson.<\/p>\n

\n
Chegou a hora de empresas de IA desenvolverem senso de humildade, escreve ex-OpenAI \u2013 Imagem: Olhar Digital via ChatGPT<\/figcaption><\/figure>\n<\/div>\n

O Vale do Sil\u00edcio tem operado com \u201cextrema confian\u00e7a\u201d e \u201csprints perp\u00e9tuos\u201d, escreve ele. Assim, a ind\u00fastria constr\u00f3i modelos maiores e melhores com \u201cotimismo irrestrito\u201d que ignora ou subestima problemas em potencial, segundo Robinson.<\/p>\n

Ainda segundo ele, chegou a hora de empresas de IA desenvolverem um senso de humildade e olharem para al\u00e9m do mundo fechado da ind\u00fastria de tecnologia, regido pela mentalidade de \u201cagir r\u00e1pido e quebrar coisas\u201d.<\/p>\n

O alerta de Robinson vem na esteira de pesquisadores e profissionais de seguran\u00e7a que deixaram seus cargos em empresas de destaque no setor de IA. <\/p>\n

Jacob Coxon parece ter iniciado esse \u00eaxodo ao sair da Anthropic. No X\/Twitter, seu colega Evan Hubinger escreveu que a IA \u201cpoderia nos matar a todos at\u00e9 o final da d\u00e9cada\u201d. <\/p>\n

\n

Jacob is correct here\u2014we really do earnestly believe AI could kill all humans! I personally think it is &gt;10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.<\/p>\n

\u2014 Evan Hubinger (@EvanHub) September 9, 2026<\/a><\/p><\/blockquote>\n