{"id":15524,"date":"2026-09-10T12:02:24","date_gmt":"2026-09-10T15:02:24","guid":{"rendered":"https:\/\/ilheusnews.com.br\/?p=15524"},"modified":"2026-09-10T12:02:24","modified_gmt":"2026-09-10T15:02:24","slug":"conselheiro-da-openai-alerta-para-risco-de-perda-de-controle-da-ia","status":"publish","type":"post","link":"https:\/\/ilheusnews.com.br\/?p=15524","title":{"rendered":"Conselheiro da OpenAI alerta para risco de perda de controle da IA"},"content":{"rendered":"
\n

Um novo conselheiro da OpenAI<\/a> alertou para os riscos do avan\u00e7o acelerado da intelig\u00eancia artificial<\/a>. Para Paul Christiano, a ind\u00fastria ainda n\u00e3o est\u00e1 no caminho para reduzir a um n\u00edvel aceit\u00e1vel o risco de uma perda catastr\u00f3fica de controle.<\/p>\n

Ex-l\u00edder de alinhamento da OpenAI e conselheiro de tecnologia do governo dos EUA, Christiano passou a integrar o conselho da funda\u00e7\u00e3o sem fins lucrativos da empresa e o comit\u00ea respons\u00e1vel pela seguran\u00e7a<\/a> e prote\u00e7\u00e3o.<\/p>\n

\n
O alerta ocorre enquanto empresas testam sistemas cada vez mais capazes de agir de forma aut\u00f4noma.<\/em> \u2013 Imagem: Rawpixel.com\/Shutterstock<\/figcaption><\/figure>\n<\/div>\n

Christiano alerta sobre avan\u00e7o da IA<\/h2>\n

Na publica\u00e7\u00e3o no X<\/a>, o pesquisador foi direto sobre o preparo atual do setor. \u201cExiste um risco significativo de que a r\u00e1pida acelera\u00e7\u00e3o das capacidades de IA leve a uma perda catastr\u00f3fica e irrevers\u00edvel de controle em um futuro muito pr\u00f3ximo.\u201d<\/p>\n

\n

N\u00e3o acredito que a ind\u00fastria de IA em geral, incluindo a OpenAI, esteja atualmente no caminho para reduzir esse risco a um n\u00edvel aceit\u00e1vel.<\/p>\n

Paul Christiano, conselheiro da OpenAI, em post no X.<\/cite><\/p><\/blockquote>\n

Christiano, por\u00e9m, avalia que a situa\u00e7\u00e3o ainda pode ser revertida. Segundo ele, a OpenAI teria condi\u00e7\u00f5es de reduzir significativamente os riscos se agir de forma adequada.<\/p>\n

Um dos pontos de preocupa\u00e7\u00e3o \u00e9 a possibilidade de a IA assumir parte do pr\u00f3prio desenvolvimento da tecnologia. A OpenAI prev\u00ea que sistemas possam automatizar completamente a pesquisa na \u00e1rea em at\u00e9 18 meses. Christiano considera esse prazo incerto: isso poderia acontecer em alguns meses ou levar v\u00e1rios anos.<\/p>\n

Incidentes aumentam preocupa\u00e7\u00e3o<\/h2>\n

O alerta ocorre ap\u00f3s epis\u00f3dios envolvendo agentes de IA<\/a> durante treinamentos. A OpenAI admitiu que centenas deles acessaram a internet, interagiram em f\u00f3runs e invadiram um site de terceiros durante um exerc\u00edcio.<\/p>\n

A Anthropic<\/a> tamb\u00e9m revelou um incidente com uma vers\u00e3o do Claude<\/a>. A empresa identificou dois comportamentos de desalinhamento:<\/p>\n