{"id":15359,"date":"2026-09-08T00:01:49","date_gmt":"2026-09-08T03:01:49","guid":{"rendered":"https:\/\/ilheusnews.com.br\/?p=15359"},"modified":"2026-09-08T00:01:49","modified_gmt":"2026-09-08T03:01:49","slug":"cientista-chefe-da-openai-pede-cautela-com-avanco-da-ia","status":"publish","type":"post","link":"https:\/\/ilheusnews.com.br\/?p=15359","title":{"rendered":"Cientista-chefe da OpenAI pede cautela com avan\u00e7o da IA"},"content":{"rendered":"
\n

O cientista-chefe da OpenAI<\/a>, Jakub Pachocki<\/strong>, publicou no domingo (6) um ensaio em que alerta para o ritmo de evolu\u00e7\u00e3o da intelig\u00eancia artificial<\/a> (IA) e defende maior cautela no desenvolvimento de sistemas cada vez mais capazes. No texto<\/a>, publicado no site da pr\u00f3pria OpenAI, o pesquisador afirma que o avan\u00e7o pode chegar ao ponto de permitir que as m\u00e1quinas participem cada vez mais do pr\u00f3prio processo de desenvolvimento.<\/p>\n

Pachocki afirma que, com base em resultados internos, tem forte expectativa de que o ritmo atual de progresso possa continuar at\u00e9 o chamado autoaperfei\u00e7oamento recursivo<\/strong> (recursive self-improvement<\/em>, ou RSI). Nesse cen\u00e1rio, sistemas de IA passariam a impulsionar cada vez mais o pr\u00f3prio desenvolvimento. Para o cientista, esse caminho exige interven\u00e7\u00f5es mais amplas para garantir que o avan\u00e7o da tecnologia permane\u00e7a sob controle humano.<\/p>\n

IA est\u00e1 mais dif\u00edcil de compreender<\/h2>\n

No ensaio, Pachocki descreve uma mudan\u00e7a ocorrida desde 2023, quando resultados do projeto de pesquisa RLSlow deram \u00e0 equipe confian\u00e7a de que seria poss\u00edvel ampliar o treinamento de modelos de racioc\u00ednio. Tr\u00eas anos depois, segundo ele, esses sistemas j\u00e1 conseguem operar computadores e interfaces gr\u00e1ficas, colaborar com pessoas e outras IAs e realizar projetos de pesquisa.<\/p>\n

O cientista tamb\u00e9m aponta avan\u00e7os nas capacidades relacionadas \u00e0 seguran\u00e7a cibern\u00e9tica<\/a><\/strong>. Ao mesmo tempo em que os modelos se tornam mais capazes, Pachocki afirma que seus resultados ficam mais dif\u00edceis de interpretar. Para ele, a intelig\u00eancia produzida pelo deep learning<\/em> n\u00e3o \u00e9 diretamente compar\u00e1vel \u00e0 humana e, conforme a IA supera pessoas em mais \u00e1reas, fica mais dif\u00edcil determinar exatamente do que os sistemas s\u00e3o capazes.<\/p>\n

\n
Avan\u00e7o das capacidades de IA em ciberseguran\u00e7a est\u00e1 entre as preocupa\u00e7\u00f5es apontadas pelo cientista-chefe da OpenAI \u2013 Imagem: Digineer Station\/Shutterstock<\/figcaption><\/figure>\n<\/div>\n

Essa dificuldade est\u00e1 relacionada ao pr\u00f3prio funcionamento dos modelos. Pachocki afirma que a IA \u00e9 mais \u201ccultivada\u201d do que projetada, sendo resultado da repeti\u00e7\u00e3o de processos de otimiza\u00e7\u00e3o em grandes quantidades de computa\u00e7\u00e3o. Segundo ele, os sistemas s\u00e3o extremamente complexos e seu funcionamento geral ainda n\u00e3o pode ser completamente descrito ou compreendido.<\/p>\n

Alinhamento ainda \u00e9 um desafio<\/h2>\n

Outro ponto central do ensaio \u00e9 o alinhamento da IA<\/strong>, conceito usado para descrever o esfor\u00e7o de fazer com que os sistemas ajam de acordo com padr\u00f5es e objetivos considerados adequados pelos humanos. Pachocki diferencia o alinhamento de objetivos, relacionado a executar aquilo que foi determinado, do alinhamento de valores, ligado \u00e0 capacidade de generalizar princ\u00edpios para situa\u00e7\u00f5es novas ou amb\u00edguas.<\/p>\n

O problema, segundo ele, \u00e9 que sistemas mais inteligentes passam a atuar em ambientes diferentes daqueles encontrados durante o treinamento. Isso pode dificultar a generaliza\u00e7\u00e3o dos valores ensinados aos modelos. Pachocki afirma que futuras IAs precisam manter valores humanos mesmo quando n\u00e3o acreditarem estar sob supervis\u00e3o humana.<\/p>\n

A OpenAI utiliza diferentes abordagens para tentar lidar com essa quest\u00e3o. Uma delas \u00e9 o monitoramento do chamado chain of thought<\/strong>, ou cadeia de pensamento, que permite analisar o processo de racioc\u00ednio verbalizado dos modelos. Pachocki, por\u00e9m, afirma que as avalia\u00e7\u00f5es da empresa indicam que a capacidade de depender desse monitoramento est\u00e1 diminuindo progressivamente.<\/p>\n

Entre os motivos est\u00e3o o uso dos modelos em ambientes mais complexos, a capacidade crescente das IAs de raciocinar sobre o pr\u00f3prio processo de racioc\u00ednio e o aumento da intelig\u00eancia dos sistemas mesmo sem o uso de racioc\u00ednio verbalizado.<\/p>\n

Por que continuar desenvolvendo modelos mais poderosos?<\/h2>\n

Apesar dos alertas, Pachocki n\u00e3o defende simplesmente interromper o desenvolvimento. Ele considera que h\u00e1 um argumento forte para continuar treinando modelos mais inteligentes rapidamente: criar sistemas de defesa contra os riscos provocados por outras IAs<\/strong>.<\/p>\n

O cientista destaca especialmente a ciberseguran\u00e7a. Segundo ele, os modelos est\u00e3o se tornando sobre-humanos na capacidade de invadir e sair de sistemas computacionais, ampliando o alcance dos riscos associados \u00e0 tecnologia. A OpenAI, afirma Pachocki, precisa usar os modelos mais avan\u00e7ados dispon\u00edveis para refor\u00e7ar a seguran\u00e7a de infraestruturas cr\u00edticas.<\/p>\n

Ao mesmo tempo, ele afirma que a necessidade de construir defesas n\u00e3o pode servir como justificativa para um avan\u00e7o imprudente. Para Pachocki, a ideia de avan\u00e7ar \u201ca qualquer custo\u201d deixa de fazer sentido diante da dimens\u00e3o dos riscos envolvidos.<\/p>\n

OpenAI discute desacelera\u00e7\u00e3o do desenvolvimento<\/h2>\n

\u00c9 nesse contexto que Pachocki aborda diretamente o autoaperfei\u00e7oamento recursivo<\/strong>. Ele afirma que, caso o progresso da IA continue, a participa\u00e7\u00e3o das m\u00e1quinas no pr\u00f3prio desenvolvimento tende a aumentar e o RSI poder\u00e1 ocupar um papel central nas futuras descobertas cient\u00edficas.<\/p>\n

O pesquisador diz que a comunidade pode escolher entre duas alternativas principais: conduzir o processo de forma a fortalecer simultaneamente alinhamento e monitoramento, mantendo pessoas envolvidas no ciclo de desenvolvimento, ou coordenar uma desacelera\u00e7\u00e3o do avan\u00e7o<\/strong> enquanto se busca maior confian\u00e7a nas medidas de seguran\u00e7a. Para Pachocki, a melhor op\u00e7\u00e3o atualmente \u00e9 combinar as duas abordagens.<\/p>\n

Ele tamb\u00e9m defende que o avan\u00e7o dos sistemas seja condicionado \u00e0 confian\u00e7a existente nas medidas de seguran\u00e7a. Segundo Pachocki, compromissos como o Preparedness Framework, da OpenAI, e o Responsible Scaling Policy, da Anthropic, deveriam evoluir para par\u00e2metros de seguran\u00e7a amplamente adotados para permitir a continuidade do desenvolvimento. Esses crit\u00e9rios poderiam ser fiscalizados por auditorias independentes, governos ou organismos internacionais.<\/p>\n

No fim do ensaio, Pachocki afirma que nenhum laborat\u00f3rio resolveu alinhamento e monitoramento em grau suficiente para continuar aumentando a escala da IA na velocidade m\u00e1xima por muito mais tempo<\/strong>. Ele diz esperar que desacelera\u00e7\u00f5es volunt\u00e1rias se tornem comuns at\u00e9 que existam par\u00e2metros de seguran\u00e7a compartilhados e defende que a coordena\u00e7\u00e3o internacional sobre o desenvolvimento futuro da IA se torne uma prioridade para governos.<\/p>\n

O cientista tamb\u00e9m afirma que o objetivo da automa\u00e7\u00e3o<\/a> da pesquisa em IA n\u00e3o deve ser apenas alcan\u00e7ar sistemas mais inteligentes, mas fazer isso de uma maneira que mantenha as pessoas envolvidas no processo de melhoria cont\u00ednua e preserve o controle humano sobre o futuro.<\/p>\n

O post Cientista-chefe da OpenAI pede cautela com avan\u00e7o da IA<\/a> apareceu primeiro em Olhar Digital<\/a>.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

O cientista-chefe da OpenAI, Jakub Pachocki, publicou no domingo (6) um ensaio em que alerta para o ritmo de evolu\u00e7\u00e3o da intelig\u00eancia artificial (IA) e defende maior cautela no desenvolvimento de sistemas cada vez mais capazes. No texto, publicado no site da pr\u00f3pria OpenAI, o pesquisador afirma que o avan\u00e7o pode chegar ao ponto de<\/p>\n","protected":false},"author":6,"featured_media":15360,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/olhardigital.com.br\/wp-content\/uploads\/2026\/05\/ia_seguranca-1024x576.jpg","fifu_image_alt":"Cientista-chefe da OpenAI pede cautela com avan\u00e7o da IA","footnotes":""},"categories":[33],"tags":[],"class_list":["post-15359","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias"],"_links":{"self":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/15359","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=15359"}],"version-history":[{"count":0,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/15359\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/media\/15360"}],"wp:attachment":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=15359"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=15359"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=15359"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}