{"id":15136,"date":"2026-09-03T00:01:29","date_gmt":"2026-09-03T03:01:29","guid":{"rendered":"https:\/\/ilheusnews.com.br\/?p=15136"},"modified":"2026-09-03T00:01:29","modified_gmt":"2026-09-03T03:01:29","slug":"nova-tecnica-da-openai-pode-tornar-seus-modelos-mais-dificeis-de-monitorar","status":"publish","type":"post","link":"https:\/\/ilheusnews.com.br\/?p=15136","title":{"rendered":"Nova t\u00e9cnica da OpenAI pode tornar seus modelos mais dif\u00edceis de monitorar"},"content":{"rendered":"
\n

Uma nova t\u00e9cnica de racioc\u00ednio que ser\u00e1 utilizada pelo pr\u00f3ximo modelo de intelig\u00eancia artificial (IA) da OpenAI<\/a>, chamado Astra<\/a><\/strong>, est\u00e1 preocupando especialistas em seguran\u00e7a de IA. O m\u00e9todo, conhecido como \u201crecurrent depth\u201d<\/strong> ou \u201crecorr\u00eancia opaca\u201d<\/strong>, permite que o modelo v\u00e1 al\u00e9m do processo de pensamento sequencial caracter\u00edstico da maioria dos modelos de racioc\u00ednio.<\/p>\n

A preocupa\u00e7\u00e3o est\u00e1 justamente no fato de que essa abordagem pode tornar o chamado chain of thought<\/strong>, ou cadeia de pensamento, mais dif\u00edcil de monitorar. Para especialistas em seguran\u00e7a, isso pode reduzir a capacidade de acompanhar o que um modelo est\u00e1 fazendo internamente e identificar comportamentos potencialmente perigosos.<\/p>\n

Segundo informa\u00e7\u00f5es obtidas pelo The Information<\/a><\/em>, o uso da t\u00e9cnica no Astra ser\u00e1 limitado. Mesmo assim, a possibilidade de ampliar sua utiliza\u00e7\u00e3o no futuro j\u00e1 provocou rea\u00e7\u00e3o entre pesquisadores da \u00e1rea.<\/p>\n

Buck Shlegeris, CEO da Redwood, afirmou<\/a> estar \u201cextremamente preocupado\u201d com os relatos sobre o uso da recorr\u00eancia opaca no Astra.<\/p>\n

\u201cN\u00e3o sei se o Astra \u00e9 muito menos monitor\u00e1vel por CoT do que os modelos anteriores. Mas, se a OpenAI levar essa t\u00e9cnica adiante, ter\u00e1 a op\u00e7\u00e3o de aumentar enormemente a recorr\u00eancia e destruir completamente a monitorabilidade por CoT\u201d, escreveu o especialista.<\/p>\n

Por que a t\u00e9cnica preocupa?<\/h2>\n

Em condi\u00e7\u00f5es normais, um modelo de racioc\u00ednio apresenta uma sequ\u00eancia de etapas enquanto tenta solucionar um problema. Embora essa representa\u00e7\u00e3o n\u00e3o seja perfeita, ela pode funcionar como uma ferramenta importante para monitorar poss\u00edveis comportamentos inadequados ou sinais de desalinhamento.<\/p>\n

A cadeia de pensamento tamb\u00e9m teve papel importante na investiga\u00e7\u00e3o de comportamentos recentes de agentes de IA considerados problem\u00e1ticos. Os registros ajudaram pesquisadores a entender por que determinados agentes estavam se comportando de determinadas maneiras.<\/p>\n

\u00c9 justamente esse mecanismo de supervis\u00e3o que pode ser prejudicado pela recorr\u00eancia opaca. Em vez de seguir necessariamente uma sequ\u00eancia convencional de etapas, a t\u00e9cnica permite que o modelo realize processamento recorrente. Para especialistas, quanto maior for a utiliza\u00e7\u00e3o desse mecanismo, mais dif\u00edcil poder\u00e1 ser observar e interpretar o processo que levou o sistema a determinada decis\u00e3o.<\/p>\n<\/p>\n

\n
Segundo informa\u00e7\u00f5es, o uso da t\u00e9cnica no Astra pela OpenAI ser\u00e1 limitado; mesmo assim, a possibilidade de ampliar sua utiliza\u00e7\u00e3o no futuro j\u00e1 provocou rea\u00e7\u00e3o entre pesquisadores da \u00e1rea \u2013 Imagem: Evolf\/Shutterstock<\/figcaption><\/figure>\n<\/div>\n

Zvi Mowshowitz, conhecido defensor da seguran\u00e7a de IA, tamb\u00e9m reagiu \u00e0 novidade e afirmou<\/a> que talvez sejam necess\u00e1rias leis para impedir uma esp\u00e9cie de \u201ccorrida para o fundo do po\u00e7o\u201d entre laborat\u00f3rios de intelig\u00eancia artificial.<\/p>\n

\u201cO m\u00e9todo est\u00e1 brincando com fogo, arriscando um tabu que a OpenAI e a Anthropic t\u00eam lutado para estabelecer: trabalhar arduamente para manter a fidelidade e a monitorabilidade da cadeia de pensamento pelo maior tempo poss\u00edvel\u201d, escreveu Mowshowitz.<\/p>\n

Segundo ele, uma utiliza\u00e7\u00e3o mais intensa dessas t\u00e9cnicas provavelmente prejudicaria a capacidade de monitoramento dos modelos.<\/p>\n

OpenAI diz que cadeia de pensamento continuar\u00e1 leg\u00edvel<\/h2>\n

Apesar das preocupa\u00e7\u00f5es, a utiliza\u00e7\u00e3o da t\u00e9cnica pelo Astra aparentemente ser\u00e1 limitada.<\/p>\n

A cadeia de pensamento do modelo ainda dever\u00e1 permanecer leg\u00edvel<\/strong>, segundo as informa\u00e7\u00f5es dispon\u00edveis. A OpenAI tamb\u00e9m rejeitou qualquer sugest\u00e3o de que o novo sistema passaria a utilizar uma forma de processamento completamente inacess\u00edvel, descrita como \u201cneuralese\u201d.<\/p>\n

A empresa j\u00e1 anunciou planos para desenvolver sistemas extensivos de monitoramento da cadeia de pensamento como parte de suas estrat\u00e9gias futuras de seguran\u00e7a.<\/p>\n

Isso significa que a preocupa\u00e7\u00e3o dos especialistas n\u00e3o est\u00e1 necessariamente relacionada ao comportamento atual do Astra, mas ao que poder\u00e1 acontecer caso a t\u00e9cnica de recorr\u00eancia seja ampliada em vers\u00f5es futuras.<\/p>\n

O receio \u00e9 que um aumento significativo da recorr\u00eancia possa fazer com que os modelos tenham processos internos cada vez mais dif\u00edceis de acompanhar, justamente \u00e0 medida que suas capacidades tamb\u00e9m aumentam.<\/p>\n

O post Nova t\u00e9cnica da OpenAI pode tornar seus modelos mais dif\u00edceis de monitorar<\/a> apareceu primeiro em Olhar Digital<\/a>.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

Uma nova t\u00e9cnica de racioc\u00ednio que ser\u00e1 utilizada pelo pr\u00f3ximo modelo de intelig\u00eancia artificial (IA) da OpenAI, chamado Astra, est\u00e1 preocupando especialistas em seguran\u00e7a de IA. O m\u00e9todo, conhecido como \u201crecurrent depth\u201d ou \u201crecorr\u00eancia opaca\u201d, permite que o modelo v\u00e1 al\u00e9m do processo de pensamento sequencial caracter\u00edstico da maioria dos modelos de racioc\u00ednio. A preocupa\u00e7\u00e3o<\/p>\n","protected":false},"author":6,"featured_media":15137,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/olhardigital.com.br\/wp-content\/uploads\/2026\/09\/openai_-1024x637.jpg","fifu_image_alt":"Nova t\u00e9cnica da OpenAI pode tornar seus modelos mais dif\u00edceis de monitorar","footnotes":""},"categories":[33],"tags":[],"class_list":["post-15136","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias"],"_links":{"self":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/15136","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=15136"}],"version-history":[{"count":0,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/15136\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/media\/15137"}],"wp:attachment":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=15136"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=15136"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=15136"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}