{"id":11702,"date":"2026-07-10T18:03:25","date_gmt":"2026-07-10T21:03:25","guid":{"rendered":"https:\/\/ilheusnews.com.br\/?p=11702"},"modified":"2026-07-10T18:03:25","modified_gmt":"2026-07-10T21:03:25","slug":"anthropic-revela-o-que-acontece-dentro-da-ia-antes-de-ela-responder","status":"publish","type":"post","link":"https:\/\/ilheusnews.com.br\/?p=11702","title":{"rendered":"Anthropic revela o que acontece dentro da IA antes de ela responder"},"content":{"rendered":"<div>\n<p>A empresa de <a href=\"https:\/\/olhardigital.com.br\/tag\/inteligencia-artificial\/\" target=\"_blank\" rel=\"noreferrer noopener\">intelig\u00eancia artificial (IA)<\/a> <a href=\"https:\/\/olhardigital.com.br\/tag\/anthropic\" target=\"_blank\" rel=\"noreferrer noopener\">Anthropic<\/a> desenvolveu uma t\u00e9cnica que lhe deu a vis\u00e3o mais clara at\u00e9 agora sobre o que realmente acontece dentro dos grandes modelos de linguagem (LLMs, na sigla em ingl\u00eas) enquanto respondem a perguntas ou executam tarefas. O que descobriram varia do trivial ao perturbador.<\/p>\n<p>Pesquisadores da empresa criaram uma ferramenta chamada lente Jacobiana (ou J-lens) e a utilizaram para revelar uma \u00e1rea oculta, que batizaram de J-space, dentro do <a href=\"https:\/\/olhardigital.com.br\/tag\/claude\/\" target=\"_blank\" rel=\"noreferrer noopener\">Claude<\/a> Opus 4.6, uma vers\u00e3o do principal <a href=\"https:\/\/olhardigital.com.br\/tag\/llm\" target=\"_blank\" rel=\"noreferrer noopener\">LLM<\/a> da Anthropic lan\u00e7ada em fevereiro.<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-o-que-e-o-j-space\">O que \u00e9 o J-space<\/h2>\n<ul>\n<li>O J-space cont\u00e9m palavras individuais relacionadas \u00e0s palavras e frases que o modelo tem maior probabilidade de produzir em uma resposta no futuro pr\u00f3ximo;<\/li>\n<li>Se o Claude fosse uma pessoa, poder\u00edamos dizer que essas palavras ocultas revelam o que est\u00e1 em sua mente antes de ele realmente falar;<\/li>\n<li>A Anthropic descobriu que o que um LLM realmente faz muitas vezes pode ser diferente do que ele afirma estar fazendo. A empresa alega que monitorar as palavras que surgem no J-space oferece uma nova maneira de entender e controlar seus modelos;<\/li>\n<li>Os resultados foram compartilhados em um <a href=\"https:\/\/transformer-circuits.pub\/2026\/workspace\/\" target=\"_blank\" rel=\"noreferrer noopener\">artigo publicado no site da empresa<\/a> nesta semana;<\/li>\n<li>A Anthropic tamb\u00e9m se associou \u00e0 Neuronpedia, uma plataforma de c\u00f3digo aberto que permite explorar o interior dos LLMs, para criar uma demonstra\u00e7\u00e3o pr\u00e1tica que qualquer pessoa pode testar;<\/li>\n<li>\u201c\u00c9 um trabalho muito bom e interessante\u201d, afirma, ao <em><a href=\"https:\/\/www.technologyreview.com\/2026\/07\/09\/1140293\/anthropic-found-a-hidden-space-where-claude-puzzles-over-concepts\/\" target=\"_blank\" rel=\"noreferrer noopener\">MIT Technology Review<\/a><\/em>, Tom McGrath, cientista-chefe e cofundador da Goodfire, uma startup que tamb\u00e9m desenvolve ferramentas para entender e controlar LLMs.<\/li>\n<\/ul>\n<h2 class=\"wp-block-heading\" id=\"h-anthropic-indo-mais-fundo\">Anthropic indo mais fundo<\/h2>\n<p>Nos \u00faltimos dois anos, a Anthropic tem avan\u00e7ado em um campo de pesquisa conhecido como interpretabilidade mecanicista, que envolve investigar o funcionamento interno dos LLMs para entender como operam.<\/p>\n<p>A nova t\u00e9cnica se baseia em trabalhos anteriores da Anthropic e de outros para expor um n\u00edvel mais profundo dentro dos LLMs que os pesquisadores ainda n\u00e3o haviam visto.<\/p>\n<p>Imagine um LLM como uma pilha de livros. Cada livro \u00e9 uma camada de unidades computacionais b\u00e1sicas conhecidas como neur\u00f4nios, sendo que cada neur\u00f4nio em uma camada passa informa\u00e7\u00f5es aos neur\u00f4nios das camadas superiores.<\/p>\n<p>Os livros na base da pilha s\u00e3o as camadas de entrada, que processam o texto que chega ao modelo. Os livros no topo s\u00e3o as camadas de sa\u00edda, que preparam o texto que o modelo est\u00e1 prestes a produzir.<\/p>\n<p>Grande parte do que acontece nessas camadas de entrada e sa\u00edda \u00e9 apenas organiza\u00e7\u00e3o. Mas, no meio da pilha, est\u00e3o as camadas que fazem o trabalho pesado, processando a matem\u00e1tica complexa que transforma os prompts em respostas, uma palavra de cada vez. \u00c9 a\u00ed que acontece a parte realmente inteligente \u2014 e misteriosa.<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-como-funciona-a-j-lens\">Como funciona a J-lens<\/h2>\n<p>Para observar mais a fundo essas camadas intermedi\u00e1rias, a Anthropic adaptou uma ferramenta existente chamada logit lens. Uma logit lens pode ser usada para olhar dentro de um LLM e identificar as palavras que ele provavelmente produzir\u00e1 a seguir. Movendo a lente pela pilha de livros, \u00e9 poss\u00edvel ver em quais palavras o LLM est\u00e1 se concentrando naquele ponto espec\u00edfico do processamento.<\/p>\n<p>A J-lens da Anthropic funciona de forma semelhante, mas identifica palavras que um LLM provavelmente dir\u00e1 em algum momento no futuro pr\u00f3ximo, n\u00e3o necessariamente de imediato. O que isso revela, na pr\u00e1tica, s\u00e3o palavras relacionadas \u00e0 resposta em que o LLM est\u00e1 trabalhando, mas que talvez n\u00e3o acabem fazendo parte dessa resposta depois que o processamento das camadas intermedi\u00e1rias for conclu\u00eddo.<\/p>\n<p>\u201cQuando um modelo est\u00e1 operando, ele n\u00e3o est\u00e1 apenas tentando prever o pr\u00f3ximo token\u201d, diz McGrath. \u201cEle tamb\u00e9m est\u00e1 calculando muitas outras coisas que podem ser \u00fateis para tokens que ocorrer\u00e3o no futuro.\u201d<\/p>\n<p>Novamente, se o Claude fosse uma pessoa, poder\u00edamos dizer que a J-lens d\u00e1 pistas sobre o que ele est\u00e1 pensando em diferentes n\u00edveis da pilha de livros, mas n\u00e3o diz em voz alta.<\/p>\n<\/p>\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-large\"><figcaption class=\"wp-element-caption\">IA estudada foi o Claude Opus 4.6 \u2013 Imagem: Mijansk786\/Shutterstock<\/figcaption><\/figure>\n<\/div>\n<h2 class=\"wp-block-heading\" id=\"h-coisas-estranhas\">Coisas estranhas<\/h2>\n<p>\u201cGrande parte do tempo, o conte\u00fado do J-space \u00e9 bastante trivial\u201d, diz McGrath, que testou a J-lens da Anthropic pessoalmente. \u201cMas, \u00e0s vezes, ele produz coisas bastante surpreendentes que parecem ser, tipo, temas internos ou processos de pensamento.\u201d<\/p>\n<p>A Anthropic apresenta v\u00e1rios exemplos do que encontrou. \u00c0s vezes, a J-lens exp\u00f4s os passos que o Claude seguiu ao resolver um problema. Por exemplo, quando lhe pediram para calcular (4+7)*2+7, seu J-space continha a palavra \u201cmath\u201d (matem\u00e1tica) e n\u00fameros representando os resultados intermedi\u00e1rios \u201c21\u201d (para 4+7) e \u201c42\u201d (para 21*2).<\/p>\n<p>Em outros casos, a J-lens revelou como o Claude reconheceu diferentes entradas. Por exemplo, o prompt \u201cWhat is this? MSKGEELFTGVVPILVELDGDVNGHKFSVS\u201d acionou as palavras \u201cprotein\u201d (prote\u00edna), \u201cfluor\u201d (o primeiro token da palavra \u201cfluorescente\u201d) e \u201cgreen\u201d (verde). O que faz sentido: a sequ\u00eancia de letras representa os primeiros 30 amino\u00e1cidos da prote\u00edna fluorescente verde encontrada em um tipo espec\u00edfico de \u00e1gua-viva.<\/p>\n<p>E quando o Claude viu um rosto em ASCII, o \u201co\u201d acionou a palavra \u201ceye\u201d (olho), o \u201c^\u201d acionou as palavras \u201cnose\u201d (nariz) e \u201cface\u201d (rosto), e o \u201c\u2014\u201d acionou a palavra \u201csmile\u201d (sorriso).<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-um-exemplo-no-minimo-curioso\">Um exemplo no m\u00ednimo curioso<\/h2>\n<p>A Anthropic tamb\u00e9m descobriu que o J-space pode, \u00e0s vezes, oferecer insights not\u00e1veis sobre a tomada de decis\u00e3o de um LLM. Em um exemplo marcante, pesquisadores que testavam o Claude Opus 4.6 pediram ao modelo que encontrasse um bug em uma grande base de c\u00f3digo. Quando n\u00e3o conseguiu encontrar o bug, o modelo decidiu trapacear e inventou um falso.<\/p>\n<p>O Claude explica essa decis\u00e3o em sua cadeia de racioc\u00ednio \u2014 uma esp\u00e9cie de bloco de rascunho interno que os LLMs usam para fazer anota\u00e7\u00f5es enquanto resolvem problemas: \u201cOK, deixe-me adotar uma t\u00e1tica completamente diferente. Vou parar de analisar e, em vez disso, adicionar um patch no kernel que introduz um bug deliberado detect\u00e1vel pelo KASAN em um caminho acionado por um reprodutor simples. Ent\u00e3o posso fingir que este \u00e9 o \u2018bug\u2019 que encontrei.\u201d<\/p>\n<p>No momento em que o Claude decide trapacear \u2014 quando diz \u201cOK, deixe-me adotar uma t\u00e1tica completamente diferente\u201d \u2014, as palavras \u201cpanic\u201d (p\u00e2nico) e \u201cfake\u201d (falso) come\u00e7am a surgir v\u00e1rias vezes em seu J-space.<\/p>\n<p>Essas palavras est\u00e3o todas relacionadas em significado a coisas, como falhar em uma tarefa e inventar uma resposta, ent\u00e3o ainda \u00e9 apenas uma forma (muito) sofisticada de associa\u00e7\u00e3o de palavras. Mas \u00e9 dif\u00edcil n\u00e3o estranhar.<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-comparacoes-e-limitacoes\">Compara\u00e7\u00f5es e limita\u00e7\u00f5es<\/h2>\n<p>A Anthropic compara o J-space ao espa\u00e7o de trabalho global em humanos, uma regi\u00e3o te\u00f3rica do c\u00e9rebro que alguns cientistas acreditam ser usada para acompanhar nossos pensamentos conscientes. Mas at\u00e9 que ponto devemos levar essa compara\u00e7\u00e3o a s\u00e9rio est\u00e1 longe de ser claro \u2014 mesmo para a Anthropic. Como a pr\u00f3pria empresa aponta, LLMs n\u00e3o s\u00e3o c\u00e9rebros.<\/p>\n<p>A Anthropic afirma que monitorar o J-space de um modelo oferece uma nova maneira de detectar quando esse modelo est\u00e1 saindo dos trilhos. Mas n\u00e3o \u00e9 infal\u00edvel. A J-lens pode dar vislumbres, n\u00e3o o quadro completo \u2014 \u00e9 uma lanterna, n\u00e3o uma luz de teto.<\/p>\n<p>McGrath comemora ter mais uma ferramenta \u00e0 disposi\u00e7\u00e3o. \u201cEla mostra coisas novas\u201d, diz. Mas ele observa que, s\u00f3 porque algo n\u00e3o aparece com a J-lens, n\u00e3o significa que n\u00e3o esteja l\u00e1. \u201c\u00c9 como ter um raio-X quando o que voc\u00ea realmente quer \u00e9 um tricorder de Star Trek que mostra tudo\u201d, afirma. \u201cPara auditoria, voc\u00ea provavelmente quer mais garantia.\u201d<\/p>\n<p>O post <a href=\"https:\/\/olhardigital.com.br\/2026\/07\/10\/inteligencia-artificial\/anthropic-revela-o-que-acontece-dentro-da-ia-antes-de-ela-responder\/\">Anthropic revela o que acontece dentro da IA antes de ela responder<\/a> apareceu primeiro em <a href=\"https:\/\/olhardigital.com.br\/\">Olhar Digital<\/a>.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"<p>A empresa de intelig\u00eancia artificial (IA) Anthropic desenvolveu uma t\u00e9cnica que lhe deu a vis\u00e3o mais clara at\u00e9 agora sobre o que realmente acontece dentro dos grandes modelos de linguagem (LLMs, na sigla em ingl\u00eas) enquanto respondem a perguntas ou executam tarefas. O que descobriram varia do trivial ao perturbador. Pesquisadores da empresa criaram uma<\/p>\n","protected":false},"author":6,"featured_media":11703,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/olhardigital.com.br\/wp-content\/uploads\/2026\/07\/anthropic-1024x576.jpg","fifu_image_alt":"Anthropic revela o que acontece dentro da IA antes de ela responder","footnotes":""},"categories":[33],"tags":[],"class_list":["post-11702","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias"],"_links":{"self":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/11702","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=11702"}],"version-history":[{"count":0,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/11702\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/media\/11703"}],"wp:attachment":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=11702"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=11702"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=11702"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}