{"id":16783,"date":"2026-10-05T00:01:48","date_gmt":"2026-10-05T03:01:48","guid":{"rendered":"https:\/\/ilheusnews.com.br\/?p=16783"},"modified":"2026-10-05T00:01:48","modified_gmt":"2026-10-05T03:01:48","slug":"ia-consegue-saber-pelo-cerebro-quando-entendeu-errado-o-que-voce-quis-dizer","status":"publish","type":"post","link":"https:\/\/ilheusnews.com.br\/?p=16783","title":{"rendered":"IA consegue saber pelo c\u00e9rebro quando entendeu errado o que voc\u00ea quis dizer"},"content":{"rendered":"<div>\n<p>Pesquisadores desenvolveram uma tecnologia capaz de identificar, por meio de sinais <a href=\"https:\/\/olhardigital.com.br\/tag\/cerebro\" target=\"_blank\" rel=\"noreferrer noopener\">cerebrais<\/a>, quando uma <a href=\"https:\/\/olhardigital.com.br\/tag\/inteligencia-artificial\/\" target=\"_blank\" rel=\"noreferrer noopener\">intelig\u00eancia artificial (IA)<\/a> interpretou incorretamente a inten\u00e7\u00e3o de uma pessoa. A proposta \u00e9 permitir que sistemas de IA percebam uma esp\u00e9cie de \u201cisso n\u00e3o era o que eu quis dizer\u201d sem que o usu\u00e1rio precise verbalizar a corre\u00e7\u00e3o.<\/p>\n<p>O trabalho foi desenvolvido por pesquisadores do Korea Advanced Institute of Science and Technology (KAIST), em colabora\u00e7\u00e3o com a <a href=\"https:\/\/olhardigital.com.br\/tag\/microsoft\" target=\"_blank\" rel=\"noreferrer noopener\">Microsoft<\/a> Research Asia. A tecnologia, chamada <strong>Neural Value Alignment (NVA)<\/strong>, utiliza interface c\u00e9rebro-computador para analisar sinais obtidos por eletroencefalografia (EEG) e fazer com que a IA ajuste seu comportamento em tempo real.<\/p>\n<p>A ideia parte de um problema comum na intera\u00e7\u00e3o entre pessoas e m\u00e1quinas: uma mesma a\u00e7\u00e3o humana pode representar objetivos diferentes, enquanto um mesmo objetivo pode ser alcan\u00e7ado de v\u00e1rias maneiras.<\/p>\n<p>Por exemplo, uma pessoa pegar uma x\u00edcara n\u00e3o significa necessariamente que pretende beber nela. Ela pode querer entregar o objeto a algu\u00e9m, lav\u00e1-lo ou simplesmente coloc\u00e1-lo em outro lugar. Da mesma forma, se o objetivo for matar a sede, a pessoa pode pegar uma x\u00edcara, buscar uma garrafa de \u00e1gua ou pedir que algu\u00e9m leve uma bebida.<\/p>\n<p>Essa ambiguidade entre <strong>objetivo e a\u00e7\u00e3o<\/strong> faz com que sistemas de IA possam interpretar corretamente uma a\u00e7\u00e3o, mas errar sobre o que a pessoa realmente queria \u2014 ou compreender o objetivo e escolher uma maneira diferente daquela esperada pelo usu\u00e1rio.<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-o-cerebro-entrega-o-erro\">O c\u00e9rebro entrega o erro<\/h2>\n<ul>\n<li>Para contornar o problema, os pesquisadores decidiram observar uma rea\u00e7\u00e3o que ocorre no c\u00e9rebro quando algo inesperado acontece;<\/li>\n<li>O c\u00e9rebro humano faz previs\u00f5es constantes sobre o que dever\u00e1 acontecer. Quando o resultado n\u00e3o corresponde ao esperado, determinados sinais neurais podem aparecer. A equipe concentrou-se em dois deles: o <strong>erro de previs\u00e3o de recompensa (RPE, na sigla em ingl\u00eas)<\/strong> e o <strong>erro de previs\u00e3o de estado (SPE, na sigla em ingl\u00eas)<\/strong>;<\/li>\n<li>O RPE indica discrep\u00e2ncia relacionada ao resultado ou objetivo. No sistema desenvolvido pelos pesquisadores, ele pode indicar que a IA n\u00e3o entendeu o que a pessoa realmente queria;<\/li>\n<li>Imagine, por exemplo, que algu\u00e9m pe\u00e7a a um rob\u00f4 dom\u00e9stico algo para beber. A pessoa queria \u00e1gua, mas o rob\u00f4 entrega caf\u00e9. O resultado est\u00e1 errado, e o c\u00e9rebro pode produzir um sinal de RPE;<\/li>\n<li>O SPE funciona de maneira diferente. Nesse caso, o objetivo est\u00e1 correto, mas o m\u00e9todo utilizado pela IA n\u00e3o corresponde ao esperado;<\/li>\n<li>Se a pessoa quer \u00e1gua e o rob\u00f4 entende isso, mas, em vez de pegar uma garrafa que est\u00e1 ao lado dela, vai at\u00e9 a cozinha e enche um copo na torneira, o objetivo foi alcan\u00e7ado, mas o caminho escolhido n\u00e3o era o esperado. Essa diferen\u00e7a pode produzir um SPE.<\/li>\n<\/ul>\n<h2 class=\"wp-block-heading\" id=\"h-ia-aprende-a-diferenciar-objetivo-e-metodo\">IA aprende a diferenciar objetivo e m\u00e9todo<\/h2>\n<p>Durante os experimentos, os pesquisadores identificaram padr\u00f5es diferentes nas ondas cerebrais quando ocorria um RPE, um SPE ou os dois simultaneamente. Em seguida, aplicaram t\u00e9cnicas de aprendizado profundo aos sinais captados pelo EEG. Com isso, o sistema conseguiu classificar a resposta da pessoa \u00e0 atua\u00e7\u00e3o da IA.<\/p>\n<p>Na pr\u00e1tica, a tecnologia pode distinguir entre duas situa\u00e7\u00f5es: <strong>\u201cvoc\u00ea entendeu meu objetivo errado\u201d<\/strong> e <strong>\u201cvoc\u00ea entendeu o objetivo, mas fez do jeito errado\u201d<\/strong>. Os sinais decodificados s\u00e3o ent\u00e3o utilizados como retorno para o processo de decis\u00e3o da IA.<\/p>\n<\/p>\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-large\"><figcaption class=\"wp-element-caption\">Instituto de pesquisa da Microsoft atuou no projeto \u2013 Imagem: PJ McDonnell\/Shutterstock<\/figcaption><\/figure>\n<\/div>\n<p>Quando identifica um SPE, o sistema interpreta que o objetivo est\u00e1 correto, mas a estrat\u00e9gia precisa ser modificada. J\u00e1 um RPE indica que o pr\u00f3prio objetivo foi compreendido de maneira equivocada e que a IA precisa tentar novamente descobrir o que a pessoa pretendia.<\/p>\n<p><a href=\"https:\/\/news.kaist.ac.kr\/newsen\/html\/news\/?mode=V&amp;mng_no=66890\" target=\"_blank\" rel=\"noreferrer noopener\">Segundo o KAIST<\/a>, simula\u00e7\u00f5es mostraram que o m\u00e9todo conseguiu se adaptar mais rapidamente do que abordagens existentes, mesmo em situa\u00e7\u00f5es de incerteza, como mudan\u00e7as repentinas no objetivo de uma pessoa ou aus\u00eancia de parte do retorno neural.<\/p>\n<p>O estudo foi <a href=\"https:\/\/ieeexplore.ieee.org\/document\/11663526\" target=\"_blank\" rel=\"noreferrer noopener\">publicado<\/a> em agosto de 2026 na revista <strong><em>IEEE Transactions on Cybernetics<\/em><\/strong>, com o t\u00edtulo <em>Neural Value Alignment: Human\u2013AI Collaboration Under Goal\u2013Action Ambiguity<\/em>.<\/p>\n<p><strong>Leia mais:<\/strong><\/p>\n<ul>\n<li><a href=\"https:\/\/olhardigital.com.br\/2026\/10\/04\/inteligencia-artificial\/o-desafio-de-construir-a-proxima-geracao-da-inteligencia-artificial\/\" target=\"_blank\" rel=\"noreferrer noopener\">O desafio de construir a pr\u00f3xima gera\u00e7\u00e3o da intelig\u00eancia artificial<\/a><\/li>\n<li><a href=\"https:\/\/olhardigital.com.br\/2026\/10\/04\/inteligencia-artificial\/openai-e-criticada-por-ex-funcionario-que-alerta-para-riscos-da-ia\/\" target=\"_blank\" rel=\"noreferrer noopener\">OpenAI \u00e9 criticada por ex-funcion\u00e1rio que alerta para riscos da IA<\/a><\/li>\n<li><a href=\"https:\/\/olhardigital.com.br\/2026\/10\/04\/inteligencia-artificial\/trump-anuncia-forca-de-superinteligencia-para-coordenar-avanco-da-ia-nos-eua\/\" target=\"_blank\" rel=\"noreferrer noopener\">Trump anuncia \u201cfor\u00e7a de superintelig\u00eancia\u201d para coordenar avan\u00e7o da IA nos EUA<\/a><\/li>\n<\/ul>\n<h2 class=\"wp-block-heading\" id=\"h-tecnologia-pode-chegar-aos-robos\">Tecnologia pode chegar aos rob\u00f4s<\/h2>\n<p>Os pesquisadores veem possibilidades de aplica\u00e7\u00e3o em sistemas que precisam trabalhar pr\u00f3ximos aos seres humanos.<\/p>\n<p>Uma delas envolve rob\u00f4s f\u00edsicos. Um rob\u00f4 dom\u00e9stico, por exemplo, poderia identificar, por meio da resposta cerebral do usu\u00e1rio, que interpretou uma instru\u00e7\u00e3o de maneira incorreta e modificar seu comportamento sem esperar uma nova ordem verbal.<\/p>\n<p>A mesma abordagem poderia ser aplicada a rob\u00f4s industriais, ve\u00edculos aut\u00f4nomos que precisam responder ao julgamento do motorista, sistemas m\u00e9dicos e de reabilita\u00e7\u00e3o voltados a pessoas com dificuldades para falar ou se movimentar e ferramentas educacionais capazes de adaptar seu comportamento ao estado cognitivo do estudante.<\/p>\n<p>Para Sang Wan Lee, professor do KAIST e respons\u00e1vel pela pesquisa, o trabalho demonstra que a IA pode ir al\u00e9m da interpreta\u00e7\u00e3o da inten\u00e7\u00e3o humana baseada apenas em comportamentos observ\u00e1veis. Segundo ele, o sistema permite utilizar diretamente sinais cognitivos produzidos pelo c\u00e9rebro durante a intera\u00e7\u00e3o entre pessoas e IA.<\/p>\n<p>Apesar do potencial, a tecnologia ainda est\u00e1 longe de permitir que uma pessoa simplesmente pense que um rob\u00f4 est\u00e1 fazendo algo errado e fa\u00e7a a m\u00e1quina parar imediatamente. O sistema foi demonstrado em <strong>simula\u00e7\u00f5es<\/strong>, e n\u00e3o em um rob\u00f4 operando livremente em um ambiente real enquanto acompanha continuamente o EEG de uma pessoa e modifica seu comportamento.<\/p>\n<p>Al\u00e9m disso, o EEG depende de eletrodos para medir sinais el\u00e9tricos extremamente pequenos produzidos pelo c\u00e9rebro. Esses sinais podem apresentar ru\u00eddo e s\u00e3o mais dif\u00edceis de obter fora de ambientes controlados.<\/p>\n<p>Por isso, ainda ser\u00e1 necess\u00e1rio verificar o desempenho da NVA em intera\u00e7\u00f5es naturais, nas quais as pessoas se movimentam e enfrentam situa\u00e7\u00f5es muito menos previs\u00edveis do que aquelas utilizadas em experimentos de laborat\u00f3rio.<\/p>\n<p>O post <a href=\"https:\/\/olhardigital.com.br\/2026\/10\/04\/inteligencia-artificial\/ia-consegue-saber-pelo-cerebro-quando-entendeu-errado-o-que-voce-quis-dizer\/\">IA consegue saber pelo c\u00e9rebro quando entendeu errado o que voc\u00ea quis dizer<\/a> apareceu primeiro em <a href=\"https:\/\/olhardigital.com.br\/\">Olhar Digital<\/a>.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"<p>Pesquisadores desenvolveram uma tecnologia capaz de identificar, por meio de sinais cerebrais, quando uma intelig\u00eancia artificial (IA) interpretou incorretamente a inten\u00e7\u00e3o de uma pessoa. A proposta \u00e9 permitir que sistemas de IA percebam uma esp\u00e9cie de \u201cisso n\u00e3o era o que eu quis dizer\u201d sem que o usu\u00e1rio precise verbalizar a corre\u00e7\u00e3o. O trabalho foi<\/p>\n","protected":false},"author":6,"featured_media":16784,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/olhardigital.com.br\/wp-content\/uploads\/2026\/07\/microsoft-1024x682.jpg","fifu_image_alt":"IA consegue saber pelo c\u00e9rebro quando entendeu errado o que voc\u00ea quis dizer","footnotes":""},"categories":[33],"tags":[],"class_list":["post-16783","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias"],"_links":{"self":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/16783","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=16783"}],"version-history":[{"count":0,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/16783\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/media\/16784"}],"wp:attachment":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=16783"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=16783"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=16783"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}