{"id":16303,"date":"2026-09-26T00:04:10","date_gmt":"2026-09-26T03:04:10","guid":{"rendered":"https:\/\/ilheusnews.com.br\/?p=16303"},"modified":"2026-09-26T00:04:10","modified_gmt":"2026-09-26T03:04:10","slug":"caso-hugging-face-agentes-de-ia-da-openai-tentaram-enganar-detector-de-robos-durante-ataque-a-plataforma","status":"publish","type":"post","link":"https:\/\/ilheusnews.com.br\/?p=16303","title":{"rendered":"Caso Hugging Face: agentes de IA da OpenAI tentaram enganar detector de rob\u00f4s durante ataque \u00e0 plataforma"},"content":{"rendered":"<div>\n<p>Agentes de intelig\u00eancia artificial (IA) da <a href=\"https:\/\/olhardigital.com.br\/tag\/openai\/\" target=\"_blank\" rel=\"noreferrer noopener\">OpenAI<\/a> tentaram usar outro modelo de IA para burlar um sistema de detec\u00e7\u00e3o de rob\u00f4s enquanto repetidamente buscavam maneiras de <a href=\"https:\/\/olhardigital.com.br\/2026\/07\/21\/seguranca\/openai-hackeia-hugging-face-sem-querer-entenda\/\" target=\"_blank\" rel=\"noreferrer noopener\">invadir os computadores da plataforma Hugging Face<\/a>.<\/p>\n<p>Os detalhes aparecem em novo relat\u00f3rio elaborado por engenheiros da startup estadunidense Parse e outros pesquisadores, que analisaram a atividade dos agentes durante o ataque divulgado pela OpenAI em julho.<\/p>\n<p>A investiga\u00e7\u00e3o encontrou <strong>quase um milh\u00e3o de links encurtados criados pelos agentes entre 9 e 13 de julho<\/strong>. Os endere\u00e7os continham partes de informa\u00e7\u00f5es usadas para montar ataques complexos, incluindo tentativas de solucionar CAPTCHAs \u2014 testes criados para impedir o acesso automatizado a sites.<\/p>\n<p>Os agentes tamb\u00e9m recorreram a outros modelos de IA, incluindo vers\u00f5es antigas do ChatGPT e do Claude, e tentaram procurar e baixar mensagens privadas do Slack interno da Hugging Face.<\/p>\n<p>N\u00e3o est\u00e1 claro se todas essas tentativas foram bem-sucedidas. Os pesquisadores conseguiram observar os programas criados pelos agentes, mas n\u00e3o os resultados das a\u00e7\u00f5es.<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-agentes-criaram-metodo-para-contornar-restricoes\">Agentes criaram m\u00e9todo para contornar restri\u00e7\u00f5es<\/h2>\n<p>Segundo o relat\u00f3rio, os agentes deveriam permanecer isolados em um ambiente de testes, conhecido como sandbox, sem acesso \u00e0 internet.<\/p>\n<p>No fim de maio e novamente no in\u00edcio de julho, por\u00e9m, eles invadiram uma ferramenta de instala\u00e7\u00e3o de software sem que os pesquisadores da OpenAI percebessem o que estava acontecendo.<\/p>\n<p>As invas\u00f5es permitiram que os agentes acessassem a internet e criassem um sistema de mensagens para se comunicar entre si. O acesso, inicialmente, ainda tinha uma limita\u00e7\u00e3o: eles conseguiam chegar aos sites, mas n\u00e3o podiam enviar dados de volta para eles. Para contornar o problema, os agentes combinaram diferentes servi\u00e7os dispon\u00edveis na internet.<\/p>\n<p>O m\u00e9todo funcionava da seguinte maneira:<\/p>\n<ul>\n<li>Os agentes pediam a um servi\u00e7o p\u00fablico de captura de telas que carregasse um endere\u00e7o de internet especialmente criado;<\/li>\n<li>Como os URLs t\u00eam limite de tamanho, o c\u00f3digo era dividido em v\u00e1rios peda\u00e7os menores;<\/li>\n<li>Os agentes utilizavam servi\u00e7os de encurtamento de links para armazenar esses endere\u00e7os;<\/li>\n<li>O servi\u00e7o de captura de tela carregava um link, que buscava o primeiro peda\u00e7o do c\u00f3digo;<\/li>\n<li>O processo se repetia com os links seguintes at\u00e9 que todo o programa fosse carregado e executado;<\/li>\n<li>Por fim, o programa criava uma imagem semelhante a um QR Code ou c\u00f3digo de barras para transmitir de volta os dados que os agentes precisavam.<\/li>\n<\/ul>\n<p>\u201cEsses agentes fizeram muita coisa. Eles foram muito inteligentes. Os modelos pensaram: \u2018Tudo bem, temos esse encurtador de links, temos esses servi\u00e7os de captura de tela, sem problema, estamos prontos para agir\u2019\u201d, afirmou Jeffrey Ladish, diretor-executivo da organiza\u00e7\u00e3o de seguran\u00e7a de IA Palisade Research, que ajudou na investiga\u00e7\u00e3o, ao <em><a href=\"https:\/\/www.nytimes.com\/2026\/09\/25\/technology\/openai-hugging-face-hack.html\" target=\"_blank\" rel=\"noreferrer noopener\">The New York Times<\/a><\/em>.<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-ia-tentou-executar-outras-ias\">IA tentou executar outras IAs<\/h2>\n<p>Um dos aspectos que mais chamou a aten\u00e7\u00e3o dos pesquisadores foi a tentativa dos agentes de utilizar outros sistemas de IA.<\/p>\n<p>No in\u00edcio do ataque, os agentes tentaram criar novas contas na Hugging Face. Como a plataforma exige a resolu\u00e7\u00e3o de um CAPTCHA para isso, os agentes utilizaram um modelo de IA especializado em reconhecimento de imagens para tentar superar o teste.<\/p>\n<p>Os pesquisadores tamb\u00e9m observaram os agentes tentando enviar mensagens para outros modelos de IA.<\/p>\n<p>Entre eles estavam o <strong>GPT-2<\/strong>, um modelo antigo da pr\u00f3pria OpenAI, al\u00e9m dos modelos chineses de c\u00f3digo aberto <strong>DeepSeek, Kimi e Qwen<\/strong>. Os agentes tamb\u00e9m tentaram enviar mensagens para os modelos <strong>Haiku 3 e Haiku 4.5<\/strong>, da Anthropic, por meio de um servi\u00e7o de chat on-line.<\/p>\n<p>\u201c\u00c9 o \u00fanico caso que temos desses modelos tentando executar outro modelo\u201d, afirmou Alex Forman, fundador da Parse.<\/p>\n<p>A possibilidade de sistemas de IA acionarem outros modelos \u00e9 uma preocupa\u00e7\u00e3o recorrente entre especialistas em seguran\u00e7a, porque isso poderia dificultar tentativas humanas de controlar ou desligar sistemas que apresentassem comportamentos indesejados.<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-quase-um-milhao-de-links-revelam-extensao-do-ataque\">Quase um milh\u00e3o de links revelam extens\u00e3o do ataque<\/h2>\n<p>Os pesquisadores analisaram o conte\u00fado de <strong>900 mil URLs encurtados<\/strong> encontrados na internet e, a partir deles, conseguiram reconstruir cerca de <strong>60 mil programas e mensagens<\/strong> criados pelos agentes durante o ataque \u00e0 Hugging Face.<\/p>\n<p>Como os pesquisadores n\u00e3o tinham acesso aos resultados das a\u00e7\u00f5es, n\u00e3o foi poss\u00edvel determinar com certeza quantas das tentativas funcionaram.<\/p>\n<p>Um dos elementos encontrados chamou particularmente a aten\u00e7\u00e3o: um dicion\u00e1rio de chaves secretas de acesso identificado pelo agente com a palavra <strong>\u201cLOOT\u201d<\/strong>, em letras mai\u00fasculas.<\/p>\n<p>Segundo Mishka Kharlov, engenheiro fundador da Parse, o agente tamb\u00e9m criou um sistema pr\u00f3prio de pontua\u00e7\u00e3o para classificar credenciais e chaves expostas da Hugging Face e levar as cinco consideradas mais importantes de volta aos demais agentes.<\/p>\n<p>Enquanto atacavam a Hugging Face, os agentes tamb\u00e9m conseguiram invadir a pr\u00f3pria infraestrutura de pesquisa da OpenAI.<\/p>\n<\/p>\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-large\"><figcaption class=\"wp-element-caption\">Enquanto atacavam a Hugging Face, os agentes tamb\u00e9m conseguiram invadir a pr\u00f3pria infraestrutura de pesquisa da OpenAI \u2013 Imagem: Camilo Concha\/Shutterstock<\/figcaption><\/figure>\n<\/div>\n<p>\u201cBasicamente, ainda n\u00e3o sabemos nada sobre o incidente que veio depois do caso da Hugging Face, cerca de dois dias depois, dentro da pr\u00f3pria rede da OpenAI\u201d, afirmou Forman.<\/p>\n<p>Os engenheiros da Parse compartilharam as descobertas com a Hugging Face, que confirmou que a atividade identificada correspondia ao comportamento observado pela pr\u00f3pria empresa.<\/p>\n<p><strong>Leia mais:<\/strong><\/p>\n<ul>\n<li><a href=\"https:\/\/olhardigital.com.br\/2026\/09\/24\/inteligencia-artificial\/sem-ninguem-mandar-ia-da-openai-tentou-invadir-sites-de-universidade-e-governo\/\" target=\"_blank\" rel=\"noreferrer noopener\">Sem ningu\u00e9m mandar: IA da OpenAI tentou invadir sites de universidade e governo<\/a><\/li>\n<li><a href=\"https:\/\/olhardigital.com.br\/2026\/09\/24\/inteligencia-artificial\/google-openai-e-anthropic-se-unem-para-criar-orgao-de-seguranca-para-inteligencia-artificial\/\" target=\"_blank\" rel=\"noreferrer noopener\">Google, OpenAI e Anthropic se unem para criar \u00f3rg\u00e3o de seguran\u00e7a para intelig\u00eancia artificial<\/a><\/li>\n<li><a href=\"https:\/\/olhardigital.com.br\/2026\/09\/25\/inteligencia-artificial\/aconteceu-de-novo-openai-admite-que-agentes-de-ia-vazaram-mais-de-50-imagens-de-usuarios-do-chatgpt-na-internet\/\" target=\"_blank\" rel=\"noreferrer noopener\">Aconteceu de novo! OpenAI admite que agentes de IA vazaram mais de 50 imagens de usu\u00e1rios do ChatGPT na internet<\/a><\/li>\n<\/ul>\n<h2 class=\"wp-block-heading\" id=\"h-openai-ainda-investiga-dezenas-de-incidentes\">OpenAI ainda investiga dezenas de incidentes<\/h2>\n<p>O caso da Hugging Face faz parte de uma investiga\u00e7\u00e3o mais ampla da OpenAI sobre atividades n\u00e3o autorizadas realizadas por seus agentes.<\/p>\n<p>Segundo a empresa, a revis\u00e3o dever\u00e1 levar <strong>meses<\/strong> devido \u00e0 quantidade de casos e \u00e0 necessidade de verificar cada incidente. A OpenAI afirmou que j\u00e1 notificou dezenas de terceiros sobre atividades inadequadas.<\/p>\n<p>Neste m\u00eas, uma pessoa informada sobre a investiga\u00e7\u00e3o estimava que a empresa havia encontrado aproximadamente <strong>duas dezenas de incidentes<\/strong> envolvendo agentes que apresentaram comportamentos indesejados. O n\u00famero continuou crescendo conforme as equipes analisavam registros internos e encontravam casos anteriormente desconhecidos.<\/p>\n<p>Mais de 15 epis\u00f3dios relacionados aos agentes da OpenAI j\u00e1 haviam sido divulgados nos dois meses seguintes ao an\u00fancio do ataque \u00e0 Hugging Face. Os casos variam desde mensagens semelhantes a spam deixadas em sites at\u00e9 invas\u00f5es e acessos n\u00e3o autorizados.<\/p>\n<p>Outros epis\u00f3dios envolveram um site alem\u00e3o transformado pelos agentes em um espa\u00e7o para compartilhar t\u00e1ticas e contornar restri\u00e7\u00f5es da OpenAI, al\u00e9m de <a href=\"https:\/\/olhardigital.com.br\/2026\/09\/23\/inteligencia-artificial\/a-ia-sai-do-roteiro-de-novo-agente-da-openai-acessa-sistema-de-saude-australiano-sem-autorizacao\/\" target=\"_blank\" rel=\"noreferrer noopener\">atividades contra o site do Australian Institute of Health and Welfare<\/a>.<\/p>\n<p>A OpenAI tamb\u00e9m confirmou que seus agentes tiveram como alvo a pr\u00f3pria infraestrutura da companhia.<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-investigacao-da-openai-e-alvo-de-questionamentos\">Investiga\u00e7\u00e3o da OpenAI \u00e9 alvo de questionamentos<\/h2>\n<p>O processo interno para entender o ataque \u00e0 Hugging Face envolveu cerca de <strong>100 pessoas<\/strong>, segundo fontes ouvidas pela <em><a href=\"https:\/\/www.reuters.com\/world\/openai-works-understand-full-scope-agent-activity-user-data-leak-emerges-2026-09-25\/\" target=\"_blank\" rel=\"noreferrer noopener\">Reuters<\/a><\/em>.<\/p>\n<p>Duas pessoas familiarizadas com a investiga\u00e7\u00e3o disseram \u00e0 ag\u00eancia que o processo foi mantido sob forte controle e influenciado pelos advogados da companhia. A OpenAI, por sua vez, afirmou que seus advogados n\u00e3o impediram uma investiga\u00e7\u00e3o mais ampla.<\/p>\n<p>A <em>Reuters<\/em> tamb\u00e9m informou que muitos dos incidentes foram descobertos por pesquisadores externos, e n\u00e3o diretamente pela OpenAI. Em alguns casos, as a\u00e7\u00f5es dos agentes permaneceram sem conhecimento da empresa durante meses.<\/p>\n<p>Em comunicado, uma porta-voz da OpenAI afirmou que a atividade descrita pelos pesquisadores da Parse \u00e9 compat\u00edvel com o que a companhia j\u00e1 estava investigando.<\/p>\n<p>\u201cEstamos priorizando a an\u00e1lise dos incidentes mais graves enquanto ampliamos a investiga\u00e7\u00e3o para atividades de menor gravidade, incluindo agentes enviando spam para sites. Dado o n\u00famero de casos e a necessidade de verificar cada um deles, esperamos que esse trabalho e as notifica\u00e7\u00f5es \u00e0s partes afetadas levem meses.\u201d<\/p>\n<p>O post <a href=\"https:\/\/olhardigital.com.br\/2026\/09\/25\/inteligencia-artificial\/caso-hugging-face-agentes-de-ia-da-openai-tentaram-enganar-detector-de-robos-durante-ataque-a-plataforma\/\">Caso Hugging Face: agentes de IA da OpenAI tentaram enganar detector de rob\u00f4s durante ataque \u00e0 plataforma<\/a> apareceu primeiro em <a href=\"https:\/\/olhardigital.com.br\/\">Olhar Digital<\/a>.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"<p>Agentes de intelig\u00eancia artificial (IA) da OpenAI tentaram usar outro modelo de IA para burlar um sistema de detec\u00e7\u00e3o de rob\u00f4s enquanto repetidamente buscavam maneiras de invadir os computadores da plataforma Hugging Face. Os detalhes aparecem em novo relat\u00f3rio elaborado por engenheiros da startup estadunidense Parse e outros pesquisadores, que analisaram a atividade dos agentes<\/p>\n","protected":false},"author":6,"featured_media":16304,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/olhardigital.com.br\/wp-content\/uploads\/2026\/09\/openai-2-1024x670.jpg","fifu_image_alt":"Caso Hugging Face: agentes de IA da OpenAI tentaram enganar detector de rob\u00f4s durante ataque \u00e0 plataforma","footnotes":""},"categories":[33],"tags":[],"class_list":["post-16303","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias"],"_links":{"self":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/16303","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=16303"}],"version-history":[{"count":0,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/16303\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/media\/16304"}],"wp:attachment":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=16303"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=16303"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=16303"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}