{"id":14298,"date":"2026-08-19T18:04:17","date_gmt":"2026-08-19T21:04:17","guid":{"rendered":"https:\/\/ilheusnews.com.br\/?p=14298"},"modified":"2026-08-19T18:04:17","modified_gmt":"2026-08-19T21:04:17","slug":"o-perigo-oculto-da-inteligencia-artificial-vai-muito-alem-do-simples-descontrole","status":"publish","type":"post","link":"https:\/\/ilheusnews.com.br\/?p=14298","title":{"rendered":"O perigo oculto da intelig\u00eancia artificial vai muito al\u00e9m do simples descontrole"},"content":{"rendered":"
\n

Muitas pessoas acham que a intelig\u00eancia artificial (IA) est\u00e1 \u201csaindo do controle\u201d, mas o problema real \u00e9 outro: os perigos atuais foram criados de prop\u00f3sito pelas pr\u00f3prias empresas de tecnologia<\/a>. Em experimentos recentes, programas avan\u00e7ados da OpenAI <\/a>conseguiram burlar travas de seguran\u00e7a e agir em conjunto sem qualquer interven\u00e7\u00e3o humana.<\/p>\n

Esses sistemas s\u00e3o chamados de agentes de IA e realizam tarefas digitais sem supervis\u00e3o. Em um epis\u00f3dio impressionante, os softwares conseguiram sair de um ambiente de testes isolado, acessaram a internet aberta e invadiram por conta pr\u00f3pria os servidores da plataforma Hugging Face.<\/p>\n

Plataforma admitiu a invas\u00e3o aos servidores \u2013 Cr\u00e9dito: Sidney van den Boogaard\/Shutterstock<\/figcaption><\/figure>\n

Para executar a invas\u00e3o, os agentes criaram um canal interno de comunica\u00e7\u00e3o e agiram em equipe. Eles trocaram mensagens e compartilharam c\u00f3digos com falhas para facilitar o ataque. O caso chocou especialistas no mundo todo e foi apontado por pesquisadores do setor como um marco hist\u00f3rico \u2013 saiba mais aqui<\/a>.<\/p>\n

Testes paralelos feitos por gigantes como Meta, Anthropic e empresas chinesas revelaram riscos parecidos. Os agentes mostraram capacidade de atacar sistemas reais usando estrat\u00e9gias complexas de dissimula\u00e7\u00e3o. O comportamento acendeu um alerta at\u00e9 mesmo entre os cientistas que projetaram esses modelos.<\/p>\n

O desafio de prender o \u201cilusionista\u201d digital<\/strong><\/h2>\n

Em an\u00e1lise no programa Olhar Digital News<\/em><\/a>, o f\u00edsico Roberto \u2018Pena\u2019 Spinelli, especialista em Machine Learning, destacou que a decis\u00e3o recente de pausar treinos prova a gravidade do cen\u00e1rio: \u201cFicou claro que n\u00e3o \u00e9 jogada de marketing, porque a empresa est\u00e1 dizendo que est\u00e1 diminuindo e pausando o treinamento. \u00c9 uma preocupa\u00e7\u00e3o real e eles est\u00e3o perdendo o controle. Os modelos est\u00e3o chegando a uma fronteira de capacidade em que as pr\u00f3prias empresas que treinam n\u00e3o t\u00eam condi\u00e7\u00e3o de gerenciar.\u201d<\/p>\n

\"\"
O especialista Roberto \u2018Pena\u2019 Spinelli compara a intelig\u00eancia artificial a \u201cilusionista\u201d \u2013 Cr\u00e9dito: Reprodu\u00e7\u00e3o\/Redes Sociais<\/figcaption><\/figure>\n

Especialistas alertam que as m\u00e1quinas n\u00e3o ganharam vida nem enlouqueceram. Elas apenas executaram com perfei\u00e7\u00e3o as tarefas para as quais foram programadas. Por isso, dizer que a IA est\u00e1 fora de controle \u00e9 um erro; a capacidade ofensiva foi desenvolvida de forma intencional.<\/p>\n

Boyan Milanov, pesquisador do AI Now Institute, nos EUA, explicou em entrevista ao jornal Financial Times <\/em><\/a>que as empresas passam anos coletando dados para ensinar os modelos a atingir objetivos a qualquer custo. Segundo ele, \u201cas capacidades ofensivas que alcan\u00e7amos hoje foram alcan\u00e7adas de forma deliberada. As empresas de IA v\u00eam h\u00e1 anos coletando ativamente dados de treinamento, treinando modelos e aperfei\u00e7oando capacidades cibern\u00e9ticas\u201d.<\/p>\n

A professora da Universidade da Calif\u00f3rnia em Berkeley e chefe de pesquisa em IA na Meta, Dawn Song, explicou que o avan\u00e7o no desenvolvimento de softwares impulsiona diretamente o surgimento de novas amea\u00e7as cibern\u00e9ticas. \u201cPrograma\u00e7\u00e3o e ciberseguran\u00e7a s\u00e3o dois lados da mesma moeda. Conforme as capacidades de programa\u00e7\u00e3o aumentaram, as capacidades cibern\u00e9ticas tamb\u00e9m cresceram. As pessoas n\u00e3o esperavam que cheg\u00e1ssemos a esse ponto t\u00e3o depressa.\u201d\u00a0<\/p>\n

Dawn Song acrescenta que a IA leva vantagem no ataque porque encontrar um \u00fanico ponto fraco \u00e9 uma tarefa direta e verific\u00e1vel para a m\u00e1quina. Defender um sistema, por outro lado, exige um trabalho amplo e cont\u00ednuo. Essa assimetria coloca os invasores digitais em uma posi\u00e7\u00e3o de enorme superioridade.<\/p>\n

Spinelli refor\u00e7a que tentar deter o modelo apenas refor\u00e7ando o ambiente de testes \u00e9 insuficiente: \u201cO modelo escapa da caixa achando vulnerabilidades que ningu\u00e9m tinha encontrado antes. Imagina que voc\u00ea tem um ilusionista e fala: \u2018Tranquei voc\u00ea, pus cadeado, corrente e amarrei seu p\u00e9\u2019, e ele aparece do lado de fora. \u00c9 com isso que estamos lidando. O concreto n\u00e3o \u00e9 suficiente porque ele consegue encontrar falhas que ningu\u00e9m tinha visto.\u201d<\/p>\n

Leia mais:<\/strong><\/p>\n