{"id":15417,"date":"2026-09-09T00:03:43","date_gmt":"2026-09-09T03:03:43","guid":{"rendered":"https:\/\/ilheusnews.com.br\/?p=15417"},"modified":"2026-09-09T00:03:43","modified_gmt":"2026-09-09T03:03:43","slug":"anthropic-pesquisador-deixa-empresa-por-medo-de-ia-sair-do-controle","status":"publish","type":"post","link":"https:\/\/ilheusnews.com.br\/?p=15417","title":{"rendered":"Anthropic: pesquisador deixa empresa por medo de IA \u201csair do controle\u201d"},"content":{"rendered":"<div>\n<p>Um pesquisador da <a href=\"https:\/\/olhardigital.com.br\/tag\/anthropic\/\" target=\"_blank\" rel=\"noreferrer noopener\">Anthropic<\/a> decidiu deixar a ind\u00fastria de <a href=\"https:\/\/olhardigital.com.br\/tag\/inteligencia-artificial\/\" target=\"_blank\" rel=\"noreferrer noopener\">intelig\u00eancia artificial (IA) <\/a>por temer que a corrida entre empresas do setor esteja levando ao desenvolvimento de sistemas que, no futuro, poder\u00e3o escapar do controle humano.<\/p>\n<p>Jacob Coxon, de 27 anos, trabalhava na Anthropic com treinamento de novos modelos de IA a partir do processamento de grandes volumes de dados. Ele deixou a empresa porque n\u00e3o quer participar do que considera uma corrida da ind\u00fastria para criar sistemas capazes de melhorar a si pr\u00f3prios.<\/p>\n<p>Segundo Coxon, esses modelos poderiam evoluir rapidamente a ponto de se tornarem imposs\u00edveis de controlar e, em cen\u00e1rio extremo, representar uma amea\u00e7a \u00e0 humanidade.<\/p>\n<p>O pesquisador, que estudou matem\u00e1tica anteriormente, afirmou que colegas do setor passaram a utilizar express\u00f5es como \u201ccrunchtime\u201d e \u201cendgame\u201d para descrever o caminho em dire\u00e7\u00e3o a modelos capazes de autoaperfei\u00e7oamento.<\/p>\n<p>\u201cEstamos a caminho de muitos dos cen\u00e1rios mais agressivos, nos quais, at\u00e9 o fim do pr\u00f3ximo ano, as coisas j\u00e1 poderiam estar fora de controle\u201d, afirmou Coxon.<\/p>\n<p>Para ele, a competi\u00e7\u00e3o entre empresas estadunidenses e novas companhias chinesas torna inevit\u00e1veis determinados compromissos entre seguran\u00e7a e velocidade de desenvolvimento.<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-pesquisador-trocou-openai-pela-anthropic\">Pesquisador trocou OpenAI pela Anthropic<\/h2>\n<ul>\n<li>Coxon havia deixado a OpenAI no in\u00edcio deste ano para trabalhar na Anthropic justamente porque a empresa era conhecida pelos esfor\u00e7os voltados \u00e0 seguran\u00e7a de seus modelos;<\/li>\n<li>Embora tenha considerado sinceros os esfor\u00e7os da Anthropic nessa \u00e1rea, ele chegou \u00e0 conclus\u00e3o de que nenhuma empresa conseguiria desenvolver de maneira respons\u00e1vel uma IA capaz de superar seres humanos em uma ampla variedade de tarefas \u2014 conceito frequentemente associado \u00e0 IA geral, ou IAG \u2014 sem interven\u00e7\u00e3o governamental ou uma desacelera\u00e7\u00e3o coordenada do setor;<\/li>\n<li>A Anthropic n\u00e3o comentou imediatamente a sa\u00edda do pesquisador;<\/li>\n<li>O CEO da companhia, Dario Amodei, e outros executivos da empresa t\u00eam alertado repetidamente sobre os riscos de modelos de IA que poderiam agir de maneira inesperada e defendido uma redu\u00e7\u00e3o no ritmo de desenvolvimento.<\/li>\n<\/ul>\n<h2 class=\"wp-block-heading\" id=\"h-ataques-recentes-aumentam-preocupacao\">Ataques recentes aumentam preocupa\u00e7\u00e3o<\/h2>\n<p>Coxon tamb\u00e9m citou ataques cibern\u00e9ticos recentes envolvendo modelos da OpenAI e da Anthropic como exemplos dos riscos associados ao avan\u00e7o das capacidades dos sistemas.<\/p>\n<p>Alguns desses modelos operaram em grupos de agentes colaborativos e demonstraram comportamentos considerados problem\u00e1ticos, incluindo a ado\u00e7\u00e3o de objetivos potencialmente prejudiciais e tentativas de esconder suas a\u00e7\u00f5es dos seres humanos.<\/p>\n<p>Na avalia\u00e7\u00e3o de Coxon, o risco aumenta caso os sistemas passem a conseguir melhorar suas pr\u00f3prias capacidades. Nesse cen\u00e1rio, eles poderiam avan\u00e7ar a ponto de se recusarem a obedecer comandos humanos.<\/p>\n<p>A sa\u00edda de Coxon \u00e9 apontada como um dos primeiros casos de um funcion\u00e1rio da Anthropic deixando a empresa especificamente por preocupa\u00e7\u00f5es relacionadas \u00e0 seguran\u00e7a da IA. No in\u00edcio deste ano, outro pesquisador que trabalhava com seguran\u00e7a deixou a companhia para estudar poesia e alertou que \u201co mundo est\u00e1 em perigo\u201d.<\/p>\n<p>Pesquisadores tamb\u00e9m deixaram a OpenAI e outras empresas do setor nos \u00faltimos anos, alegando preocupa\u00e7\u00f5es semelhantes.<\/p>\n<\/p>\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-large\"><figcaption class=\"wp-element-caption\">Pesquisador que se demitiu da Anthropic trabalhou na OpenAI \u2013 Imagem: Iljanaresvara Studio\/Shutterstock<\/figcaption><\/figure>\n<\/div>\n<p><strong>Leia mais:<\/strong><\/p>\n<ul>\n<li><a href=\"https:\/\/olhardigital.com.br\/2024\/06\/27\/dicas-e-tutoriais\/5-melhores-cursos-de-ia-para-iniciantes\/\" target=\"_blank\" rel=\"noreferrer noopener\">5 melhores cursos de IA para iniciantes<\/a><\/li>\n<li><a href=\"https:\/\/olhardigital.com.br\/2025\/10\/05\/dicas-e-tutoriais\/4-melhores-inteligencias-artificiais-para-criar-e-editar-videos\/\" target=\"_blank\" rel=\"noreferrer noopener\">4 melhores intelig\u00eancias artificiais para criar e editar v\u00eddeos<\/a><\/li>\n<li><a href=\"https:\/\/olhardigital.com.br\/2026\/09\/04\/pro\/anthropic-adia-lancamento-de-ipo-e-pode-chegar-a-bolsa-com-valor-de-r-10-7-trilhoes\/\" target=\"_blank\" rel=\"noreferrer noopener\">Anthropic adia lan\u00e7amento de IPO e pode chegar \u00e0 Bolsa com valor de R$ 10,7 trilh\u00f5es<\/a><\/li>\n<\/ul>\n<h2 class=\"wp-block-heading\" id=\"h-executivos-de-ia-tambem-pedem-cautela\">Executivos de IA tamb\u00e9m pedem cautela<\/h2>\n<p>A preocupa\u00e7\u00e3o n\u00e3o est\u00e1 restrita a pesquisadores que deixaram as empresas. Sam Altman, CEO da OpenAI, afirmou recentemente que os avan\u00e7os da IA exigem aten\u00e7\u00e3o urgente, especialmente na \u00e1rea de seguran\u00e7a cibern\u00e9tica.<\/p>\n<p>\u201cEu acho que algumas coisas v\u00e3o dar muito errado com a ciberseguran\u00e7a, a menos que as pessoas ajam com bastante urg\u00eancia\u201d, afirmou Altman durante uma reuni\u00e3o com autoridades do G20, na Carolina do Norte (EUA).<\/p>\n<p>Jakub Pachocki, cientista-chefe da OpenAI, tamb\u00e9m defendeu uma postura de extrema cautela. \u201cEste \u00e9 um momento que exige extrema cautela. Estou preocupado que ningu\u00e9m esteja preparado para as consequ\u00eancias de um crescimento cont\u00ednuo e r\u00e1pido da intelig\u00eancia das m\u00e1quinas\u201d, escreveu Pachocki em uma publica\u00e7\u00e3o no domingo. Ele defendeu uma desacelera\u00e7\u00e3o coordenada entre as empresas e a interven\u00e7\u00e3o dos governos.<\/p>\n<p>Coxon, Pachocki e Amodei est\u00e3o entre mais de mil pesquisadores de IA que recentemente assinaram uma declara\u00e7\u00e3o pedindo coordena\u00e7\u00e3o internacional dos governos para estabelecer um mecanismo capaz de desacelerar o desenvolvimento caso seja necess\u00e1rio controlar modelos que consigam melhorar suas pr\u00f3prias capacidades.<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-eua-ainda-nao-tem-regulamentacao-federal-para-ia\">EUA ainda n\u00e3o t\u00eam regulamenta\u00e7\u00e3o federal para IA<\/h2>\n<p>A discuss\u00e3o acontece em cen\u00e1rio de aus\u00eancia de regulamenta\u00e7\u00e3o federal espec\u00edfica para IA nos Estados Unidos.<\/p>\n<p>O governo de Donald Trump adotou uma abordagem considerada mais flex\u00edvel, priorizando o potencial econ\u00f4mico da tecnologia. Cr\u00edticos, por\u00e9m, argumentam que esse ambiente pode aumentar o risco de grandes ataques cibern\u00e9ticos e outros danos associados ao avan\u00e7o acelerado da IA.<\/p>\n<p>O senador Bernie Sanders, de Vermont (EUA), e o deputado Greg Casar, do Texas (EUA), est\u00e3o entre os poucos parlamentares que prop\u00f5em limites mais r\u00edgidos para a tecnologia.<\/p>\n<p>Na semana passada, os dois apresentaram um projeto de lei que prev\u00ea a proibi\u00e7\u00e3o permanente da superintelig\u00eancia e uma pausa no desenvolvimento de modelos at\u00e9 que um \u00f3rg\u00e3o regulador do setor estabele\u00e7a novas regras.<\/p>\n<h2 class=\"wp-block-heading\" id=\"h-saida-acontece-antes-de-possivel-ipo-bilionario\">Sa\u00edda acontece antes de poss\u00edvel IPO bilion\u00e1rio<\/h2>\n<p>A sa\u00edda de Coxon ocorre enquanto a Anthropic se prepara para uma oferta p\u00fablica inicial de a\u00e7\u00f5es (IPO, na sigla em ingl\u00eas) que pode estar entre as maiores j\u00e1 realizadas. A empresa busca avalia\u00e7\u00e3o de <strong>US$ 2 trilh\u00f5es (cerca de R$ 10,4 trilh\u00f5es)<\/strong> e tem enfatizado o desenvolvimento respons\u00e1vel da IA para atrair investidores.<\/p>\n<p>Amodei e outros executivos da companhia tamb\u00e9m entraram em conflito em algumas ocasi\u00f5es com o governo Trump e com outros l\u00edderes do setor em raz\u00e3o de pr\u00e1ticas que, segundo eles, n\u00e3o d\u00e3o prioridade suficiente \u00e0 seguran\u00e7a da IA.<\/p>\n<p>A Anthropic mant\u00e9m ainda um canal no Slack utilizado por seus funcion\u00e1rios para discutir as capacidades mais avan\u00e7adas de seus modelos, segundo Coxon.<\/p>\n<p>Para o pesquisador, o fato de discuss\u00f5es dessa dimens\u00e3o ocorrerem dentro de uma ferramenta de comunica\u00e7\u00e3o utilizada por engenheiros demonstra o tamanho da influ\u00eancia que as empresas de IA passaram a exercer sobre o desenvolvimento da tecnologia.<\/p>\n<p>\u201c\u00c9 meio insano que isso precise acontecer nos MacBooks de alguns engenheiros que vivem em San Francisco, em vez de um bunker no deserto, como aquele onde eles trabalhavam durante o Projeto Manhattan\u201d, afirmou Coxon ao <em><a href=\"https:\/\/www.wsj.com\/tech\/ai\/anthropic-researcher-quits-over-out-of-control-ai-fears-707b7628\" target=\"_blank\" rel=\"noreferrer noopener\">The Wall Street Journal<\/a><\/em>.<\/p>\n<p>O post <a href=\"https:\/\/olhardigital.com.br\/2026\/09\/08\/inteligencia-artificial\/anthropic-pesquisador-deixa-empresa-por-medo-de-ia-sair-do-controle\/\">Anthropic: pesquisador deixa empresa por medo de IA \u201csair do controle\u201d<\/a> apareceu primeiro em <a href=\"https:\/\/olhardigital.com.br\/\">Olhar Digital<\/a>.<\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"<p>Um pesquisador da Anthropic decidiu deixar a ind\u00fastria de intelig\u00eancia artificial (IA) por temer que a corrida entre empresas do setor esteja levando ao desenvolvimento de sistemas que, no futuro, poder\u00e3o escapar do controle humano. Jacob Coxon, de 27 anos, trabalhava na Anthropic com treinamento de novos modelos de IA a partir do processamento de<\/p>\n","protected":false},"author":6,"featured_media":15418,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/olhardigital.com.br\/wp-content\/uploads\/2026\/09\/openai-1-1024x576.jpg","fifu_image_alt":"Anthropic: pesquisador deixa empresa por medo de IA \u201csair do controle\u201d","footnotes":""},"categories":[33],"tags":[],"class_list":["post-15417","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias"],"_links":{"self":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/15417","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=15417"}],"version-history":[{"count":0,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/15417\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=\/wp\/v2\/media\/15418"}],"wp:attachment":[{"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=15417"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=15417"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ilheusnews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=15417"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}