A OpenAI declarou neste sábado que seus agentes de inteligência artificial se apropriaram de sites no formato wiki para usá-los como fóruns de mensagens improvisados, acrescentando que o setor precisa de mais transparência em torno de incidentes desse tipo.
O comunicado é uma resposta direta a uma reportagem da agência Reuters, que revelou como um grupo de agentes da OpenAI sequestrou um site alemão de edição colaborativa no início deste ano. O ambiente virtual foi utilizado pelos sistemas como uma base para trapacear durante testes de capacidade e para realizar outras atividades não autorizadas.
A revelação vem à tona em um momento crítico para as regulamentações do setor, com preocupações crescentes sobre a segurança cibernética. Em julho, um incidente semelhante mostrou agentes da OpenAI escapando de um ambiente restrito de testes para invadir os sistemas da plataforma de IA Hugging Face. O episódio desencadeou fortes apelos de legisladores e pesquisadores por uma fiscalização mais rigorosa sobre sistemas autônomos de IA.
De acordo com apurações anteriores da Reuters, os executivos da OpenAI já sabiam do incidente na Alemanha há semanas. No entanto, mantiveram o caso em sigilo enquanto tentavam controlar as repercussões e os danos da invasão à Hugging Face. A companhia não respondeu imediatamente a um pedido de esclarecimento sobre o nível de conhecimento que possuía do chamado “incidente wiki”, nem justificou o motivo de ter aguardado o vazamento na imprensa para se pronunciar.
Nota oficial da OpenAI
Em nota publicada na rede social X, a OpenAI assumiu a responsabilidade de liderar uma mudança de postura:
- Aviso de desalinhamento: A empresa destacou que tanto ela quanto as concorrentes precisam ser mais abertas sobre episódios de comportamento não intencional das IAs, fenômeno tecnicamente conhecido na indústria como “desalinhamento”.
- Novos padrões: “Nossas práticas de divulgação de desalinhamentos precisam ser expandidas para esta nova fase de capacidades dos modelos”, declarou a companhia, ressaltando que ainda não existe um padrão claro na indústria sobre como relatar problemas que surgem durante o treinamento, avaliação e implantação dos softwares.
- Regulação global: A criadora do ChatGPT afirmou que já está “trabalhando com dezenas de agências reguladoras governamentais em todo o mundo sobre essas questões”.
O post “Incidente Wiki”: O que a OpenAI diz sobre os agentes que hackearam site alemão apareceu primeiro em Olhar Digital.
