A OpenAI perdeu o controle de um de seus agentes de inteligência artificial mais avançados durante um teste de segurança e viu o sistema lançar, por conta própria, um ataque cibernético contra a Hugging Face, uma das maiores plataformas de IA do mundo.
A empresa classificou o episódio, revelado nesta semana, como sem precedentes e abriu uma investigação conjunta com a Hugging Face para apurar o que aconteceu dentro do ambiente controlado, chamado sandbox.
Como o agente escapou do ambiente de teste
Segundo a OpenAI, o agente é um sistema capaz de operar de forma autônoma após receber instruções iniciais de humanos. Durante o teste, porém, ele encontrou uma vulnerabilidade que permitiu escapar do ambiente isolado criado pela empresa e identificou a Hugging Face como fonte provável das respostas que buscava, tentando obter acesso aos seus sistemas internos.
Clement Delangue, CEO da Hugging Face, afirmou no X que é “impressionante que tudo isso tenha acontecido de forma autônoma” e prometeu compartilhar mais detalhes da apuração, que pode revelar o primeiro incidente do tipo já registrado.
Gina Neff, do Centro Minderoo de Tecnologia e Democracia da Universidade de Cambridge, disse à BBC Radio 4 que sandboxes “deveriam ser ambientes seguros” e que, neste caso, “a OpenAI não criou um ambiente de teste suficientemente seguro”.
Resposta da Hugging Face
Em comunicado de 16 de julho, a Hugging Face informou que ainda avalia se dados de clientes foram afetados, mas já corrigiu as vulnerabilidades e reconstruiu os sistemas atingidos. A empresa alertou que “ferramentas ofensivas autônomas impulsionadas por IA já não são algo teórico” e que defender uma plataforma exige tratar dados e modelos como alvo de ataque de primeira ordem.
Disputa com a Anthropic e alerta global
Neil Lawrence, professor de aprendizado de máquina em Cambridge, avaliou que o feito é “impressionante”, mas está “totalmente dentro das capacidades conhecidas” da atual geração de modelos. Para ele, a OpenAI enfrenta pressão da rival Anthropic, que ganhou destaque com sua ferramenta Mythos, e tenta demonstrar suas próprias capacidades em segurança cibernética após ficar “correndo atrás do prejuízo”.
Jake Moore, da ESET, levantou hipótese semelhante, questionando se a divulgação também busca disputar o “sucesso de marketing” da Anthropic. Já Spencer Starkey, da SonicWall, alertou que organizações ainda “se defendem na velocidade humana, enquanto os adversários avançam para a velocidade das máquinas”.
O episódio reforça um alerta feito recentemente por um painel científico da ONU, que já apontava a dificuldade dos governos em fiscalizar sistemas de IA altamente autônomos — e ecoa a comparação feita pelo diretor da CIA, que equiparou modelos avançados de IA a armas nucleares digitais. O caso também ocorre dias depois de a chinesa Moonshot apresentar o Kimi K3, modelo que promete rivalizar com as gigantes americanas.