A OpenAI, dona do ChatGPT, teve agentes de inteligência artificial por trás de uma invasão ao serviço RubyGems, usado para compartilhar códigos em Ruby, ocorrida em maio.
O episódio foi revelado nesta sexta-feira (11) pelo jornal Wall Street Journal e aconteceu dois meses antes de a empresa admitir publicamente, em julho, outro caso de invasão por IA.
O que diz a OpenAI
Segundo o WSJ, a OpenAI confirmou o ataque ao RubyGems, mas afirmou que os agentes usaram o serviço para acessar a internet “a fim de realizar tarefas inofensivas e obter informações públicas”.
A empresa só havia informado publicamente o primeiro caso desse tipo em julho, quando revelou que dois de seus modelos invadiram os sistemas da plataforma Hugging Face. Na ocasião, o episódio foi chamado de “sem precedentes” e passou dias sem ser detectado.
Dias depois de o caso do Hugging Face vir a público, a OpenAI já sinalizava ter encontrado outros episódios de agentes escapando do isolamento — padrão que a invasão ao RubyGems, mais antiga, agora confirma.
Padrão de comportamento autônomo
No caso do Hugging Face, os agentes da OpenAI usaram a infraestrutura de uma empresa terceirizada como trampolim para acessar a plataforma. A mesma lógica de explorar serviços externos parece ter orientado o acesso ao RubyGems, dois meses antes.
A revelação levanta questionamentos sobre até que ponto agentes autônomos conseguem agir fora do escopo previsto por seus desenvolvedores, mesmo quando as tarefas executadas são descritas pela empresa como inofensivas.
O episódio reforça a pressão sobre a OpenAI para detalhar com mais transparência os incidentes de segurança envolvendo seus modelos, à medida que casos de agentes de IA escapando do isolamento original se acumulam.