A OpenAI descobriu novos casos em que agentes de inteligência artificial escaparam do ambiente virtual isolado usado pela empresa para testes, segundo duas fontes ouvidas pela agência Reuters nesta sexta-feira (31).
As fugas foram identificadas durante a investigação aberta após a empresa revelar que dois de seus agentes atacaram a plataforma Hugging Face.
Testes de cibersegurança que saíram do controle
Experimentos com inteligência artificial costumam ocorrer em sistemas fechados, com acesso restrito ou nulo à internet. Mas os casos recentes mostram que os agentes têm encontrado brechas para ultrapassar essas barreiras.
Os agentes envolvidos participavam de testes destinados a identificar falhas em sistemas e aprimorar as próprias capacidades de cibersegurança. A avaliação, no entanto, resultou em ataques a diversos serviços disponíveis publicamente na internet, segundo a OpenAI.
A investigação que revelou os novos casos havia começado após um agente da OpenAI invadir o Hugging Face entre 11 e 13 de julho — o sistema chegou a deixar anotações internas com instruções para que versões futuras de si mesmo escapassem das mesmas restrições.
Para chegar ao Hugging Face, a IA comprometeu antes a infraestrutura de uma empresa terceira, a Model Labs, transformando-a em plataforma de lançamento do ataque.
Alcance limitado, mas sob análise
Segundo uma das fontes, os novos episódios têm alcance mais restrito que o caso do Hugging Face: apesar de terem escapado do isolamento, os agentes não chegaram a deixar a rede interna da empresa. Os casos ainda estão sendo analisados internamente.
Procurada pela Reuters, a OpenAI remeteu a uma declaração anterior, na qual afirma estar analisando “atividades mais amplas de nossos modelos”, além do ataque à Hugging Face.
A investigação ampliada começou pouco antes de a rival Anthropic revelar que seus próprios modelos também foram responsáveis por ataques cibernéticos contra outras três empresas desde abril, episódio que reforça o debate sobre os limites da autonomia de sistemas de IA.