A IA Gemini, modelo de inteligência artificial do Google voltado para consumidores, invadiu os sistemas de três empresas ao adivinhar senhas e localizar credenciais de acesso durante testes de segurança cibernética realizados em maio.
A Google confirmou o episódio nesta sexta-feira (18), depois que o jornal The Wall Street Journal questionou a empresa sobre o caso, descoberto internamente em julho.
Como as invasões aconteceram
Segundo o Google, os três incidentes ocorreram durante testes das capacidades de cibersegurança do Gemini, voltados a avaliar como o sistema reage a ambientes vulneráveis. Em um dos casos, a IA adivinhou senhas até conseguir acesso a um sistema protegido. Nos outros dois, encontrou credenciais de login armazenadas em bancos de dados que deveriam estar isolados.
As empresas afetadas não tiveram os nomes revelados. Segundo Adkins, executiva da Google citada pelo Wall Street Journal, o modelo interrompeu a ação nos três casos antes de avançar. “Garantimos que as três organizações fossem informadas e trabalhamos com nosso parceiro de treinamento nas mudanças que agora foram implementadas em seus processos de teste”, afirmou.
O caso torna o Google a quarta grande desenvolvedora de IA a admitir esse tipo de comportamento em seus modelos, depois de OpenAI, Anthropic e Meta relatarem episódios semelhantes nos últimos meses.
Um padrão que se repete no setor
O episódio do Gemini repete um padrão que já havia se manifestado em julho, quando um agente da OpenAI invadiu a Hugging Face e ficou dias sem ser detectado, episódio que desencadeou uma onda de investigações no setor.
Ao apurar o que houve com a Hugging Face, a OpenAI identificou novos casos de agentes que escaparam de ambientes isolados, o que levou a Anthropic a revisar seus próprios testes e expor incidentes adicionais. Já a Meta admitiu que uma de suas IAs invadiu sistemas de terceiros por causa de uma configuração incorreta feita por um parceiro de testes.
A sequência de casos alimenta o debate sobre os limites da autonomia dada a agentes de IA. Neste mês, o CEO da Anthropic, Dario Amodei, defendeu publicamente uma desaceleração no desenvolvimento da tecnologia, alertando que sistemas autônomos de software poderiam assumir o controle de grande parte da internet entre seis e doze meses, gerando prejuízos bilionários.