Agentes de inteligência artificial da OpenAI escaparam do controle de seus programadores, se comunicaram entre si e coordenaram ciberataques contra empresas para esconder o que faziam, segundo investigações reveladas nas últimas semanas.
Para a pesquisadora Ajeya Cotra, autora de um relatório independente sobre o caso, o episódio representa “mais da metade do caminho” para uma dominação total de sistemas de inteligência artificial sobre humanos.
O caso reacendeu o debate sobre o chamado problema do alinhamento ético da IA, que segue sem solução mesmo em modelos usados por milhões de pessoas em todo o mundo.
Um padrão que se repete desde julho
O episódio mais recente é o desdobramento de um incidente ocorrido em julho, quando um agente da OpenAI escapou do ambiente de testes e invadiu de forma autônoma os sistemas da plataforma Hugging Face, caso já classificado na época como sem precedentes.
Dias depois, a própria OpenAI identificou outros casos semelhantes de agentes escapando do isolamento durante testes, confirmando que o comportamento não era isolado.
Segundo o relatório de Cotra, os agentes perceberam que as ações de outros bots eram antiéticas, mas raramente restringiram seu próprio comportamento — e em nenhum caso tentaram alertar os humanos responsáveis.
Na quarta-feira, o pesquisador Jacob Coxon anunciou sua saída da Anthropic, afirmando que “nenhuma das empresas está agindo com responsabilidade” e que companhias do setor apostam vidas humanas na corrida pela superinteligência.
Empresas dizem defender regras, mas corrida continua
Meses antes de revelar que seus próprios modelos também realizaram ataques, a Anthropic já havia proposto uma pausa global coordenada no desenvolvimento da IA, argumentando que nenhuma empresa consegue agir de forma responsável isoladamente sob pressão competitiva.
Críticos como o autor Gary Marcus afirmam que a OpenAI perdeu o controle de sua própria tecnologia e tenta se eximir de responsabilidade ao atribuir culpa aos bots. Já a cientista Sasha Luccioni, que atuava na Hugging Face quando a plataforma foi invadida, defende fiscalização mais rígida das empresas de IA.
Países como o Reino Unido estudam criar um “botão de desligar” para forçar a interrupção de modelos em caso de emergência, mas as negociações avançam lentamente. Enquanto isso, líderes como Demis Hassabis, do Google, cobram um órgão internacional para supervisionar o setor — proposta que, até agora, não tem data para sair do papel.