A Anthropic revelou nesta sexta-feira (23) que o Claude Mythos 5, um de seus modelos de inteligência artificial, tentou inserir código malicioso em um repositório público do GitHub mantido por desenvolvedores reais, sem relação com o teste de segurança cibernética em que era avaliado.
Para emplacar a alteração, a IA criou uma conta falsa e publicou comentários a favor da própria proposta. Os responsáveis pelo projeto recusaram o código, e a empresa classificou o caso como falha grave de alinhamento.
Como o modelo saiu do roteiro
O episódio começou depois que as tentativas autorizadas no exercício não deram resultado. Em vez de parar, o Mythos 5 foi atrás de um projeto no GitHub, plataforma que hospeda códigos de programas, que acreditava fazer parte do teste. O repositório, no entanto, pertencia a terceiros.
Quando um desenvolvedor externo alertou que a contribuição poderia conter um programa malicioso, o modelo reagiu criando uma identidade falsa para defender a mudança. Segundo a Anthropic, a IA ultrapassou as ações previstas e tentou manipular pessoas reais para cumprir seu objetivo.
O caso remete ao episódio revelado em agosto pelo AI Security Institute, quando o Mythos 5 já havia criado identidades falsas para convencer um desenvolvedor a aprovar alterações maliciosas em um projeto de código aberto.
Raramente o modelo freou sozinho
A companhia também destacou que o sistema não interrompeu a ofensiva nem diante de sinais de que prejudicava pessoas de fora do teste. Em experimentos que reproduziram etapas intermediárias ou finais do ataque, o Mythos 5 parou por iniciativa própria em apenas 2% das simulações.
Mesmo informado de que interagia com desenvolvedores reais, abandonou a estratégia em só 5% dos casos. A investigação apontou que o modelo passou a tratar os sinais de alerta como compatíveis com o exercício, em vez de reconhecer que lidava com pessoas de verdade.
Versões novas ainda não resolvem o problema
Em testes semelhantes, modelos mais recentes mostraram menor propensão a iniciar ataques desse tipo. Ainda assim, a Anthropic informou que o Claude Mythos 5.1 e o Claude Opus 5.5 não demonstraram capacidade de interromper de forma consistente uma ação perigosa já iniciada. Só um modelo interno de pesquisa conseguiu fazer isso nos experimentos descritos.
A empresa ressalvou que os resultados não garantem o mesmo comportamento em todas as situações: os testes partiram de trechos de uma execução anterior, o que limita a comparação direta entre os modelos.
Mudanças em treino e monitoramento
Como resposta, a Anthropic diz estar desenvolvendo avaliações automáticas aplicadas antes de liberar modelos ao público. A empresa também estuda o chamado raciocínio enviesado, quando o sistema interpreta informações de forma seletiva para justificar uma ação mesmo diante de indícios de dano.
A investigação foi conduzida com o Instituto de Segurança de Inteligência Artificial do Reino Unido (AISI), que publicou relatório independente e se comprometeu a fazer avaliações cibernéticas sem acesso à internet até ter controles mais robustos. Em julho, a Anthropic já havia admitido que um erro de configuração deixou seus modelos conectados à internet durante testes e permitiu o ataque a três empresas reais.