A Anthropic revelou que encerrou operações de vigilância digital ligadas a governos da China, do Irã e de países da África Ocidental, que usavam o Claude para espionar dissidentes e minorias entre janeiro e julho.
As campanhas miravam ativistas pró-democracia de Hong Kong, comunidades tibetanas e opositores do regime iraniano exilados, grupos historicamente perseguidos por esses governos, segundo a empresa.
Como funcionavam as operações
Em um dos casos, agentes iranianos desenvolveram um método para identificar pessoas a partir de suas contas em redes sociais, usando o Claude como ferramenta de varredura e cruzamento de dados. Já no Mali, um contratado ligado às autoridades de segurança nacional recorreu ao modelo para projetar o software que permitiu a coleta de inteligência sobre alvos internos.
Distilação não autorizada por desenvolvedores chineses
A Anthropic também acusou desenvolvedores chineses de usar o Claude de forma enganosa: enquanto respondiam a consultas de usuários comuns, os sistemas simultaneamente “destilavam” esses dados para treinar seus próprios modelos concorrentes — prática conhecida no setor como distillation, em que um modelo de IA é usado para ensinar outro sem autorização. A empresa afirma que desenvolvedores chineses já haviam sido flagrados nessa manobra antes.
Fora do escopo estatal, a empresa disse ter barrado tentativas de desenvolver armas, pesquisas biológicas consideradas problemáticas — envolvendo o vírus chikungunya, uma cepa “altamente patogênica” de gripe aviária, a família de vírus que inclui varíola e mpox, além de venenos e toxinas — e esquemas de golpes românticos on-line. Nesses casos ligados a bioarmas, a intenção dos usuários não ficou clara e a empresa não revelou identidades.
Segundo alerta da Anthropic em dois dias
O novo relatório chega um dia depois de a empresa divulgar outro documento sobre o uso indevido do Claude. Como mostrou o Tropiquim, Anthropic barra países que usaram Claude para armas biológicas — aquele texto já antecipava que China, Irã e Rússia figuravam entre os Estados que tentaram explorar o modelo para fins ilícitos, mas foi o novo relatório que detalhou as operações de vigilância contra dissidentes mencionadas ali em linhas gerais.
O episódio também expõe um paradoxo na relação da Anthropic com governos. Em março, a empresa retomou negociações com os EUA para uso militar do Claude, incluindo aplicações em operações contra o Irã, como identificação de alvos e simulação de batalha. Agora, é o próprio regime iraniano que tenta usar a mesma tecnologia para monitorar opositores exilados no exterior.