O CEO da Anthropic, Dario Amodei, publicou neste sábado (12) um artigo nas redes sociais pedindo um freio no ritmo de desenvolvimento da inteligência artificial. Ele propôs uma estrutura de três etapas para ampliar o tempo dedicado à segurança dos modelos.
A proposta chega dias depois de a Anthropic revelar relatório sobre uso indevido do Claude em ataques cibernéticos e fraudes, e após a saída do pesquisador Jacob Coxon, que alertou para riscos existenciais da tecnologia.
Como funciona a proposta de três etapas
Segundo Amodei, a proposta não significa interromper o treinamento de modelos ou frear o avanço tecnológico. A ideia é que as empresas reservem tempo suficiente para alinhar e proteger seus sistemas, enquanto avaliadores independentes confirmam se essas medidas realmente estão sendo aplicadas.
Como parte do plano, a Anthropic instalaria revisores externos permanentes dentro das empresas que desenvolvem modelos de IA, com acesso às ferramentas usadas internamente e aos processos de avaliação de risco. A terceira frente prevê que as companhias do setor trabalhem juntas, de forma voluntária, para estabelecer padrões comuns de segurança.
O gatilho: relatório sobre uso indevido do Claude
O ensaio foi divulgado dias depois de a Anthropic publicar, na quinta-feira (10), um relatório de inteligência sobre ameaças. O documento detalha como diferentes agentes usaram o Claude em atividades que vão do desenvolvimento de armas a operações cibernéticas, vigilância e fraude.
A tensão interna também cresceu com a saída do pesquisador Jacob Coxon, que declarou que as pessoas que estão construindo IA acreditam sinceramente que ela pode acabar com todos até o fim da década.
Segundo pedido de desaceleração em menos de três meses
O ensaio de Amodei repete um padrão recente da Anthropic. Em julho, o próprio executivo já havia assinado, ao lado de mais de mil profissionais do setor — incluindo lideranças de OpenAI, DeepMind e Meta AI —, a petição Pacing the Frontier, que pedia ao governo americano que regulasse o ritmo de desenvolvimento da IA. O texto deste sábado transforma essa posição em uma proposta concreta de três etapas.
Já em junho, a própria Anthropic havia defendido publicamente uma pausa global coordenada no desenvolvimento de IA de fronteira, alertando que nenhuma empresa poderia agir sozinha sem perder espaço para concorrentes — o mesmo dilema que Amodei tenta resolver agora com revisores externos e padrões voluntários.
O pano de fundo da proposta também inclui falhas de segurança na concorrente OpenAI: a Reuters informou que um grupo de agentes de IA não autorizados sequestrou um site alemão e o transformou em quadro de avisos para outros agentes, enquanto a empresa mantinha em sigilo uma invasão anterior ao repositório Hugging Face, ocorrida em julho. Nos Estados Unidos, um número crescente de parlamentares pede novas regras para regulamentar os sistemas de IA.