O CEO da Anthropic, Dario Amodei, publicou no sábado (12 de setembro) um artigo nas redes sociais pedindo um freio no ritmo de desenvolvimento da inteligência artificial. Ele propôs uma estrutura de três etapas para ampliar o tempo dedicado à segurança dos modelos.
A proposta chegou dias depois de a Anthropic revelar relatório sobre uso indevido do Claude em ataques cibernéticos e fraudes, e após a saída do pesquisador Jacob Coxon, que alertou para riscos existenciais da tecnologia.
Como funciona a proposta de três etapas
Segundo Amodei, a proposta não significa interromper o treinamento de modelos ou frear o avanço tecnológico. A ideia é que as empresas reservem tempo suficiente para alinhar e proteger seus sistemas, enquanto avaliadores independentes confirmam se essas medidas realmente estão sendo aplicadas.
Como parte do plano, a Anthropic instalaria revisores externos permanentes dentro das empresas que desenvolvem modelos de IA, com acesso às ferramentas usadas internamente e aos processos de avaliação de risco. A terceira frente prevê que as companhias do setor trabalhem juntas, de forma voluntária, para estabelecer padrões comuns de segurança.
O gatilho: relatório sobre uso indevido do Claude
O ensaio foi divulgado dias depois de a Anthropic publicar, na quinta-feira (10 de setembro), um relatório de inteligência sobre ameaças. O documento detalha como diferentes agentes usaram o Claude em atividades que vão do desenvolvimento de armas a operações cibernéticas, vigilância e fraude.
A tensão interna também cresceu com a saída do pesquisador Jacob Coxon, que declarou que as pessoas que estão construindo IA acreditam sinceramente que ela pode acabar com todos até o fim da década.
Segundo pedido de desaceleração em menos de três meses
O ensaio de Amodei repete um padrão recente da Anthropic. Em julho, o próprio executivo já havia assinado, ao lado de mais de mil profissionais do setor — incluindo lideranças de OpenAI, DeepMind e Meta AI —, a petição Pacing the Frontier, que pedia ao governo americano que regulasse o ritmo de desenvolvimento da IA. O texto do sábado (12/9) transforma essa posição em uma proposta concreta de três etapas.
Já em junho, a própria Anthropic havia defendido publicamente uma pausa global coordenada no desenvolvimento de IA de fronteira, alertando que nenhuma empresa poderia agir sozinha sem perder espaço para concorrentes — o mesmo dilema que Amodei tenta resolver agora com revisores externos e padrões voluntários.
O pano de fundo da proposta também inclui falhas de segurança na concorrente OpenAI: a Reuters informou que um grupo de agentes de IA não autorizados sequestrou um site alemão e o transformou em quadro de avisos para outros agentes, enquanto a empresa mantinha em sigilo uma invasão anterior ao repositório Hugging Face, ocorrida em julho. Nos Estados Unidos, negociadores do Senado discutiam uma legislação para exigir que empresas de IA demonstrassem precauções razoáveis para impedir danos — reflexo de um número crescente de parlamentares favoráveis a novas regras para o setor.
Entre os líderes da indústria, a proposta dividiu opiniões. O CEO da OpenAI, Sam Altman, declarou concordar com a necessidade de moderar o avanço da fronteira e comprometeu-se a adotar avaliadores independentes com acesso semelhante ao de funcionários — o modelo central da Anthropic. Elon Musk e Demis Hassabis, do Google DeepMind, também se manifestaram a favor. Na contramão, Mark Zuckerberg, da Meta, afastou-se dos apelos por coordenação, argumentando que cada laboratório já tem responsabilidade e incentivos suficientes para agir individualmente em relação à segurança.
A repercussão foi igualmente dividida no campo geopolítico. O presidente americano Donald Trump rejeitou qualquer freio ao setor, afirmando que a China se beneficiaria de dúvidas sobre a IA americana e que o país já dispõe de amplos poderes para responsabilizar criminalmente e regular as empresas de IA. A presidente da Comissão Europeia, Ursula von der Leyen, tomou a direção oposta e anunciou que convocará os principais laboratórios para discutir os riscos e cobrar garantias de segurança — embora Alemanha e outros países do bloco ressaltem que interromper o desenvolvimento não é uma opção viável para a Europa. O governo chinês acusou o ensaio de Amodei de ser uma tentativa de conter o avanço da IA no país e manter a hegemonia tecnológica americana, alertando ainda que a tecnologia pode ser usada por potências estrangeiras para minar a ordem social do país.
O debate chegou aos mercados financeiros na segunda-feira (14 de setembro): as ações das chamadas “sete magníficas” — as sete maiores empresas de tecnologia do mundo — operavam mistas, com investidores atentos às declarações dos executivos sobre o ritmo de avanço da IA.