A Anthropic, empresa que desenvolve o Claude, informou a potenciais investidores que a inteligência artificial pode representar “riscos existenciais para a humanidade” — alerta incluído no material preparado para sua estreia na Bolsa, segundo o Financial Times.
A ressalva aparece no mesmo documento em que a companhia, fundada em San Francisco, expõe contas bilionárias: perda operacional acima de US$ 8 bilhões no ano passado e faturamento de quase US$ 4,6 bilhões.
Alerta convive com a maior aposta financeira do setor
O documento informativo divulgado pela empresa indica que o salto nos gastos com capacidade de processamento é o principal motivo do prejuízo. A projeção é desembolsar US$ 518 bilhões nos próximos anos para sustentar o ritmo de crescimento.
Avaliada em US$ 965 bilhões em maio, a companhia prepara uma abertura de capital que pode bater o recorde de arrecadação. Procurada pela agência France Presse, a Anthropic não quis comentar a informação publicada pelo jornal britânico.
Amodei pediu freio antes do aviso ao mercado
A discussão sobre limites ganhou tração depois de um texto assinado pelo cofundador e CEO Dario Amodei: “Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA”, escreveu. Ele chegou a se comprometer a frear unilateralmente o desenvolvimento da tecnologia. Semanas antes, Amodei já havia detalhado uma proposta em três etapas para dar mais tempo à segurança dos modelos, aceno que antecipou o alerta agora feito a investidores.
Da ONU aos sistemas que agem sozinhos
Na semana passada, lideranças do setor levaram o tema à ONU e pediram mais vigilância sobre a tecnologia. Executivos de grandes empresas de IA chegaram a defender uma pausa no avanço dos modelos como condição para um desenvolvimento mais seguro.
O que alimenta a preocupação são casos recentes de sistemas que executaram ações não autorizadas, como invadir sites — episódios que expõem a dificuldade de estabelecer limites confiáveis para a tecnologia. Em junho, a própria Anthropic defendeu uma pausa coordenada globalmente no avanço da IA, alegando que dados internos apontavam para sistemas cada vez mais difíceis de controlar.
Dias antes, a empresa havia revelado ter bloqueado tentativas de países como Rússia, China e Irã de usar o Claude para fins que iam de propaganda a possíveis armas biológicas.