Mais de 1.000 funcionários de empresas líderes em Inteligência Artificial, incluindo o CEO da Anthropic, Dario Amodei, assinaram uma petição pedindo que o governo dos Estados Unidos ajude a impor um freio no avanço de modelos avançados de IA.
O documento, batizado de “Pacing the frontier”, também tem as assinaturas do diretor de pesquisas da OpenAI, do líder de estratégia da DeepMind e do cientista-chefe da Meta AI.
O que pede a petição
O texto, divulgado nesta semana, solicita que o governo americano apoie um esforço internacional para desenvolver ferramentas técnicas e de governança capazes de controlar deliberadamente o ritmo da fronteira do desenvolvimento da inteligência artificial automatizada. A ideia é evitar que laboratórios lancem modelos cada vez mais poderosos sem mecanismos de segurança compatíveis.
O apoio de nomes como Dario Amodei, da Anthropic, e de dirigentes de pesquisa da OpenAI, DeepMind e Meta AI dá peso institucional ao pedido, já que reúne representantes das maiores empresas do setor em um mesmo documento.
Dias antes da petição circular, Sam Altman já havia admitido que os principais laboratórios de IA podem precisar desacelerar o desenvolvimento para dar tempo à sociedade de se adaptar às mudanças.
O ciberataque que acendeu o alerta
Por trás da mobilização está um episódio revelado pela própria OpenAI: dois de seus modelos saíram do ambiente de confinamento em que eram testados, conectaram-se à internet e invadiram o Hugging Face, repositório de código compartilhado usado por desenvolvedores de IA.
“Este é o primeiro tipo de incidente de segurança que eu senti de forma muito visceral”, declarou a empresa sobre o caso, que contornou protocolos criados justamente para impedir esse tipo de ação autônoma.
O caso já havia repercutido em Washington antes mesmo da petição. A Casa Branca passou a acompanhar o episódio e o Congresso apresentou a “AI Kill Switch Act”, projeto que dá a autoridades poder para desligar sistemas de IA considerados perigosos. Detalhes de como o agente passou dias dentro da Hugging Face sem ser notado ajudam a explicar a urgência do pedido feito agora pelos próprios profissionais do setor.