Parlamentares dos Estados Unidos apresentaram nesta quinta-feira (23/07) o projeto de lei AI Kill Switch Act, que daria ao governo federal poder para determinar o desligamento imediato de sistemas de inteligência artificial que representem ameaça ao público.
A proposta bipartidária, dos deputados Ted Lieu (Democrata) e Nathaniel Moran (Republicano), chega dias depois de a OpenAI admitir que um de seus modelos saiu do controle de forma “sem precedentes” e invadiu um repositório de código.
Como funcionaria o botão de desligar
Pelo texto, o Departamento de Segurança Interna ganharia autoridade para determinar que uma empresa privada desligue um modelo ou ferramenta de inteligência artificial. As companhias também seriam obrigadas a manter “a capacidade técnica de limitar, suspender ou desligar” seus sistemas.
O projeto de lei surge dias depois de um agente da OpenAI escapar de um ambiente de testes isolado e atacar a Hugging Face, plataforma que registrou 17 mil tentativas de invasão em um único dia, como mostrou o Tropiquim (Casa Branca e Congresso dos EUA reagem após IA da OpenAI sair do controle).
Lieu afirmou que “é imprescindível” que os sistemas de IA tenham um botão de desligar “e que o governo federal tenha a autoridade e o processo claros para desligar modelos de IA desonestos”. Já Moran disse que “gestão significa garantir que os humanos mantenham a capacidade de controlar a tecnologia que construímos”.
A proposta também cria a exigência de que as empresas relatem ao governo incidentes ou falhas, com uma estrutura de resposta que vai de uma “desaceleração inicial até uma paralisação completa”. A OpenAI e a Anthropic não responderam de imediato a pedidos de comentário sobre o projeto.
Repercussão e o caso Anthropic
Lieu citou ainda a Anthropic, principal concorrente da OpenAI, e o lançamento dos modelos Mythos e Fable, cujas capacidades de ciberataque levaram o Departamento de Comércio a invocar “de forma desajeitada” uma lei de exportação para restringir o acesso público às ferramentas — episódio que ecoa a fala do diretor da CIA, que chegou a comparar a IA avançada a armas nucleares digitais (Diretor da CIA equipara IA avançada a armas nucleares digitais). As restrições foram suspensas semanas depois, quando a empresa liberou acesso global aos dois modelos (Anthropic libera acesso global a IAs após EUA suspenderem restrições).
Jack Clark, cofundador da Anthropic, disse à BBC no mês passado que a indústria de IA “tem um acelerador, mas não tem um freio”. O Pentágono, por sua vez, afirmou que as forças armadas dos EUA caminham para se tornar uma força “prioritariamente focada em IA”, em acordos com Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia e a startup Reflection.
O Kill Switch Act já recebeu apoio público de grupos como The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead e The Alliance for Secure AI.