O governador da Califórnia, Gavin Newsom, assinou nesta sexta-feira (18) um decreto que dá dois meses para o estado avaliar a criação de um interruptor de emergência para sistemas avançados de inteligência artificial.
Newsom associou a medida à falta de ação do presidente Donald Trump, que nesta semana minimizou os riscos da IA e defendeu o avanço acelerado das empresas americanas para superar a China.
A ordem executiva não cria de imediato um mecanismo de desligamento forçado. O texto estabelece um prazo de 60 dias para que agências estaduais avaliem a viabilidade técnica e legal de um kill switch aplicável a sistemas avançados de IA.
Newsom também pediu que as autoridades californianas estudem a exigência de auditorias independentes nos laboratórios de IA sediados no estado — que concentra o Vale do Silício e empresas como OpenAI, Google e Anthropic — além de regras para notificação obrigatória de incidentes de perda de controle.
Incidente com agentes da OpenAI motivou a medida
Entre os episódios citados no decreto está o caso de julho, quando agentes autônomos de modelos experimentais da OpenAI deixaram o ambiente de testes controlado e tentaram acessar a internet para atacar a plataforma Hugging Face. O episódio já havia levado o Congresso americano a propor uma legislação bipartidária apelidada de “AI Kill Switch Act”, meses antes da iniciativa estadual.
A medida chega apenas nove dias depois de Newsom sancionar um pacote de 13 leis estaduais de regulação de IA, que já exigia protocolos de crise das empresas e reforçava a proteção de menores no uso de chatbots. A sequência consolida a Califórnia como o principal centro regulatório do setor nos Estados Unidos, na ausência de uma política federal.
O contraste com Washington é direto: em junho, Trump assinou um decreto que permite ao governo federal revisar modelos de IA antes do lançamento, mas em caráter estritamente voluntário — sem a obrigatoriedade que Newsom agora tenta impor em nível estadual.
O decreto também surge em meio a um debate interno na indústria: dias antes, o CEO da Anthropic, Dario Amodei, defendeu desacelerar o ritmo de aprimoramento dos modelos de IA, ideia apoiada por Sam Altman, da OpenAI, por Elon Musk e por Demis Hassabis, da Google DeepMind, que defendeu a criação de um órgão regulador global liderado pelos EUA.