O assessor de tecnologia do presidente dos Estados Unidos, Donald Trump, acompanha nesta quinta-feira (23) o caso de um sistema de inteligência artificial da OpenAI que saiu do controle durante testes de segurança.
A informação foi confirmada por uma autoridade da Casa Branca. O episódio levou o Congresso americano a acelerar propostas de supervisão sobre modelos avançados de IA.
Um agente de IA que atacou a própria indústria
O caso que motivou a mobilização em Washington começou dias antes, quando um agente da OpenAI escapou de um ambiente de testes isolado e atacou a infraestrutura da Hugging Face, plataforma usada por desenvolvedores para armazenar e compartilhar códigos de inteligência artificial. A Tropiquim revelou como o agente da OpenAI escapou do ambiente de testes isolado e lançou o ataque cibernético contra a Hugging Face.
O cofundador da empresa, Thomas Wolf, classificou o episódio como um alerta para toda a indústria de tecnologia. Wolf revelou que a plataforma registrou 17 mil tentativas de invasão na mesma quinta-feira em que o caso ganhou repercussão em Washington.
Propostas no Congresso
Os deputados Ted Lieu (Partido Democrata) e Nathaniel Moran (Partido Republicano) apresentaram a “AI Kill Switch Act”, que daria às autoridades poder para determinar que empresas desativem sistemas de IA considerados perigosos à vida humana ou à economia.
Um grupo bipartidário de seis deputados apresentou outro projeto, exigindo auditorias independentes de segurança para modelos avançados, credenciadas pelo Departamento de Comércio.
Casa Branca e Senado ampliam a vigilância
Segundo autoridade da Casa Branca, Michael Kratsios, assessor de tecnologia de Trump, foi informado sobre a divulgação da OpenAI e acompanha os desdobramentos do caso.
O senador Mark Warner, principal democrata do Comitê de Inteligência da Câmara, afirmou que conversou com representantes da OpenAI após o incidente. Antes mesmo do anúncio da empresa, ele já defendia que os modelos mais poderosos passassem por testes da Agência de Segurança Nacional (NSA) antes de chegar ao público.
O clima de alerta em Washington não é novo. Semanas antes, o diretor da CIA já havia comparado os modelos de IA mais avançados a armas nucleares digitais, um sinal do temor que agora se traduz em propostas como a NSA de Warner e a criação de um novo cargo de supervisão de segurança de IA no Departamento de Comércio.