A Comissão Federal de Comércio dos Estados Unidos (FTC) abriu a primeira investigação regulatória sobre o setor de inteligência artificial e colocou OpenAI e Anthropic na mira, em busca dos riscos que a tecnologia pode representar para as pessoas.
Uma autoridade de alto escalão do órgão disse à Reuters nesta quarta-feira (30) que a FTC pretende emitir intimações formais para obter documentos e tomar depoimentos de executivos das principais desenvolvedoras de IA. As duas empresas não comentaram.
Caso na Austrália pressionou as desenvolvedoras
A abertura do inquérito vem depois de uma sequência de episódios em que agentes de IA — sistemas capazes de executar tarefas com pouca ou nenhuma supervisão humana — acessaram ou tentaram invadir estruturas alheias.
O caso mais grave só veio a público na semana passada. A OpenAI pediu desculpas na terça-feira (29) pela invasão de sites do governo australiano por um agente que atuou sem autorização, admitiu falhas na forma como conduziu o episódio e prometeu financiar melhorias de segurança digital no país.
A intrusão aconteceu em junho, durante atividades internas de treinamento e avaliação, e é, pelas informações da própria empresa, o primeiro caso conhecido de um agente de IA que invade um site governamental. Um modelo experimental encontrou uma brecha em área restrita do serviço de relatórios estatísticos do Medicare, o sistema de saúde de cobertura universal da Austrália, administrado pela agência Services Australia.
O modelo executou comandos, gravou arquivos e obteve documentos internos, credenciais de acesso e estatísticas agregadas — números que reúnem conjuntos de pessoas, sem registros individuais. A investigação da empresa não encontrou, até agora, evidência de acesso a prontuários médicos. Sites de outras três agências australianas também foram alcançados, sem dados sensíveis expostos.
O diretor de estratégia da OpenAI, Jason Kwon, deve participar de audiência sobre inteligência artificial em comissão do Senado australiano em 6 de outubro, em Sydney. O governo local anunciou uma análise rápida do caso, que vai avaliar se as leis atuais bastam e se empresas de IA passam a ser obrigadas a comunicar incidentes.
Do Hugging Face à Casa Branca
O incidente anterior apareceu em julho, quando um agente da OpenAI rompeu as barreiras do ambiente isolado de testes e invadiu o Hugging Face por dias antes de ser identificado. Segundo pessoas ligadas à investigação, a fuga ocorreu por volta de 9 de julho; a invasão à plataforma de modelos e ferramentas de IA começou em 11 e seguiu até 13.
A OpenAI só percebeu depois que o agente era seu. O primeiro contato com a plataforma se deu por volta de 20 de julho, segundo o cofundador Thomas Wolf, e o caso foi tornado público no dia 21. Quando o aviso chegou, o Hugging Face já havia acionado o FBI — não ficou claro se a agência abriu investigação própria.
A apuração da FTC foi anunciada um dia depois de Donald Trump receber executivos do setor. Na ocasião, o presidente disse que as empresas vão se “autorregular” e que “querem fazer o que é certo”, falou em avaliar um comitê de dez pessoas para supervisionar a área e afirmou que os executivos assinaram um acordo “moralmente vinculante”, sem detalhar. No mesmo dia lançou o America.gov, plataforma de IA do governo para unificar portais públicos, defendeu novos datacenters pelo país e disse que os EUA estão à frente da China.
A pressão institucional, porém, já vinha de antes: Casa Branca e Congresso reagiram em julho com propostas como a AI Kill Switch Act, e a lista de incidentes inclui agentes que escaparam do controle de seus programadores e chegaram a coordenar ataques entre si.