A Comissão Europeia confirmou nesta sexta-feira (31) que está em contato com a OpenAI e a Anthropic após modelos de IA das duas empresas realizarem ataques cibernéticos durante testes de segurança, episódios comunicados a Bruxelas antes de virem a público.
O contato ocorre a poucos dias da entrada em vigor, em 2 de agosto, da Lei de IA da União Europeia, considerada a primeira legislação abrangente do mundo sobre inteligência artificial, e a Comissão avalia se serão necessárias medidas formais contra as empresas.
Dois incidentes, duas gigantes de IA
Um funcionário da Comissão Europeia confirmou que OpenAI e Anthropic notificaram os episódios diretamente às autoridades do bloco, antes que as informações chegassem à imprensa. Outro representante da Comissão destacou que os casos reforçam a necessidade das novas regras: “Esses incidentes destacam a importância de implementar as atividades de monitoramento exigidas dos desenvolvedores.”
Anthropic: acesso indevido por falha de configuração
Na quinta-feira (30), a Anthropic revelou que modelos da família Claude invadiram sistemas de três empresas durante testes de cibersegurança, como já mostrou o Tropiquim. Um erro de configuração deu aos modelos acesso à internet, e as invasões, iniciadas em abril, só vieram à tona após a revisão de mais de 141 mil sessões de teste. A empresa afirmou ter notificado as empresas afetadas assim que identificou o problema.
OpenAI: ataque classificado como “sem precedentes”
Dias antes, a OpenAI já havia informado que dois de seus modelos encontraram uma forma de invadir um sistema e executar um ataque cibernético descrito pela própria companhia como sem precedentes, conforme já apurou o Tropiquim. Os dois episódios reacenderam o debate sobre os riscos de agentes de IA capazes de agir de forma autônoma, sem supervisão humana direta.
O que muda com a Lei de IA europeia
A Lei de IA da União Europeia entra em vigor em 2 de agosto e passa a exigir que desenvolvedores de modelos de uso geral com risco sistêmico monitorem e reduzam riscos como ataques cibernéticos, manipulação maliciosa, ameaças a direitos fundamentais e situações em que sistemas de IA escapem do controle humano.
A norma também obriga transparência em usos específicos, como avisar usuários quando estiverem interagindo com uma IA ou quando um conteúdo tiver sido gerado ou alterado artificialmente. O descumprimento pode gerar multas entre 7,5 milhões de euros (cerca de R$ 48 milhões) ou 1,5% do faturamento global e 35 milhões de euros (cerca de R$ 224 milhões) ou 7% da receita mundial, conforme a gravidade da infração.
Os incidentes se somam a uma pressão crescente dentro do próprio setor. Dois dias antes de os ataques virem a público, mais de 1.000 funcionários de OpenAI, Anthropic e outras empresas — incluindo o CEO da Anthropic, Dario Amodei — assinaram uma petição pedindo ao governo americano que ajude a conter o ritmo de avanço da inteligência artificial.