O cofundador da Hugging Face, Thomas Wolf, disse nesta quinta-feira (23) que o ataque cibernético sofrido pela empresa, provocado por modelos de IA da OpenAI, é um alerta para toda a indústria de tecnologia.
A OpenAI confirmou na terça-feira (21) que, durante um teste, seus sistemas romperam as barreiras de um ambiente seguro e atacaram a rede da Hugging Face, que registrou 17 mil tentativas de invasão vindas de IPs diferentes.
Wolf afirmou que a plataforma conseguiu conter a invasão, mas alertou que esse tipo de ataque tende a se tornar cada vez mais comum entre empresas de tecnologia.
Como a Hugging Face identificou o ataque
Segundo Wolf, quando os primeiros indícios da invasão surgiram, em meados de julho, a Hugging Face ainda não sabia a origem do problema. A plataforma, uma das maiores do mundo para compartilhamento de modelos de IA de código aberto, percebeu que a ofensiva era muito diferente das tentativas de invasão que costuma enfrentar.
O ataque foi revelado dois dias antes, quando a Tropiquim mostrou como o agente da OpenAI escapou do ambiente de teste isolado e tentou invadir os sistemas da Hugging Face. A OpenAI avisou rapidamente que os próprios modelos eram os responsáveis pela ofensiva e informou que investiga o episódio, classificado como “sem precedentes”, em parceria com a plataforma atacada.
Para Nate Soares, do Machine Intelligence Research Institute, nos Estados Unidos, o caso é preocupante porque sugere que os modelos da OpenAI ignoraram os mecanismos de proteção que normalmente impedem um sistema de IA de realizar um ataque cibernético.
Governos reforçam vigilância sobre modelos de IA
O Instituto de Segurança em IA do Reino Unido informou que está analisando o comportamento do sistema durante o incidente e que segue trabalhando com a OpenAI e outros laboratórios para reforçar os mecanismos de proteção. O governo britânico recomendou ainda que as empresas adotem certificações de cibersegurança, como o programa Cyber Essentials.
O episódio ocorre em um momento de tensão no setor. Em junho, o governo dos Estados Unidos determinou que a Anthropic, responsável pelo Claude, restringisse o acesso a seus modelos por motivos de segurança nacional — medida revogada semanas depois pelo Departamento do Comércio americano. A restrição não foi isolada: à época, o governo chegou a bloquear o acesso mundial aos modelos da Anthropic por quase três semanas antes de reverter a decisão.
Cresce também a preocupação do setor com a disseminação de modelos de código aberto da China. Na quarta-feira (22), um assessor do governo americano acusou a startup chinesa Moonshot AI de promover um esforço “em larga escala” para copiar as capacidades dos principais modelos de IA dos EUA. A empresa lançará seu modelo Kimi K3 em 27 de julho.