Três adolescentes americanas entraram nesta segunda-feira (17) com uma ação coletiva federal contra a xAI, empresa de inteligência artificial de Elon Musk, acusando o chatbot Grok de transformar fotos comuns delas em deepfakes sexualizados hiper-realistas.
O processo, movido em tribunal federal de San José, aponta que um suspeito já detido usou o Grok para criar as montagens a partir de fotos retiradas de redes sociais das vítimas. As imagens circularam no X, Discord e Telegram antes de migrarem para a dark web.
Grok sem proteções contra pornografia infantil
As advogadas das vítimas afirmam que a xAI projetou deliberadamente o Grok para produzir conteúdo sexualmente explícito com fins lucrativos, sem implementar as salvaguardas contra pornografia infantil adotadas por outros grandes sistemas de IA do mercado.
Um estudo do Center for Countering Digital Hate sustenta a acusação: o Grok gerou cerca de 3 milhões de imagens sexualizadas em apenas 11 dias no fim de 2025 — das quais 23.000 representavam menores de idade.
A ação está inserida na onda de deepfakes que varreu redes sociais no segundo semestre de 2025. A disseminação em massa de imagens íntimas falsas de mulheres e crianças gerou indignação mundial e abriu investigações em vários países e no estado americano da Califórnia.
O fenômeno não é exclusivo dos EUA. Levantamento do Unicef apontou que 3% dos jovens brasileiros relataram que alguém usou IA para criar imagens sexuais com sua aparência — e um caso em escola do Rio de Janeiro em 2023 seguiu o mesmo roteiro descrito no processo contra a xAI.
Pesadelos, remédios e medo da formatura
O impacto psicológico nas vítimas está detalhado na peça judicial. Uma das adolescentes tem pesadelos recorrentes; outra passou a depender de medicamentos para dormir e evita comparecer à própria cerimônia de formatura.
“Ver a minha filha ter um ataque de pânico ao perceber que essas imagens haviam sido criadas e espalhadas sem nenhuma esperança de apagá-las foi horrível”, descreveu a mãe de uma das adolescentes, do Tennessee.
Diante do escândalo, a xAI restringiu em janeiro a geração de imagens pelo Grok exclusivamente a assinantes pagos — medida criticada por especialistas como insuficiente frente à gravidade dos danos já causados.
A ação consolida um padrão jurídico em ascensão nas cortes americanas. Semanas antes, a Meta foi processada em tribunal da Califórnia após trabalhadores terceirizados acessarem cenas íntimas captadas pelos óculos Ray-Ban Meta para treinar sua inteligência artificial — reforçando a pressão judicial crescente sobre gigantes do setor.