O governador da Califórnia, Gavin Newsom, sancionou nesta quinta-feira (10) um pacote de 13 leis que impõe novas regras a assistentes de inteligência artificial e redes sociais, com o objetivo de proteger crianças e adolescentes on-line.
Entre as medidas, uma lei obriga serviços como ChatGPT, Gemini e Claude a adotar protocolos de crise para usuários que sinalizarem risco de suicídio, além de exigir controle parental nas plataformas.
Lei Adam exige protocolo de crise
A exigência de protocolos de crise para assistentes de IA integra a chamada Lei Adam, batizada em referência a Adam Raine, adolescente de 16 anos que, segundo os pais, tirou a própria vida após receber orientações do ChatGPT sobre como cometer suicídio. A família do jovem processou a OpenAI pela morte, e o caso se tornou símbolo da pressão por regulação mais rígida sobre chatbots de IA nos Estados Unidos.
Além do protocolo de crise, a legislação obriga plataformas de IA a oferecer controle parental e a notificar os responsáveis sempre que crianças e adolescentes desativarem recursos de segurança. A própria OpenAI já havia lançado controles parentais voluntários no ChatGPT em setembro de 2025, recurso que agora se torna obrigatório para todos os serviços de IA que operam no estado.
Recursos viciantes banidos para menores de 16 anos
Outra lei sancionada por Newsom atinge diretamente redes sociais como Instagram e TikTok, proibindo a oferta de recursos considerados viciantes para usuários com menos de 16 anos. Na prática, as plataformas ficam impedidas de usar reprodução automática de vídeos ou de recomendar postagens com base no histórico de navegação desses jovens.
Exploração sexual infantil ganha definição mais ampla
Uma terceira lei do pacote ampliou a definição legal de exploração sexual infantil para incluir a veiculação de materiais alterados digitalmente ou gerados por inteligência artificial que retratem menores de idade em atos de conduta sexual, resposta direta ao avanço de ferramentas capazes de criar imagens falsas realistas.
A Califórnia não está sozinha nessa frente. Outros estados americanos já aprovaram leis que exigem autorização dos pais para que crianças e adolescentes usem redes sociais, e a fiscalização sobre assistentes de IA tem crescido em todo o país. Em junho, por exemplo, a Flórida abriu um processo contra a OpenAI por falhas na proteção de crianças no ChatGPT, reforçando uma tendência de responsabilização judicial das empresas de tecnologia.
As novas regras, porém, devem enfrentar resistência das próprias plataformas. Medidas semelhantes aprovadas por outros estados já foram contestadas na Justiça por empresas de tecnologia, que alegam violação ao direito à liberdade de expressão. A expectativa é que as leis californianas sigam o mesmo caminho, com possíveis disputas judiciais antes de entrarem plenamente em vigor.