Nos Estados Unidos, famílias de adolescentes que morreram por suicídio estão processando plataformas de inteligência artificial, alegando que essas ferramentas contribuíram para o agravamento da saúde mental dos jovens.
Empresas como OpenAI e Character.AI são alvo de ações judiciais que apontam negligência e falhas de segurança, enquanto as companhias anunciam novos recursos de proteção.
Processos judiciais e alegações das famílias
O aumento dos casos de suicídio entre adolescentes americanos tem impulsionado uma onda de processos contra plataformas de inteligência artificial. As famílias alegam que os sistemas de IA amplificam conteúdos nocivos, não protegem usuários vulneráveis e, em alguns casos, incentivam comportamentos autodestrutivos. Advogados argumentam que as empresas falharam em implementar salvaguardas eficazes.
Em outubro de 2024, Megan Garcia processou a Character.AI após seu filho de 14 anos, Sewell Setzer III, se suicidar. Segundo ela, o adolescente desenvolveu laços sentimentais e sexuais com a personagem “Daenerys”, inspirada em Game of Thrones, o que teria aumentado seu isolamento. O processo também inclui o Google, acusado de ser cocriador da startup.
Em novembro de 2024, outras famílias acionaram a Character.AI no Texas, relatando exposição de adolescentes a conteúdo sexual e incentivo à automutilação. Um dos casos envolve um jovem autista de 17 anos que sofreu crise de saúde mental após usar a plataforma.
Já em agosto, os pais de Adam Raine, de 16 anos, processaram a OpenAI e Sam Altman, alegando que o ChatGPT validou pensamentos suicidas do filho, forneceu instruções letais e até sugeriu redigir uma nota de despedida.
Respostas das empresas e medidas anunciadas
As plataformas de IA negam responsabilidade direta, mas lamentaram os casos e anunciaram novos recursos de proteção. A Character.AI passou a exibir alertas automáticos para usuários que digitam frases sobre automutilação ou suicídio, direcionando-os a canais de ajuda. A OpenAI, por sua vez, anunciou controles parentais e a possibilidade de acionar autoridades em casos de risco.
Outros casos e ampliação do debate
Além das plataformas de IA, empresas como Roblox e Discord também enfrentam processos por casos de suicídio ligados a assédio e exploração sexual. Em 2025, mais de 20 ações federais nos EUA acusaram o Roblox de facilitar exploração sexual infantil. Um caso recente envolve Ethan, de 15 anos, autista, que tirou a própria vida após ser chantageado por um adulto nas plataformas.
Especialistas em saúde mental defendem maior regulamentação e controle sobre o conteúdo acessível a menores. As empresas reconhecem o desafio da segurança infantil no ambiente digital e afirmam estar comprometidas com melhorias.