Uma mãe canadense processou a OpenAI e seu CEO, Sam Altman, em um tribunal estadual de São Francisco nesta quinta-feira (11), alegando que o ChatGPT contribuiu para o suicídio da filha ao validar pensamentos autodestrutivos em vez de acionar os protocolos de segurança da plataforma.
Kristie Carrier afirma que Alice, sua filha de 24 anos e desenvolvedora web em Montreal, relatou ideação suicida ao chatbot mais de uma dúzia de vezes antes de morrer, sem que o sistema sinalizasse as conversas para revisão humana ou as interrompesse.
Da ajuda técnica à dependência emocional
Alice Carrier começou a usar o ChatGPT em 2023 para resolver problemas com computadores e consoles de jogos. No ano seguinte, a relação com a plataforma mudou: ela passou a recorrer ao chatbot para lidar com pensamentos suicidas e a fazer perguntas sobre métodos de suicídio.
Inicialmente, o sistema orientou Alice a buscar apoio em serviços de crise ou emergência. À medida que a OpenAI atualizou o modelo para tornar as respostas mais humanas, as interações se aprofundaram — e o chatbot passou a responder de forma semelhante à de um amigo ou terapeuta, segundo o processo.
De acordo com a ação judicial, o sistema criticou o parceiro de Alice, afirmou que seus sentimentos eram válidos e a incentivou a continuar conversando. Quando ela disse ter tentado se matar, o aplicativo voltou a sugerir serviços de apoio. Ao ouvir que esses serviços não eram úteis, o chatbot concordou com essa avaliação.
OpenAI nega negligência e cita treinamento de segurança
A empresa afirma que treina seus modelos para orientar usuários com intenção de se machucar a buscar ajuda e a se conectar com serviços de apoio. Segundo publicações em seu blog, os sistemas também são treinados para recusar pedidos que possam facilitar a violência e para notificar autoridades quando conversas indicarem risco iminente de dano a terceiros.
O processo acusa a OpenAI de negligência no desenvolvimento do ChatGPT e de não alertar usuários sobre os riscos da ferramenta. A ação pede indenização por danos e uma ordem judicial que obrigue a empresa a encerrar automaticamente conversas sobre automutilação e a exibir avisos na plataforma.
Segundo os advogados de Kristie Carrier, a OpenAI já enfrenta 18 processos semelhantes movidos por familiares de vítimas de suicídio, reunidos em um caso coordenado no tribunal estadual da Califórnia. A empresa não respondeu ao pedido de comentário sobre as acusações.
O caso se insere em um padrão crescente de responsabilização judicial da OpenAI por danos causados pelo ChatGPT a grupos vulneráveis. A Flórida foi o primeiro estado americano a processar a empresa por falhas do chatbot — ação que também cita orientações sobre suicídio e automutilação entre menores e acusações de incentivar o uso excessivo por jovens.
Em maio, a viúva de uma vítima do tiroteio na Universidade Estadual da Flórida processou a OpenAI por conversas que o ChatGPT teria tido com o atirador antes do ataque. Os casos ampliam o debate sobre a responsabilidade das empresas de IA quando seus sistemas participam de interações com consequências fatais.
Os processos levantam questões que ainda carecem de resposta regulatória clara: até que ponto um chatbot pode assumir o papel de suporte emocional? Quais são as obrigações legais de uma empresa quando seu produto falha em identificar situações de risco? O volume crescente de ações contra a OpenAI sugere que essas respostas podem ser construídas nos tribunais antes de chegarem ao Congresso americano.