A OpenAI anunciou nesta terça-feira (2) que o ChatGPT receberá um novo recurso de controle parental. A atualização, prevista para outubro, permitirá que pais monitorem o uso do aplicativo por adolescentes.
A decisão ocorre uma semana após a empresa ser processada por pais de um jovem de 16 anos que se suicidou nos Estados Unidos, alegando que o ChatGPT forneceu orientações sobre autoagressão.
Monitoramento e notificações para pais
Com o novo recurso, adultos poderão se vincular às contas de filhos adolescentes e receber notificações caso o ChatGPT detecte que o usuário está enfrentando “um momento de grande sofrimento”. Os pais também terão a opção de controlar como as respostas do assistente de inteligência artificial são apresentadas aos adolescentes, além de poder desativar funções como memória e histórico do aplicativo.
A OpenAI destaca que o controle parental visa proteger adolescentes, já que o uso do ChatGPT por crianças menores de 13 anos é proibido pelas regras da empresa.
Iniciativas com especialistas em saúde mental
O lançamento faz parte de um esforço maior da empresa para aprimorar as respostas do ChatGPT a “sinais de sofrimento mental e emocional”, contando com o apoio de especialistas. A OpenAI informou que compartilhará mais detalhes sobre essas iniciativas nos próximos 120 dias.
No início do ano, a empresa criou um conselho consultivo formado por especialistas em desenvolvimento juvenil, saúde mental e interação humano-computador. O grupo tem como objetivo definir “como a IA pode contribuir para o bem-estar das pessoas e ajudá-las a prosperar”.
O conselho atua em parceria com a Global Physician Network, entidade que reúne mais de 250 médicos de 60 países, para avaliar o comportamento do ChatGPT em interações relacionadas à saúde.
Segundo a OpenAI, apesar das orientações do conselho consultivo, a responsabilidade final pelas decisões, produtos e políticas permanece com a empresa. A iniciativa de implementar controles parentais e buscar apoio de especialistas ocorre em meio à crescente preocupação sobre o impacto de assistentes de inteligência artificial na saúde mental de jovens.
O caso do jovem de 16 anos nos Estados Unidos trouxe à tona o debate sobre a necessidade de mecanismos de proteção para usuários adolescentes de plataformas digitais. Organizações e especialistas do setor de tecnologia e saúde mental têm pressionado por medidas que garantam maior segurança e acompanhamento para esse público.
Com a atualização, a expectativa é que pais e responsáveis possam atuar de forma mais ativa no acompanhamento do uso do ChatGPT por adolescentes, reduzindo riscos e promovendo um ambiente digital mais seguro.