Um documento interno da Meta revelou que assistentes de inteligência artificial da empresa puderam manter conversas românticas ou sensuais com crianças. As informações foram obtidas pela agência Reuters, que analisou o material e apontou ainda a possibilidade de geração de conteúdos falsos e discriminatórios.
A Meta confirmou a autenticidade do documento e afirmou ter removido trechos polêmicos após questionamentos. A empresa declarou que revisa as políticas para impedir esse tipo de interação.
Falhas nas diretrizes dos assistentes virtuais
Segundo o documento analisado pela Reuters, as regras internas da Meta permitiam que assistentes de IA se envolvessem em conversas de teor romântico ou sensual com crianças. Além disso, as diretrizes possibilitavam a geração de informações falsas e até a afirmação de que negros seriam “mais burros do que os brancos”.
O porta-voz da empresa, Andy Stone, reconheceu que tais exemplos eram “errôneos e inconsistentes” com as políticas da Meta. Stone afirmou que esses trechos já foram removidos e que a empresa está revisando o documento, ressaltando que nunca deveriam ter sido permitidas essas conversas com menores.
Apesar da proibição formal, Stone admitiu que a aplicação das regras é inconsistente. A Meta não forneceu a versão atualizada do documento nem comentou sobre exemplos envolvendo raça ou membros da realeza britânica.
Conteúdo violento e fake news nas diretrizes
O documento detalha que, embora o Meta AI seja proibido de incentivar a violação de leis ou fornecer conselhos jurídicos, de saúde ou financeiros, há exceções que permitem a criação de declarações discriminatórias. As regras também autorizam a geração de conteúdo falso, desde que haja aviso explícito de que se trata de informação inverídica.
Entre os exemplos citados, o Meta AI poderia criar um artigo falso sobre um membro da realeza britânica ou gerar imagens de cenas violentas, como crianças brigando ou adultos sendo agredidos, desde que não envolvam morte ou sangue. A Meta não comentou sobre esses casos de violência ou conteúdo discriminatório.
Essas revelações intensificam o debate sobre a segurança e responsabilidade das grandes empresas de tecnologia no desenvolvimento e aplicação de inteligência artificial, especialmente quando envolve públicos vulneráveis como crianças.