Na quinta-feira (15), em Boston, representantes da OpenAI e da Meta alertaram que vídeos e áudios falsificados por inteligência artificial estão cada vez mais difíceis de detectar. Segundo eles, nem pessoas nem programas de computador conseguem mais distingui-los com segurança de registros reais.
O alerta foi dado ao Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, que estuda como impedir que deepfakes comprometam provas em julgamentos no país. A agência Reuters acompanhou a reunião, segundo relato reproduzido pelo g1.
Falsificação barata e convincente
Devin Norder, diretor de gestão de produtos da Meta, disse à Reuters que o material gerado pelos modelos de IA mais avançados já pode ser indistinguível de mídia autêntica aos olhos humanos. Segundo ele, produzir esse tipo de conteúdo exige pouco tempo e pouco dinheiro.
O avanço vem da IA generativa, a tecnologia que cria imagens, vídeos e áudios a partir de comandos. Os especialistas afirmam que é justamente o salto de qualidade desses sistemas que tornou as falsificações difíceis de identificar, tanto para o olho humano quanto para as ferramentas automáticas.
Um debate que começou em 2023
O comitê discute o assunto desde 2023 e trabalha em duas frentes. A primeira é como checar a autenticidade de materiais suspeitos de serem deepfakes. A segunda é como garantir que provas produzidas com IA atendam aos mesmos critérios de confiabilidade cobrados das demais evidências, inclusive das que são analisadas por peritos humanos.
Por enquanto, os casos concretos ainda são raros. Em março, o Centro Federal do Judiciário, órgão de pesquisa do Poder Judiciário americano, informou que apenas 15 dos 931 juízes que responderam a uma pesquisa já tinham enfrentado a contestação de uma prova por suspeita de deepfake.
Para especialistas da indústria, da academia e do governo, porém, o risco não é hipotético. Na avaliação deles, os tribunais terão cada vez mais dificuldade para reconhecer provas fabricadas com inteligência artificial.
Marcas-d’água sem padrão comum
Uma das respostas regulatórias tem sido exigir marcas-d’água em conteúdos gerados por IA. Leis novas da Califórnia e da União Europeia já preveem esses sinais, que são incorporados ao material para indicar sua origem ou ajudar a identificá-lo.
OpenAI e Meta estão entre as grandes empresas que desenvolvem ferramentas para verificar a autenticidade de imagens e vídeos. Mesmo assim, Anderson, consultora de políticas da OpenAI, ressalvou que não existe um método universal capaz de detectar com segurança todas essas marcas ou de confirmar que um conteúdo visual é genuíno. Como cada empresa usa seu próprio sistema, a checagem continua limitada.
A ressalva chama atenção porque a OpenAI já havia aderido ao SynthID, a tecnologia do Google para marcar imagens geradas por IA.
O problema também chegou ao Brasil. Diante da dificuldade técnica de comprovar manipulações, o TSE aprovou regras que permitem aos juízes inverter o ônus da prova em casos de conteúdo alterado por IA nas eleições de 2026.