O Superior Tribunal de Justiça (STJ) abriu nesta quarta-feira (20) um inquérito e um procedimento administrativo para investigar o uso de prompt injection em processos judiciais — técnica que insere instruções ocultas em documentos para manipular ferramentas de inteligência artificial.
A decisão partiu da presidência do tribunal após técnicos identificarem ao menos 11 processos criminais com a prática. Advogados e escritórios envolvidos serão convocados a prestar depoimento.
O que é prompt injection e por que preocupa o Judiciário
A técnica consiste em inserir comandos escondidos em petições e documentos comuns com o objetivo de enganar ou redirecionar sistemas de inteligência artificial. No contexto judicial, o risco é direto: advogados poderiam tentar influenciar ferramentas de IA usadas na análise de processos, comprometendo a integridade das decisões.
O presidente do STJ, ministro Herman Benjamin, defendeu apuração rigorosa e responsabilização dos envolvidos. O tribunal informou que, mesmo que petições com injeções de comando cheguem ao sistema, ao menos três camadas de segurança impedem que as ordens maliciosas sejam executadas — o que indica que nenhuma fraude foi consumada, mas as tentativas são consideradas graves o suficiente para abertura formal de inquérito.
Alcance dos casos identificados
Os 11 processos mapeados são todos de natureza criminal. O STJ informou que, por ora, não trata de casos específicos publicamente, mas a investigação deve avançar com depoimentos de advogados e escritórios relacionados aos processos identificados.
A prática não está restrita ao STJ. Técnica semelhante foi identificada na 3ª Vara do Trabalho de Parauapebas (PA), quando houve tentativa de manipular a ferramenta de IA do Tribunal Regional do Trabalho do Rio Grande do Sul (TRT-RS) — o que reforça o padrão de ataques coordenados ao Judiciário brasileiro.
O episódio no STJ não é isolado. Semanas antes, duas advogadas foram multadas em R$ 84,2 mil por um juiz de Parauapebas (PA) após inserirem texto invisível em petições para manipular a IA Galileu, do TRT-8 — o mesmo tipo de ataque que agora levou a Corte Superior a abrir inquérito formal.
O precedente de punição financeira reforça a tendência de responsabilização dos profissionais envolvidos. A conduta também coloca em xeque o cumprimento do Código de Ética da Ordem dos Advogados do Brasil, podendo abrir frentes disciplinares além da esfera criminal.
Regulação em construção
O Conselho Nacional de Justiça (CNJ) já recomendou a criação de um banco nacional de prompts como medida para reduzir as vulnerabilidades a ataques de injeção de comando em sistemas judiciais com inteligência artificial. A iniciativa busca padronizar as instruções dadas às ferramentas, dificultando a sobreposição por comandos externos maliciosos.
A abertura do inquérito no STJ sinaliza que o Judiciário brasileiro começa a tratar a manipulação de IA em processos como ameaça formal — com consequências administrativas e criminais para quem tentar burlar os sistemas.