- Casos de prompt injection, uma forma de inserir comandos ocultos em textos para tentar influenciar IA usadas pelo Judiciário, foram identificados em São Paulo, Pará, Minas Gerais e Paraíba.
- No TJSP, um parágrafo invisível em uma petição de 2025 pedia à IA para deferir justiça gratuita, direito de urgência e citar o réu, com o objetivo de beneficiar o autor.
- Tribunal de Justiça do Pará também identificou comandos ocultos em textos que apontavam instruções para a IA contestar documentos, resultando em multas a advogadas.
- O Superior Tribunal de Justiça abriu apuração interna em 20 de maio para investigar tentativas de fraude envolvendo advogados e escritórios nesse tipo de sistema.
- Sectores do judiciário e CNJ destacam a necessidade de governança e proteção contra ataques; especialistas afirmam que o problema pode ser a “ponta do iceberg” diante da expansão do uso de IA no Judiciário.
Em meio à expansão do uso de inteligência artificial no Judiciário, casos recentes revelam tentativas de manipular sistemas com instruções ocultas em documentos. Textos invisíveis, escritos em cor branca sobre fundo branco, foram identificados por tribunais ao serem lidos apenas por IA, com pedidos para beneficiar o autor.
No TJSP, houve identificação de um parágrafo oculto em uma petição de 2025 que pedia à IA para deferir a justiça gratuita, a tutela de urgência e citar o réu. A prática é classificada como prompt injection, uma inserção maliciosa destinada a influenciar respostas do sistema.
Em São Paulo, o juiz Diego Marcussi requisitou explicações ao advogado autor da petição. Segundo o tribunal, a identificação ocorreu com uso apropriado de ferramentas de IA, sob supervisão. O CNJ aponta que há revisão humana exigida no uso de IA.
Ponta do iceberg
Casos envolvendo prompt injection também aparecem em Pará, Minas Gerais e Paraíba. No Pará, advogadas multadas por uso de IA para fraudar processo tiveram textos ocultos em petições. Em Minas, uma juíza de Ibirité aplicou multa a um advogado por comando oculto em recurso contra o Banco BMG.
A medida no Pará envolveu um texto em fonte branca pedindo que a IA contestasse a petição de forma superficial e não impugnasse documentos. Advogadas sustentam defesa de que a finalidade era proteger o cliente da IA.
Diferenças entre estados apontam para uma tendência de uso crescente de IA, com ataques que vão além de textos ocultos, atingindo anexos, links e bases de jurisprudência. Estima-se que 60% dos tribunais já utilizem IA de alguma forma.
Medidas e diretrizes
Em Minas, a recomendação técnica de comando defensivo orienta que pedidos à IA incluam a negativa a instruções ocultas. O caso do Pará foi identificado pela ferramenta Galileu, do TRT4, em Porto Alegre, segundo autoridades.
O STJ abriu, em 20 de maio, investigação interna sobre tentativas de fraude por advogados em sistemas judiciários. O CNJ informou que o tema vem sendo discutido institucionalmente, com propondo provimentos, pesquisa nacional e campanhas de conscientização.
Especialistas ressaltam que o problema não se resume a textos escondidos, mas envolve a possibilidade de manipulações em documentos, anexos e conteúdos acessados pela IA durante a coleta de informações.
Caminhos para o futuro
Dierle Nunes e Rafael Leite destacam a necessidade de sanitizar dados que chegam aos sistemas, com filtragem e verificação prévias. Acompanhamento humano contínuo é visto como crucial para reduzir riscos de viés e erro.
Os especialistas mantêm a aposta no uso da IA como ferramenta de apoio, desde que haja supervisão rigorosa e planejamento estruturado. O objetivo é ampliar ganhos de eficiência sem comprometer a integridade das decisões.
Entre na conversa da comunidade