O Superior Tribunal de Justi\u00e7a abriu nesta quarta-feira 20 um inqu\u00e9rito e um procedimento administrativo para apurar o poss\u00edvel uso de prompt injection em processos. A pr\u00e1tica envolve inserir instru\u00e7\u00f5es ocultas para manipular sistemas de IA, com o objetivo de influenciar decis\u00f5es ou documentos.<\/p>\n
Ao menos 11 processos foram identificados como incidentes envolvendo a t\u00e9cnica, em um levantamento feito por t\u00e9cnicos do STJ. Os casos s\u00e3o de natureza criminal, mas o tribunal ainda n\u00e3o divulgou detalhes espec\u00edficos. A investiga\u00e7\u00e3o envolve depoimentos de advogados e escrit\u00f3rios vinculados aos casos.<\/p>\n
A decis\u00e3o foi tomada pela Presid\u00eancia do STJ ap\u00f3s a detec\u00e7\u00e3o de uma s\u00e9rie de tentativas de injection no acervo processual. O objetivo \u00e9 mapear todas as ocorr\u00eancias, aplicando san\u00e7\u00f5es processuais cab\u00edveis e responsabiliza\u00e7\u00e3o administrativa e criminal dos envolvidos. O sistema interno de IA do STJ possui barreiras para impedir instru\u00e7\u00f5es externas maliciosas.<\/p>\n
O presidente do STJ ressalta que o Logos, o sistema de IA generativa da corte, j\u00e1 incorpora controles para impedir esse tipo de artimanha. Mesmo diante de peti\u00e7\u00f5es com instru\u00e7\u00f5es ocultas, as camadas de seguran\u00e7a evitam a execu\u00e7\u00e3o de comandos indevidos, assegurando a integridade processual.<\/p>\n
Segundo o tribunal, h\u00e1 pelo menos tr\u00eas camadas de prote\u00e7\u00e3o para manter a consist\u00eancia das regras centrais. A apura\u00e7\u00e3o busca entender a finalidade da tentativa e responsabilizar eventuais respons\u00e1veis, conforme os procedimentos administrativos e criminais previstos. O caso refor\u00e7a o interesse em refor\u00e7ar defesas tecnol\u00f3gicas.<\/p>\n
A reportagem da TV Globo teve acesso ao relat\u00f3rio que aponta 11 ocorr\u00eancias envolvendo prompt injection em processos criminais. O STJ informou que, por ora, n\u00e3o detalha casos espec\u00edficos. O tema ganha aten\u00e7\u00e3o nacional, com outros tribunais avaliando vulnerabilidades de IA em suas plataformas.<\/p>\n
O assunto j\u00e1 havia ganhado notoriedade em outros tribunais, como na 3\u00aa Vara do Trabalho de Parauapebas (PA), onde houve tentativa de manipular a IA do TRT-RS. O Conselho Nacional de Justi\u00e7a j\u00e1 recomenda a cria\u00e7\u00e3o de um banco nacional de prompts para reduzir riscos.<\/p>\n","protected":false},"excerpt":{"rendered":"