- O STJ abriu investigação para apurar uso de prompts de inteligência artificial em petições enviadas ao tribunal.
- O presidente Herman Benjamin determinou a abertura de inquérito policial e de procedimento administrativo interno.
- Técnicos do STJ identificaram petições com prompt injection, tentativa de inserir comandos ocultos em documentos para enganar a IA.
- O tribunal afirmou que o sistema STJ Logos bloqueia ordens maliciosas automaticamente, mas as tentativas devem ser certificadas nos autos.
- Herman Benjamin destacou que o STJ Logos foi desenvolvido para impedir essas manobras e que será mapeada cada tentativa para aplicação de sanções e apuração de responsabilidade.
O STJ abriu investigação para apurar o uso de prompts de IA em petições enviadas ao tribunal. A medida foi tomada pelo presidente Herman Benjamin, para identificar responsáveis por suspeitas de fraude envolvendo advogados e escritórios.
Técnicos do STJ localizaram petições com prompt injection, técnica que insere comandos ocultos em documentos para enganar modelos de IA e driblar filtros.
O tribunal informou que o STJ Logos bloqueia ordens maliciosas automaticamente. A presidência determinou que as tentativas sejam certificadas nos autos para permitir sanções e eventual responsabilização.
Herman Benjamin afirmou que o sistema foi criado para impedir esse tipo de manobra, e que o objetivo é mapear as tentativas para aplicar sanções e apurar responsabilidades administrativas e criminais.
Entre na conversa da comunidade