O Superior Tribunal de Justiça (STJ) determinou, nesta quarta-feira (20), a abertura imediata de um inquérito policial e de um procedimento administrativo interno para investigar o uso de inteligência artificial generativa para fraudar o sistema eletrônico de peticionamento da Corte.
A ordem, emitida pelo presidente do tribunal, ministro Herman Benjamin, mira a atuação de advogados e escritórios de advocacia suspeitos de tentar burlar os filtros automatizados de triagem processual do tribunal.
A ofensiva foi deflagrada após a equipe técnica de TI do STJ identificar uma série de peças jurídicas contendo instruções ocultas conhecidas como prompt injection (injeção de prompt). Essa técnica consiste em camuflar comandos de texto específicos no corpo do documento enviados ao tribunal.
O objetivo dos fraudadores era fazer com que o modelo de IA utilizado na triagem ignorasse os filtros de admissibilidade, forçando, de forma artificial, o recebimento e o andamento de recursos que, pelas regras processuais vigentes, deveriam ser liminarmente rejeitados por falta de requisitos básicos.
De acordo com o comunicado oficial do STJ, o sistema de segurança digital da Corte conta com travas de proteção robustas que identificaram e bloquearam as anomalias, impedindo que os comandos maliciosos ocultos fossem efetivamente executados pela plataforma de recebimento.
Além de acionar a Polícia Federal para a apuração da responsabilidade criminal, os fatos constatados pelo tribunal devem ser encaminhados à Ordem dos Advogados do Brasil (OAB) para a abertura de processos disciplinares éticos contra os profissionais envolvidos.
bahia.ba
