O Superior Tribunal de Justiça abriu investigação para apurar o uso de comandos de inteligência artificial, conhecidos como prompts, para tentar manipular o sistema de IA do tribunal.
A suspeita é de que as tentativas de fraude no STJ Logos, sistema de IA generativa, tenham sido cometidas por advogados e escritórios de advocacia.
Para investigar o caso, foram abertos um inquérito policial e um procedimento administrativo interno, por determinação do presidente do STJ, ministro Herman Benjamin.
A medida foi tomada após técnicos da Corte identificarem a entrada de petições com prompt injection, uma técnica usada para enganar modelos de IA.
O usuário tenta inserir instruções maliciosas no meio de uma petição ou recurso para forçar o sistema a ignorar regras de análise e, assim, favorecer uma das partes do processo.
O ministro Herman Benjamin afirmou que o STJ Logos foi desenvolvido com comandos específicos que impedem esse tipo de artimanha.
Segundo ele, o tribunal agora está mapeando todas as tentativas de fraude para apurar as responsabilidades e punir os envolvidos.
