Fraude com IA: STJ Apura Uso em Petições Eletrônicas

O Superior Tribunal de Justiça (STJ) determinou a abertura de uma investigação nesta quarta-feira (20) para apurar o uso de inteligência artificial em fraudes. O objetivo é identificar tentativas de burlar o sistema eletrônico de petições do tribunal. Por ordem do presidente do STJ, Herman Benjamin, um inquérito policial e um procedimento administrativo interno foram instaurados. A apuração visa esclarecer ações de advogados e escritórios de advocacia que estariam envolvidos. A medida foi tomada após técnicos do tribunal identificarem a entrada de petições com "prompt injection". Este é um mecanismo utilizado para enganar modelos de IA e, assim, favorecer partes durante o andamento eletrônico de um processo judicial. Comandos ocultos são inseridos nas petições. Eles tentam forçar o sistema de IA a ignorar filtros de seleção, que impedem, por exemplo, a admissão de documentos sem requisitos básicos. O STJ informa que seu sistema já possui travas contra o uso de "prompts". Essas barreiras impedem que as ordens fraudulentas sejam executadas pela plataforma que recebe as petições, garantindo a integridade dos processos.