O STJ (Superior Tribunal de Justiça) determinou nesta quarta-feira (20) a abertura de uma investigação para apurar o uso de comandos de inteligência artificial para burlar o sistema eletrônico de petições da corte.
Por ordem do presidente do tribunal, ministro Herman Benjamin, foram instaurados um inquérito policial e um procedimento administrativo interno. O objetivo é investigar tentativas de fraudes que teriam sido cometidas por advogados e escritórios de advocacia.
A medida foi adotada após técnicos do STJ identificarem a entrada de petições com prompt injection (injeção de comando, em inglês). O mecanismo é usado para enganar modelos de IA e favorecer partes durante o andamento eletrônico de um processo.
Como funciona a fraude
Os comandos ocultos são inseridos no texto das petições para tentar forçar o sistema de IA a ignorar filtros de seleção. A tática busca, por exemplo, fazer a plataforma admitir um documento que não cumpre os requisitos básicos de admissibilidade.
O STJ informou que o sistema do tribunal já conta com travas contra o uso desses prompts, o que impediu que as ordens ocultas fossem executadas pela plataforma de recebimento das petições.
