O Superior Tribunal de Justiça (STJ) anunciou, na quarta-feira (20), a abertura de uma investigação com o objetivo de examinar o possível uso de inteligência artificial para contornar o sistema eletrônico de petições.
Motivação da Investigação
A determinação, feita pelo presidente do STJ, Herman Benjamin, inclui a criação de um inquérito policial e um procedimento administrativo interno. As investigações visam esclarecer alegações de fraudes que podem ter sido praticadas por advogados e escritórios de advocacia.
Técnicas de Fraude Identificadas
A ação foi desencadeada após a identificação, por técnicos do tribunal, de petições que utilizam um método conhecido como ‘prompt injection’. Essa técnica é projetada para manipular modelos de inteligência artificial, favorecendo partes envolvidas em processos judiciais.
O que é Prompt Injection?
A ‘prompt injection’ envolve a inserção de comandos ocultos em petições, com a intenção de forçar o sistema de IA a ignorar filtros que normalmente rejeitam documentos que não atendem aos critérios básicos de admissibilidade. Veja também: Ferramentas Gratuitas para Editar Vídeo no PC: Melhore Seus Projetos.
Medidas de Segurança do STJ
De acordo com informações do STJ, o sistema de petições eletrônicas já conta com mecanismos de segurança que visam prevenir o uso de prompts. Esses mecanismos limitam a execução de ordens que tentem contornar as regras estabelecidas para a aceitação de documentos.
Com essa investigação, o STJ reafirma seu compromisso com a integridade do sistema judiciário e a proteção contra tentativas de manipulação tecnológica.
