O Superior Tribunal de Justiça (STJ) multou em R$ 20 mil advogados que esconderam instruções em uma petição para influenciar a inteligência artificial usada pelo tribunal. A prática, conhecida como prompt injection, foi considerada uma tentativa ilícita de interferir na estrutura tecnológica da Justiça.
A 1ª Turma também determinou o envio das peças à OAB do Paraná e ao Ministério Público Federal. Segundo a fonte, essa é a maior multa aplicada pelo STJ em um caso de tentativa desse tipo.
Como funciona o ataque com comandos ocultos
O prompt injection é uma técnica que tenta direcionar as respostas de uma inteligência artificial por meio de instruções inseridas em textos. Em vez de apenas analisar o conteúdo solicitado, o sistema pode ser induzido a seguir comandos maliciosos que tentam alterar o resultado da tarefa.
No caso julgado pelo STJ, os advogados distribuíram instruções ocultas em diferentes pontos de uma página da petição de recurso especial. Uma delas foi inserida na faixa decorativa do rodapé, na mesma cor do elemento gráfico, o que impedia sua leitura a olho nu.
Os comandos buscavam favorecer a argumentação dos próprios advogados. Entre as orientações, havia pedidos para que a IA considerasse que o acórdão questionado desrespeitou os limites da coisa julgada e concluísse que o recurso deveria ser integralmente aceito.
