STF identifica tentativa inédita de manipular inteligência artificial com prompt injection na corte; Zanin vota por Multa

Técnica conhecida como “prompt injection” foi detectada pelo sistema de segurança da Corte; caso foi encaminhado à OAB e ao Ministério Público Federal

Por Guia Miraí

O Supremo Tribunal Federal (STF) identificou uma tentativa de utilizar comandos ocultos em uma petição judicial para influenciar sistemas de inteligência artificial e direcionar a análise de um processo para um resultado favorável a uma das partes.

O episódio, considerado pelo próprio STF como a primeira ocorrência desse tipo identificada na Corte, envolve uma técnica conhecida como “prompt injection”, na qual instruções são inseridas em um conteúdo para tentar induzir uma ferramenta de inteligência artificial a executar determinadas ações.

Comandos estavam escondidos na petição

Segundo o STF, foram encontrados comandos inseridos em letras brancas, tamanho reduzido e com palavras fragmentadas, de maneira que não fossem facilmente percebidos durante a leitura convencional do documento.

As instruções tinham como objetivo direcionar uma eventual ferramenta de inteligência artificial utilizada na análise da peça a adotar determinada fundamentação e dar provimento ao recurso.

A tentativa foi identificada pela Maria Shield, ferramenta desenvolvida pelo Supremo para detectar conteúdos potencialmente maliciosos em documentos processuais, incluindo comandos destinados a interferir no funcionamento de sistemas de IA.

Caso envolvia processo relatado por Cristiano Zanin

O episódio ocorreu em um recurso que estava sob relatoria do ministro Cristiano Zanin.

De acordo com as informações divulgadas pelo STF, a tentativa não interferiu na análise do processo. O gabinete de Zanin informou que não utiliza inteligência artificial para fazer a análise e a fundamentação das decisões judiciais.

O ministro determinou que a ocorrência fosse registrada no processo e encaminhou o caso à Ordem dos Advogados do Brasil (OAB) e ao Ministério Público Federal (MPF) para análise das possíveis consequências da conduta.

Advogado recebeu multa

No voto apresentado à Primeira Turma, Zanin propôs a aplicação de multa equivalente a dois salários mínimos, considerando que a inserção dos comandos ocultos violaria o dever de lealdade processual previsto no Código de Processo Civil.

A OAB deverá avaliar eventual questão ético-disciplinar relacionada à atuação profissional, enquanto o MPF foi comunicado para analisar se os fatos podem configurar alguma infração penal.

O que é “prompt injection”?

O termo prompt injection é utilizado na área de inteligência artificial para descrever tentativas de inserir instruções em textos, documentos ou outros conteúdos processados por uma IA, com o objetivo de alterar a maneira como o sistema responde ou executa determinada tarefa.

No caso do STF, a tentativa foi direcionada especificamente a uma eventual ferramenta de IA que pudesse processar a petição.

O episódio chama atenção para um novo desafio provocado pela utilização crescente de inteligência artificial no meio jurídico: documentos apresentados em processos podem conter instruções destinadas não apenas aos seres humanos que os leem, mas também aos sistemas automatizados que eventualmente os processam.

Tentativa não mudou o resultado do processo

Um ponto importante é que, segundo as informações divulgadas, a tentativa não conseguiu alterar a análise do processo.

O caso agora deverá ser analisado pelas instituições responsáveis pelas questões disciplinares e eventualmente criminais, enquanto o STF utiliza o episódio para reforçar seus mecanismos de segurança voltados ao uso de inteligência artificial.

O episódio mostra que, à medida que ferramentas de IA passam a fazer parte das rotinas do Judiciário, também surgem novas formas de tentativa de interferência nos sistemas — e mecanismos de segurança passam a ser necessários para identificar esse tipo de conteúdo.