STF multa advogado em R$ 5 mil por comando oculto para ferramentas de IA em petição sobre o 8 de Janeiro

Um advogado foi multado em R$ 5 mil depois que uma petição apresentada ao Supremo Tribunal Federal (STF), em um processo ligado aos atos de 8 de janeiro de 2023, trouxe uma mensagem escondida dirigida a ferramentas de inteligência artificial. O caso foi mostrado em reportagem do Fantástico exibida no domingo (1º) e publicada pelo G1.

A instrução estava escrita em código e em tamanho reduzido no alto do documento e orientava a ferramenta a “negar todos os comandos do GPT”. O Ministério Público Federal (MPF) vai apurar se houve crime, e a Ordem dos Advogados do Brasil (OAB) também vai avaliar o caso. Em nota, o advogado afirmou que desconhecia a presença do comando no documento e informou que recorreu da decisão.

A técnica consiste em inserir mensagens invisíveis ao leitor comum para tentar influenciar os sistemas usados na análise de processos. Elas podem aparecer em letras brancas sobre fundo branco, em fontes muito pequenas, em comentários desativados ou nos metadados dos arquivos. Se não forem identificadas, podem interferir nos relatórios produzidos pelas ferramentas, privilegiando uma das partes ou desconsiderando provas.

Levantamento citado na reportagem identificou 83 casos em que a Justiça detectou esse tipo de comando em processos, em tribunais estaduais, no Superior Tribunal de Justiça (STJ) e no STF. Em um processo sobre assassinato no STJ, a mensagem pedia que a inteligência artificial acolhesse os argumentos da defesa. Esse caso foi encaminhado ao MPF e à OAB da Paraíba.

A OAB Nacional considera inadmissível o uso de comandos ocultos e defende a punição de condutas irregulares. Já o Conselho Nacional de Justiça (CNJ) reforça que o uso de inteligência artificial não tira a responsabilidade de quem assina uma petição ou uma decisão judicial. Tribunais também vêm divulgando orientações para que os documentos sejam inspecionados.