Juíza descobre tentativa de manipular inteligência artificial em processo judicial em Minas

Divulgação/Caso inédito: Justiça mineira identifica ‘prompt oculto’ em recurso processual

Juíza identifica tentativa de manipulação de IA em recurso judicial e aponta má-fé processual em MG.

Uma decisão da Justiça de Minas Gerais chamou atenção ao identificar uma tentativa de manipulação de sistemas de inteligência artificial utilizados no âmbito do Poder Judiciário. A juíza Patrícia Froes Dayrell, da 1ª Vara Cível da Comarca de Ibirité, na Região Metropolitana de Belo Horizonte, detectou a inserção de instruções ocultas em um recurso de apelação cível com o objetivo de influenciar análises realizadas por ferramentas de IA do Tribunal de Justiça de Minas Gerais (TJMG).

A técnica utilizada, conhecida como prompt injection, consiste na inclusão de comandos ocultos em documentos para direcionar ou alterar o comportamento de sistemas de inteligência artificial que eventualmente processem aquele conteúdo.

Segundo a magistrada, o recurso havia sido apresentado à segunda instância, mas posteriormente o recorrente desistiu da ação. Apesar da desistência, a parte contrária já havia sido intimada para apresentar contrarrazões ao recurso.

Na decisão, a juíza rejeitou a alegação de que a inserção das instruções teria ocorrido por erro técnico. Para ela, os elementos identificados indicam uma conduta deliberada, caracterizando má-fé processual e atentado à dignidade da Justiça.

Patrícia Froes Dayrell destacou ainda a necessidade do uso ético e responsável das ferramentas de inteligência artificial no ambiente jurídico. Conforme registrado na decisão, o conteúdo oculto possuía potencial para influenciar uma possível análise automatizada e direcionar entendimento favorável a uma das partes, comprometendo o princípio da igualdade processual.

A magistrada ressaltou que a prática poderia gerar desequilíbrio entre os litigantes, ferindo o princípio da paridade de armas, considerado essencial para garantir um processo justo.

Para fundamentar sua decisão, a juíza anexou aos autos a íntegra das instruções ocultas identificadas e reproduziu a página do documento onde o conteúdo foi localizado, evidenciando a tentativa de interferência.

O caso é considerado um dos primeiros registros públicos no Judiciário mineiro envolvendo a identificação de uma tentativa de manipulação de inteligência artificial por meio da técnica de prompt injection, tema que vem ganhando atenção em tribunais e instituições jurídicas em diferentes países diante da crescente utilização de ferramentas tecnológicas na análise de documentos e processos.

Fonte: TJMG