Advogado nos EUA e multado por usar citacoes falsas do ChatGPT em peticao

Divulgação Tribunal detectou que 21 das 23 citações usadas por advogado eram falsas

Advogado nos EUA e multado em US$ 10 mil por usar citacoes falsas do ChatGPT.

O Tribunal de Recursos do 2º Distrito da California aplicou uma multa de US$ 10 mil ao advogado Amir Mostafavi, acusado de incluir citações jurídicas falsas em uma petição inicial. Segundo a decisão, 21 das 23 referências apresentadas eram fabricadas pela ferramenta de inteligência artificial ChatGPT.

De acordo com os juízes, Mostafavi não chegou a verificar os precedentes indicados e apresentou como válidos casos que não existiam ou que não correspondiam às citações. “O advogado será punido porque sequer leu os precedentes citados pelo ChatGPT”, afirmou o tribunal.

O colegiado de três magistrados ressaltou que a decisão, que em circunstâncias normais não seria publicada, ganhou caráter público justamente para servir de alerta a outros profissionais do Direito que utilizam ferramentas de IA sem a devida checagem.

Responsabilidade compartilhada

A decisão também chamou atenção por penalizar, ainda que de forma mais branda, a parte adversária do processo. O tribunal destacou que, apesar de ter sido prejudicada, a defesa contrária não alertou a corte sobre as citações fraudulentas e, por isso, teve de arcar com suas próprias despesas.

“Essas ações oneram desnecessariamente o tribunal e os contribuintes, além de atrasarem a resolucao de casos de pessoas que buscam a justica de boa-fe”, registraram os juízes na decisão.

Além da multa, o advogado deverá entregar cópias do acórdão ao próprio cliente e à seccional da American Bar Association (ABA) da California, que deverá reforçar diretrizes éticas e preparar um guia para orientar profissionais sobre o uso responsável da IA.

Problema crescente no Judiciario

A corte norte-americana alertou que as chamadas “alucinacoes” da inteligência artificial tendem a se intensificar. Um relatório citado na decisão mostra que modelos mais recentes podem apresentar taxas de erro entre 30% e 50%.

Especialistas como Damien Charlotin, pesquisador de citações falsas em processos, confirmam a gravidade da questão: “Quanto mais complexo o caso, mais os modelos de IA inventam informações, porque tentam agradar o usuário”, explicou.

Um levantamento da RegLab da Stanford University em 2024 revelou que três em cada quatro advogados já utilizam IA generativa em sua rotina. Em um terço dos casos analisados, as ferramentas apresentaram informações incorretas.

Nicholas Sanctis, que rastreia esse tipo de ocorrência, identificou 52 episódios apenas na California e mais de 600 em todo o pais. “Os números devem aumentar porque as inovações superam a capacidade de aprendizado dos advogados”, disse.

Impacto no sistema judicial

Segundo a professora Jenny Wondracek, que treina advogados para lidar com a tecnologia, muitos profissionais ainda acreditam que softwares jurídicos são imunes a erros. Ela relatou ter documentado, inclusive, juízes que utilizaram precedentes fabricados em suas próprias sentenças.

“O problema aparece com mais frequência em advogados sobrecarregados e em pessoas que decidem se defender sozinhas, especialmente nas varas de família”, acrescentou.

Resposta do ChatGPT

Questionado pela revista Consultor Jurídico sobre a punição ao advogado, o próprio ChatGPT respondeu que a multa é justa, por servir de advertência a outros profissionais. Segundo a ferramenta, sanções assim protegem a integridade do processo judicial e reforçam a responsabilidade dos advogados em checar a veracidade das informações.

Em 2023, dois advogados de Nova York já haviam sido multados em US$ 5 mil pelo mesmo motivo. Para a corte da California, a penalidade em dobro reflete a gravidade do caso e o nível de responsabilidade esperado em instâncias superiores.

No fim, a mensagem que fica e clara: a inteligencia artificial pode ser uma aliada, mas nao substitui a verificacao criteriosa que cabe aos profissionais do Direito.

Fonte: Conjur