O tribunal superior do Novo México, nos EUA, informou que um advogado de defesa que recorre de uma condenação de seu cliente por homicío apresentou um documento com depoimentos policiais e testemunhas inventadas, criadas pelo ChatGPT.
A Suprema Corte do Novo México multou na quarta-feira (10) o advogado Stephen Aarons, considerado culpado de desacato por não ter verificado a precisão do documento judicial. Aarons afirmou ter preparado o material com a ajuda de um programa de IA.
O processo “continha depoimentos falsos de testemunhas totalmente inventadas”, afirmou o tribunal.
Anthropic corta campanhas de IA russas e chinesas direcionadas ao Claude
Parlamentares dos EUA pedem novas regras para IA após alertas da Anthropic
Ex-OpenAI e Anthropic acusa empresas de "apostar" com a vida humana
O painel também afirmou que Aarons “demonstrou falta de remorso e falta de preocupação com seu cliente”. Os juízes o multaram em US$ 5.000 e disseram que o encaminharão a um conselho disciplinar de advogados para investigação.
Em declaração à Reuters, ele afirmou ter usado o ChatGPT para resumir os procedimentos do julgamento quando concordou em assumir o recurso do réu no ano passado, e que não entendia até que ponto a IA poderia “alucinar” fatos.
“Estou arrependido, mas espero que a comissão disciplinar leve em consideração que foi um erro honesto”, disse ele. “É uma lição aprendida para todos os profissionais que dependem dessa tecnologia poderosa, mas às vezes instável”.
