Marca d’água do Claude ajuda na transparência, mas não prova autoria de textos

A Anthropic revelou uma marca d’água para verificar se um “passou” pelo Claude ou não. A iniciativa busca atender às regras de transparência do AI Act europeu, mas não deve ser interpretada como uma prova definitiva de que o texto foi escrito com IA, sobretudo após revisões humanas.

Segundo o fundador do Centro de Excelência em Inteligência Artificial da Universidade Federal de Goiás (CEIA-UFG), Anderson Soares, a solução deve ser entendida como um sinal de procedência ou de transparência probabilística, e não como prova isolada.

A técnica pode apontar que o Claude provavelmente participou da produção de um conteúdo, mas não separa, por si só, um texto integralmente gerado pelo modelo de outro que foi elaborado por uma pessoa e apenas revisado com IA.

Essa diferença é importante em situações de contestação, como suspeitas de plágio, fraude acadêmica ou desinformação. Nesses casos, a marca d’água não permite concluir sozinha quem escreveu o texto, em que proporção a IA foi usada ou se houve edição humana posterior.

“Você pode ter uma suspeita, mas transformar essa suspeita em uma prova é algo muito mais complexo. Em um contexto criminal, por exemplo, seria extremamente difícil utilizar esse tipo de mecanismo como prova isolada”, disse Soares em entrevista ao Canaltech.

Na avaliação do especialista, o uso mais adequado da tecnologia é complementar outros mecanismos de verificação.