OpenAI vai colocar marca d’água invisível em textos do ChatGPT

A OpenAI começará a adicionar uma marca d’água invisível a textos gerados pelo ChatGPT e pelo Codex na União Europeia. A medida foi anunciada nesta segunda-feira (5) e será implementada nas próximas semanas para usuários elegíveis, como parte da adequação às regras de transparência do EU AI Act, que exigem que conteúdos produzidos por inteligência artificial possam ser identificados por outros sistemas.

A tecnologia será aplicada a usuários do ChatGPT e do Codex em todos os planos na União Europeia. Para desenvolvedores que utilizam a API da OpenAI, a marca d’água estará disponível globalmente para determinados modelos a partir desta segunda-feira, mas ficará desativada por padrão. A empresa afirmou que não pretende transformar o recurso em um padrão global neste primeiro momento.

Como funciona a marca d’água?

A marca d’água não aparece como um símbolo ou elemento visível no conteúdo. Segundo a OpenAI, o sistema altera de forma sutil as escolhas de palavras feitas pelo modelo, criando um padrão estatístico que pode ser identificado por uma ferramenta específica de detecção.

A tecnologia, chamada textGrain, fica incorporada ao próprio texto. Por isso, o sinal acompanha o conteúdo quando ele é copiado e colado. A OpenAI afirma que a marca d’água não identifica o usuário e que seus testes não apontaram mudanças significativas no desempenho dos modelos quando o recurso está ativado.

A empresa também divulgou um relatório técnico sobre o funcionamento do sistema.