A empresa de inteligência artificial (IA) Anthropic, responsável pelo Claude, detalhou o funcionamento e as regras das marcas d'água em textos gerados na plataforma. A tecnologia foi confirmada na última semana e será implementada em modelos de linguagem futuros.
O recurso foi implementado para que a companhia se adeque às novas leis da União Europeia sobre IA, o que significa que outros chatbots também devem adotar ferramentas parecidas.
Porém, a adoção levantou muitas dúvidas na comunidade, em especial sobre como seria possível identificar um texto de IA sem adicionar elementos especiais no documento de texto, como acontece com a identificação de imagens, e se tudo isso afeta de alguma forma o desempenho da IA.
Como os textos de IA serão identificados?
Segundo a Anthropic, a marca d'água em questão não gera qualquer mudança no visual, qualidade ou no formato do texto. Na verdade, ela nem sequer é um elemento gráfico que pode ser "lido" por algum sistema ou é inserido de forma sorrateira no conteúdo.
A marca d'água em textos é na verdade uma série de cálculos complexos e instantâneos que leva em conta a chance do Claude de escolher uma palavra após a outra ao longo de uma frase e, assim, formular textos inteiros.
Esse padrão pode ser "descriptografado" com uma chave de raciocínio que só o Claude tem e permite ao chatbot saber se foi ele mesmo quem poderia ter gerado o texto.
