A Anthropic está desenvolvendo tecnologia que permite verificar se uma resposta foi realmente produzida pelo modelo de inteligência artificial (IA) que uma empresa afirma utilizar. Batizado de FlashProve, o sistema usa criptografia para criar uma espécie de comprovante matemático da identidade do modelo responsável por determinada saída.
A proposta é dar aos usuários uma maneira de confirmar se estão interagindo com a IA anunciada pelo fornecedor, em vez de uma versão diferente ou menos avançada. Segundo a Anthropic, o mecanismo também poderia dificultar tentativas de empresas de substituir secretamente seus modelos por alternativas mais baratas ou apresentar resultados de desempenho que não correspondem à tecnologia utilizada.
O projeto foi apresentado em publicação da companhia nesta terça-feira (3). A empresa também disponibilizou uma especificação técnica e partes do código em formato aberto para que outros pesquisadores possam examinar e aprimorar a iniciativa.
Como funciona o FlashProve?
O sistema utiliza o conceito de “inferência comprovável”, que consiste em gerar uma prova criptográfica de que determinada resposta veio de um modelo específico;
A ideia é semelhante às assinaturas digitais usadas em e-mails para confirmar a identidade de quem enviou uma mensagem.
