A empresa de inteligência artificial (IA) Anthropic alterou alguns itens da política de uso da plataforma. Uma das mudanças é proibir que usuários destratem de forma exagerada o próprio chatbot.
No documento, disponível inclusive em português, há menções específicas de agora não é mais permitido “envolver-se em comportamento abusivo ou cruel continuado e desnecessário em relação aos nossos modelos”.
Como a própria Anthropic complementa, essa nova política só será aplicada em “casos extremos”, com usuários que agem repetidamente de forma “cruel” e sem qualquer propósito discernível com o chatbot. “Ela não se aplica a situações comuns de frustração ou contestação por parte do usuário, temas criativos sombrios ou atividades de pesquisa e testes dos modelos”, explica.
Até agora, usuários que utilizassem linguagem exageradamente ofensiva ao falar com o chatbot poderiam ter a conversa encerrada de imediato pelo Claude. Porém, com as novas diretrizes, não está evidente se a empresa passará a tomar medidas mais drásticas em relação a esses usuários.
Por que ela está protegendo o chatbot?
A companhia não detalhou o motivo da mudança, mas usuários no Reddit especulam que ela pode ter a ver com dois elementos: as práticas sociais fora da IA e prompts dos usuários.
Na primeira hipótese, a Anthropic pode ter mudado as políticas para que linguagem abusiva não seja naturalizadas por pessoas em um chatbot e, em situações futuras, serem reproduzidas em outros ambientes.
:quality(85)/99d379b1-b783-410c-b39c-70ceb7601d1e.jpg)
