Uma atualização na política de uso da Anthropic nesta semana trouxe uma mudança importante para usuários do Claude. A desenvolvedora passou a proibir “comportamento abusivo ou cruel” contra seus modelos de inteligência artificial.
Nesse caso, quando usuários tratarem o Claude “mal”, o chatbot pode encerrar aquela conversa.
A empresa deixou claro que as pessoas podem continuar criticando o sistema e expondo insatisfação com as respostas. A possibilidade de encerrar o diálogo acontecerá em situações em que os ataques forem “persistentes e desnecessários” contra a tecnologia.
A Anthropic não detalhou o que considera um comportamento abusivo ou cruel. A política entra em vigor em 12 de novembro.
Claude tem consciência?
O recurso foi apresentado pela primeira vez em agosto do ano passado, como uma forma de garantir o bem-estar da IA.
A medida vem em meio a discussões sobre se as inteligências artificiais teriam consciência. Empresas do setor buscam uma superinteligência, uma etapa em que a tecnologia atinge capacidade de raciocínio igual ou superior a dos humanos.
Na política de uso atualizada, a Anthropic escreve que não tem certeza sobre o “potencial status moral do Claude ou de outros modelos de linguagem, agora ou no futuro”. Mesmo assim, está implementando recursos de segurança justamente para evitar um caso do tipo.
