A Anthropic, criadora do Claude, atualizou suas regras para permitir punições a usuários que adotem comportamentos abusivos ou cruéis de forma persistente e desnecessária. A medida reacendeu o debate sobre os limites da relação entre humanos e inteligência artificial.
As sanções podem ir de advertências à suspensão ou ao encerramento de contas. Enquanto alguns especialistas veem a mudança como uma precaução, outros temem que ela reforce a ideia de que máquinas têm características humanas.
Quando a frustração vira abuso?
A nova regra, prevista para entrar em vigor em 12 de novembro, mira casos extremos de hostilidade deliberada e repetida. Segundo a Anthropic, manifestações comuns de frustração, discordâncias com as respostas do Claude, criações artísticas com temas sombrios e atividades de pesquisa não serão alvo da proibição.
A dúvida está na definição de comportamento abusivo. A empresa poderá advertir usuários, limitar o acesso, suspender contas ou encerrá-las se suspeitar de violações. A política também proíbe o uso do Claude em campanhas enganosas e em tentativas de enganar eleitores ou prejudicar eleições.
Foi a restrição à hostilidade contra os chatbots, porém, que concentrou a atenção pública e dividiu especialistas.
Máquinas precisam ser tratadas com educação?
Aaron Levie, presidente-executivo da Box, considera a medida uma precaução razoável, embora não acredite que a IA seja consciente.
