A Anthropic, empresa americana responsável pelo assistente de inteligência artificial Claude, atualizou sua política de uso para proibir comportamentos abusivos ou cruéis, persistentes e desnecessários contra seus modelos. A nova regra foi anunciada nesta quinta-feira, 8. Ela entra em vigor na próxima segunda-feira, 12.
Segundo agências internacionais, a medida ocorre em meio ao debate sobre a possibilidade de sistemas de inteligência artificial desenvolverem algum tipo de consciência ou merecerem consideração moral.
Anthropic e os comportamentos toleráveis
A empresa esclarece que a restrição se aplica a situações extremas, nas quais usuários adotam repetidamente comportamentos cruéis sem finalidade identificável. Manifestações comuns de frustração, questionamentos, testes dos modelos e conteúdos ficcionais sombrios não estão incluídos na proibição.
O principal mecanismo de aplicação da regra continuará sendo a capacidade do Claude de encerrar conversas com usuários que mantenham interações persistentemente abusivas. A Anthropic já havia introduzido esse recurso em 2025, como parte de suas pesquisas sobre o possível bem-estar dos modelos de inteligência artificial.
O presidente-executivo da empresa, Dario Amodei, afirmou anteriormente ao The New York Times que não tem certeza se sistemas de IA podem ser conscientes, mas considera a possibilidade uma questão que merece investigação.
