Resumo
A Anthropic denunciou à polícia uma mulher que ameaçou ataque em conversa com o chatbot Claude, levando à prisão de Carli Michelle Heller na Flórida.
Heller foi acusada de fazer ameaça eletrônica de violência após escrever sobre planos de atacar o escritório do xerife e mencionar uma nova arma.
A prisão destaca que as plataformas de chatbot não têm obrigação de proteger informações pessoais e podem fornecer dados às autoridades em situações de emergência.
A Anthropic acionou a polícia após identificar uma ameaça de ataque na Flórida durante conversas de uma usuária com a inteligência artificial do Claude. Carli Michelle Heller foi presa sob acusação de fazer uma ameaça eletrônica de violência, algo considerado grave pela legislação do estado.
Segundo a ocorrência, Heller teria escrito em 26 de setembro que pretendia atacar o escritório do xerife e, no dia seguinte, teria mencionado que conseguiu uma nova arma. As mensagens foram identificadas pelos mecanismos automatizados de segurança e encaminhadas a uma equipe de revisão humana, que comunicou as autoridades.
O relatório policial afirma que o sistema da Anthropic monitora conversas em busca de expressões e conteúdos potencialmente ameaçadores. Quando uma mensagem é considerada grave, ela pode ser encaminhada para análise humana.
