Uma mulher de 30 anos foi presa na Flórida, nos Estados Unidos, após a Anthropic alertar as autoridades sobre mensagens enviadas ao Claude. Carli Michelle Heller teria mencionado, em 26 de setembro, um possível ataque armado contra o Departamento do Xerife do Condado de Lee.
O conteúdo acionou os mecanismos de segurança da plataforma e seguiu para análise humana devido à gravidade das declarações. Após revisar a conversa, uma equipe da Anthropic decidiu encaminhar as informações à polícia para prevenir um possível ato de violência.
Segundo o relatório da prisão, uma usuária identificada como Carli afirmou ao Claude que atacaria a sede do departamento.
