A Anthropic afirma ter bloqueado operações de vigilância apoiadas por governos da China, do Irã e do Mali que utilizavam o Claude para monitorar dissidentes e minorias.
Detectadas entre janeiro e julho, as operações envolveram identificação de pessoas nas redes sociais e criação de software para coleta de inteligência. A empresa ainda interrompeu usos relacionados a armas, pesquisas biológicas suspeitas e golpes românticos online.
As campanhas tinham como alvo comunidades que, segundo a Anthropic, já são perseguidas historicamente por esses governos. A lista inclui ativistas pró-democracia de Hong Kong, comunidades tibetanas e opositores do regime iraniano que vivem no exterior.
Em um dos episódios, pessoas no Irã desenvolveram um método para identificar indivíduos por meio de suas contas em redes sociais. No Mali, um contratado que trabalhava para autoridades de segurança nacional usou o Claude “para projetar o software subjacente que permitiu a coleta de inteligência”.
Entre os usos identificados estavam:
Identificação de pessoas por contas em redes sociais;
Monitoramento de dissidentes e minorias no exterior;
Desenvolvimento de software para coleta de inteligência;
Operações de vigilância apoiadas por governos.
A Anthropic afirma ter encerrado as operações depois de identificar o uso indevido de seus modelos.
Dados também foram usados para treinar outros modelos
Desenvolvedores chineses foram acusados pela empresa de usar o Claude de forma enganosa.
