A Anthropic anunciou nesta quinta-feira (10) que encerrou várias operações de vigilância patrocinadas por Estados que utilizavam seus modelos de inteligência artificial (IA) e alertou que governos e atores alinhados a eles recorrem cada vez mais à IA para espionar minorias e dissidentes.
Os incidentes tiveram origem na China, no Irã e na África Ocidental e foram detectados e interrompidos entre janeiro e julho, informou a empresa em um relatório sobre o uso indevido de seus modelos.
Essas campanhas de vigilância "visavam as mesmas comunidades da diáspora e dissidentes que esses regimes perseguem historicamente", apontou o relatório.
Segundo a Anthropic, entre esses grupos estavam ativistas pró-democracia de Hong Kong, comunidades tibetanas e minorias e opositores do regime iraniano que vivem no exterior.
Em um dos casos, iranianos desenvolveram um método para identificar pessoas por meio de suas contas em redes sociais.
Em outro, um contratado que trabalhava para as autoridades de segurança nacional do Mali utilizou o Claude "para projetar o software subjacente que permitiu a coleta de inteligência".
A Anthropic também bloqueou tentativas de usuários de desenvolver armas, realizar pesquisas biológicas consideradas problemáticas e criar golpes românticos online.
China e Irã estão entre países que utilizaram IA para espionagem, diz Anthropic
