Anthropic bloqueia uso de IA em pesquisa de armas biológicas
A Anthropic anunciou nesta semana que encerrou várias operações de vigilância patrocinadas por Estados que utilizavam seus modelos de inteligência artificial (IA) e alertou que governos e atores alinhados a eles recorrem cada vez mais à IA para espionar minorias e dissidentes.
✅ Siga o canal de notícias internacionais do g1 no WhatsApp
Os incidentes tiveram origem na China, no Irã e na África Ocidental e foram detectados e interrompidos entre janeiro e julho, informou a empresa em um relatório sobre o uso indevido de seus modelos.
Essas campanhas de vigilância "visavam as mesmas comunidades da diáspora e dissidentes que esses regimes perseguem historicamente", apontou o relatório.
Segundo a Anthropic, entre esses grupos estavam ativistas pró-democracia de Hong Kong, comunidades tibetanas e minorias e opositores do regime iraniano que vivem no exterior.
Em um dos casos, iranianos desenvolveram um método para identificar pessoas por meio de suas contas em redes sociais.
Anthropic
Reuters
Em outro, um contratado que trabalhava para as autoridades de segurança nacional do Mali utilizou o Claude "para projetar o software subjacente que permitiu a coleta de inteligência".
A Anthropic também bloqueou tentativas de usuários de desenvolver armas, realizar pesquisas biológicas consideradas problemáticas e criar golpes românticos online.
China e Irã estão entre países que utilizaram IA para espionagem, diz Anthropic
