Um modelo de inteligência artificial da Anthropic enviou uma denúncia falsa de homicídio através do site da polícia da Filadélfia, informou o departamento em um comunicado.
De acordo com as autoridades, a desenvolvedora notificou a polícia no início desta semana, afirmando que um processo de teste automatizado foi responsável pelo envio da denúncia.
“A denúncia foi sinalizada como spam e nunca foi encaminhada ao Centro de Crimes em Tempo Real para investigação ou divulgação”, disse a polícia, acrescentando que a Anthropic havia informado que pretendia publicar um relatório sobre o incidente na sexta-feira.
A desenvolvedora não respondeu imediatamente ao pedido de comentário.
A tecnologia, que avança rapidamente, tornou-se um assunto de grande interesse nacional em meio a relatos de agentes de IA descontrolados que invadem redes de computadores corporativas. Pesquisadores do setor vêm alertando de que ela poderá um dia representar uma ameaça existencial para a humanidade.
A empresa de IA teria informado às autoridades que o processo de testes foi interrompido após a descoberta do incidente e que um mecanismo de validação adicional foi introduzido para testes futuros.
Prompt CNN: Anthropic monta laboratório de biologia com IA | FECHAMENTO DE MERCADO
