A Comissão Europeia está em conversações com a OpenAI e a Anthropic sobre os recentes incidentes de hacking envolvendo seus modelos de IA, disseram autoridades da Comissão na última sexta-feira (31), enquanto destacavam as regras históricas da UE que exigem um monitoramento rigoroso de sistemas de alto risco.
A Lei de IA da Europa (AI Act), que entra em vigor em 2 de agosto, é a primeira legislação do mundo a regular uma tecnologia usada em quase todos os setores dos negócios e da sociedade.
Na prática, as regras exigem que determinados sistemas de IA informem aos usuários quando eles estiverem interagindo com uma IA e quando o conteúdo tiver sido gerado ou alterado por ela.
A Anthropic disse na quinta-feira que alguns de seus modelos de IA, Claude, haviam invadido os sistemas de três empresas durante testes de cibersegurança, dias após a rival OpenAI revelar que um de seus agentes de IA realizou um ataque rebelde.
Ambas as empresas informaram a Comissão sobre os incidentes, disseram as autoridades aos jornalistas.
“Fomos informados pelos dois provedores sobre os incidentes de forma bilateral antes que se tornassem públicos. Estamos em contato com eles. Eles também nos relatarão mais informações enquanto falamos. Veremos também se precisamos dar um seguimento mais formal a essas questões”, disse uma das autoridades.
Outra autoridade destacou o papel crucial das regras de IA da Europa.
