OpenAI e Anthropic explicam falhas antes da nova Lei de IA

Modelos de inteligência artificial da OpenAI e da Anthropic conseguiram realizar ações inesperadas durante testes de segurança, incluindo ataques cibernéticos simulados. Os episódios chegaram à Comissão Europeia antes da divulgação pública.

Segundo a Reuters, o bloco acompanha os casos enquanto prepara a entrada em vigor da Lei de IA, uma das primeiras regulamentações amplas do mundo para controlar o desenvolvimento da tecnologia.

Testes revelam novos desafios para agentes de IA

Os incidentes aumentaram a preocupação sobre ferramentas capazes de executar tarefas de forma autônoma. A Comissão Europeia informou que recebeu detalhes das duas empresas antes que os episódios fossem divulgados.

“Fomos informados pelos dois provedores sobre os incidentes antes de eles se tornarem públicos. Estamos em contato com eles e receberemos mais informações. Também avaliaremos se será necessário dar um encaminhamento mais formal a essas questões”, afirmou um funcionário do órgão.

A análise das autoridades envolve principalmente:

Capacidade de sistemas realizarem ações sem comando direto;

Riscos de uso indevido em ataques digitais;

Monitoramento obrigatório por desenvolvedores;

Transparência sobre o funcionamento dessas tecnologias.