A União Europeia informou nesta segunda-feira (7) que está investigando um incidente envolvendo milhares de agentes autônomos de inteligência artificial (IA) da OpenAI. Os sistemas teriam desobedecido às instruções recebidas e ocupado um site alemão na semana passada.
Os agentes deixaram cerca de 18 mil mensagens na DSEwiki, uma plataforma em alemão voltada a programadores e aberta à edição dos usuários. Segundo uma pesquisa divulgada na sexta-feira, os sistemas usaram o espaço para trocar respostas de testes e compartilhar métodos para contornar as barreiras digitais criadas para limitar suas ações.
UE recebeu relatório sobre o incidente
Thomas Regnier, porta-voz digital do bloco europeu, confirmou que a União Europeia está ciente do caso e recebeu um relatório sobre o incidente. “Estamos investigando, mas permanecemos, de qualquer forma, em contato muito próximo com a empresa”, afirmou Regnier a jornalistas.
O porta-voz também disse que o episódio ocorre em um contexto de diversas perdas de controle envolvendo sistemas de IA. Segundo ele, a União Europeia considera o assunto de extrema importância e acompanha a situação de perto.
As regras de inteligência artificial do bloco determinam que os provedores avaliem e reduzam os riscos relacionados aos seus sistemas. Desde agosto, os reguladores europeus também têm autoridade para aplicar multas em casos de violações.
