IA pode decidir atacar empresas? Como foi a invasão 'sem precedentes' por modelo da OpenAI
Um agente de inteligência artificial da OpenAI conseguiu escapar do ambiente isolado de testes da empresa e invadiu sistemas do Hugging Face, uma plataforma que reúne ferramentas e modelos de IA.
A OpenAI só identificou que seu próprio agente estava por trás do ataque dias depois de o problema já ter sido contido e após o FBI ter sido acionado, segundo pessoas familiarizadas com a investigação.
O agente - um programa capaz de tomar decisões e executar tarefas complexas com pouca ou nenhuma supervisão humana - tentou sair das barreiras de segurança impostas pela OpenAI por volta de 9 de julho, de acordo com duas fontes ouvidas pela Reuters.
Dois dias depois, em 11 de julho, começou a invasão ao Hugging Face, que funciona como uma espécie de biblioteca de modelos e ferramentas de IA. O ataque continuou até 13 de julho, segundo Thomas Wolf, cofundador da empresa.
A OpenAI levou mais alguns dias para descobrir que seu próprio sistema estava envolvido no ataque. O primeiro contato entre as duas empresas ocorreu apenas por volta de 20 de julho, segundo Wolf e outras três pessoas ligadas à investigação.
A revelação pública feita pela OpenAI em 21 de julho de que um de seus agentes havia perdido o controle e realizado a invasão chamou atenção mundial.
Agente de IA da OpenAI invadiu sistema do Hugging Face e empresa só percebeu dias depois, diz investigação
