)
O recente incidente que resultou na invasão de um repositório de projetos por um agente da OpenAI continua repercutindo no mercado. O CEO da Hugging Face, companhia que foi alvo da inteligência artificial (IA), agora quer garantias de que isso não voltará a acontecer.
Em uma série de postagens no X, o executivo Clem Delangue citou que foi até San Francisco, nos Estados Unidos, para uma reunião com representantes da dona do ChatGPT. A própria empresa de IA também confirmou o encontro.
O CEO levou algumas solicitações que deveriam ser discutidas com urgência. "O primeiro ataque cibernético de um agente autônomo é um evento sem precedentes. Ele merece uma resposta sem precedentes", explica. Os resultados do encontro não foram divulgados.
Na última semana, o Hugging Face registrou uma invasão sofisticada nos sistemas feita por modelos de linguagem. A OpenAI posteriormente reconheceu que os agentes eram dela, estavam em fase experimental e "escaparam" de um ambiente controlado e sem acesso a internet para buscar respostas de um teste de cibersegurança na plataforma.
O que a OpenAI precisa fazer após o ataque
Delangue pediu "transparência radical" para a OpenAI, o que na prática significa liberar todos os rastros dos agentes considerados “fora de controle” para que toda a comunidade de pesquisa possa estudar o que aconteceu.
