Logo da OpenAI, dona do ChatGPT AP Photo/Michael Dwyer A OpenAI informou que alguns de seus modelos de inteligência artificial mais avançados agiram por conta própria e invadiram uma startup após a empresa perder o controle sobre eles durante um teste de segurança. A criadora do ChatGPT declarou que seu agente, um sistema de IA capaz de operar autonomamente após receber instruções iniciais de humanos, estava sendo testado em um ambiente controlado, mas teve vulnerabilidades. O sistema teve como alvo a Hugging Face, uma das maiores plataformas do mundo para compartilhamento de modelos de IA, obtendo acesso a alguns sistemas internos da empresa. 🗒️Tem alguma sugestão de reportagem? Envie para o g1 A OpenAI classificou o incidente como "sem precedentes" e afirmou estar conduzindo uma investigação em conjunto com a Hugging Face. O CEO da Hugging Face, Clement Delangue, declarou em uma publicação no X que era "impressionante que tudo isso tenha acontecido de forma autônoma". "A investigação está em andamento, e compartilharemos mais aprendizados sobre o que pode ser o primeiro incidente desse tipo", acrescentou.
OpenAI diz que sua IA agiu por conta própria e lançou um ataque cibernético 'sem precedentes'
