O CEO da OpenAI, Sam Altman, discursa no Conselho de Segurança das Nações Unidas durante uma sessão sobre inteligência artificial, na sede da ONU
Reuters
A OpenAI anunciou que não lançará seu novo modelo de inteligência artificial devido a preocupações com segurança.
O sistema GPT-6.1 Astra, que realiza tarefas como navegar na internet e usar aplicativos de forma autônoma, "não atingiu exatamente o nível exigido" pelos padrões da empresa, segundo Saachi Jain, responsável pelos sistemas de segurança da OpenAI.
A empresa responsável pelo ChatGPT também divulgou uma atualização sobre incidentes ocorridos em junho, mas que só se tornaram públicos na semana passada. Na ocasião, seus modelos acessaram sites e sistemas do governo australiano sem autorização.
O caso ocorre em meio ao aumento de incidentes envolvendo modelos de grandes empresas de IA, intensificando o debate sobre os riscos apresentados pela tecnologia, enquanto a Anthropic, empresa rival da OpenAI, reforça suas preocupações de que a IA possa representar uma ameaça à humanidade, à medida que se prepara para abrir seu capital.
Agora no g1
A agência de notícias Reuters informou nesta terça-feira (29/09) que a empresa de desenvolvimento de IA, responsável pelo Claude, concorrente do ChatGPT, planeja alertar potenciais investidores em sua Oferta Pública Inicial (IPO) de que a tecnologia pode representar "riscos catastróficos ou existenciais para a humanidade", segundo um prospecto ao qual a agência teve acesso.
As preocupações que levaram a OpenAI, do ChatGPT, a abandonar lançamento de novo sistema de IA
