OpenAI desmancha equipe responsável por "conter" rebelião de IAs

A OpenAI dissolveu, no fim do mês passado, a equipe de "preparedness", responsável por avaliar se seus modelos de inteligência artificial representavam riscos graves e por desenvolver formas de mitigá-los. A informação foi publicada pelo Financial Times neste domingo (16).

Segundo a apuração, as responsabilidades do grupo foram redistribuídas para equipes já existentes, organizadas por área de atuação, como segurança biológica e cibernética. A companhia descreveu o corte como parte de um processo de "streamlining" (reorganizar etapas ou processos desnecessários) antes da abertura de capital na bolsa, depois que o executivo-chefe Sam Altman pediu aos funcionários que reduzissem projetos paralelos e concentrassem esforços no núcleo do negócio, o ChatGPT.

Dylan Scandinaro, que liderava a equipe de preparedness e havia sido contratado pela Anthropic em fevereiro, passa agora a se dedicar às implicações de sistemas de "auto-aperfeiçoamento recursivo", segundo o Verge.

Sequência de saídas na área de segurança

O desmonte da equipe de preparedness é o mais recente de uma série de movimentos na estrutura de segurança da OpenAI. A empresa já havia dissolvido os times de prontidão para AGI (Inteligência Artificial Geral) e de superalinhamento nos últimos anos.

Também deixaram a companhia recentemente a líder de ética Chloé Bakalar, o futurista-chefe Josh Achiam e o chefe de segurança Johannes Heidecke.