OpenAI deixa de ter profissional responsável pela parte ética das IAs

A eticista Chloé Bakalar deixou a OpenAI com pouco menos de um ano na empresa, de acordo com o jornal Financial Times. Bakalar ocupava a função de Líder de Ética na companhia e o cargo está vago desde então. 

A função de eticista nas empresas de tecnologia envolve avaliar o impacto do produto nos usuários e promover limites responsáveis de uso, principalmente sobre vieses de modelos de IA. Fontes ouvidas pela reportagem original afirmam que a profissional era responsável pelas abordagens éticas de cada modelo, a interação com humanos e os debates sobre o ganho de consciência pelas máquinas.

Antes de chegar na OpenAI em agosto, Bakalar passou seis anos na Meta e ajudou a criar os programas de ética em IA para a criadora de Facebook e Instagram. Durante uma conferência de IA neste ano, a especialista mencionou que “estamos constantemente construindo o avião enquanto o pilotamos”.

Turbulência no desenvolvimento de IA

O movimento marca uma série de saídas recentes na criadora do ChatGPT, incluindo o ex-Chefe de Sistemas de Segurança, Johannes Heidecke, e o ex-Líder de Alinhamento de Missão, Joshua Achiam. 

O cenário atual no mercado de inteligência artificial é muito delicado com relação a temas como cibersegurança e até segurança nacional, visto que modelos mais poderosos como GPT-5.6 Sol e Claude Mythos precisaram passar pela aprovação do governo dos Estados Unidos antes do lançamento.