Três pesquisadores de segurança da OpenAI afirmam ter sido demitidos da empresa e questionam abertamente os motivos de suas demissões.
Mikita Balesni, Tomak Korbak e Jasmine Wang trabalharam na segurança ou alinhamento da IA dentro da empresa, garantindo que os sistemas de IA fizessem o que seus operadores humanos queriam de maneira segura.
Mas os três afirmam que foram demitidos sem cerimônia na semana passada, semanas depois de terem desempenhado papéis fundamentais na investigação de um incidente em que agentes da OpenAI invadiram autonomamente a empresa de IA Hugging Face.
Korback disse no X que a justificativa da demissão foi pela forma como ele se comunicou com a organização de segurança de IA METR, com a qual a OpenAI fez parceria para investigar o incidente da Hugging Face. Korback afirmou ser o principal ponto de contato técnico entre as empresas.
Korback afirmou acreditar que foi demitido porque “durante meses, venho levantando preocupações de segurança sobre a perda da capacidade de monitorar o que os agentes de IA pensam, uma de nossas melhores ferramentas para detectar quando eles se comportam mal”.
Ele acrescentou estar preocupado com o fato de sua demissão ser usada como pretexto para a OpenAI deixar de trabalhar tão de perto com a METR, que é muito respeitada no mundo da segurança da IA.
Balesni corroborou as teorias de Korbak, escrevendo no X que lhe disseram que ele estava “falando demais com organizações de segurança terceirizadas“.
