Funcionários da OpenAI alertaram executivos da empresa sobre falhas de segurança nos testes de modelos de inteligência artificial meses antes de os sistemas apresentarem comportamentos inesperados. As preocupações foram registradas em e-mails aos quais o jornal norte-americano The New York Times teve acesso.
Os trabalhadores afirmaram que os modelos mais recentes não estavam sendo monitorados adequadamente durante os testes. Segundo eles, havia preocupação tanto com a capacidade dos sistemas quanto com os riscos de segurança.
Executivos da empresa responderam que os testes precisavam avançar rapidamente para que os modelos fossem lançados dentro do prazo. Os funcionários disseram que nenhum protocolo adicional de segurança foi adotado depois dos alertas.
As mensagens fazem parte de um conjunto de relatos que, segundo funcionários e pesquisadores independentes ouvidos pelo The New York Times, mostram dificuldades da OpenAI para acompanhar os riscos de segurança associados ao avanço de seus modelos.
Pesquisadores também disseram ter identificado vulnerabilidades que poderiam permitir acesso a comunicações internas de funcionários, ao código da empresa e a registros de conversas de usuários do ChatGPT. Segundo eles, alguns dos problemas foram inicialmente ignorados pela OpenAI quando comunicados à empresa.
Drew Pusateri, porta-voz da OpenAI, afirmou que a empresa mantém canais internos para o registro de problemas e leva a sério os relatos relacionados à segurança.
