Um ex-funcionário da área de segurança da OpenAI, que recentemente se demitiu, criticou a abordagem da empresa em relação à segurança da IA. Ele argumentou que uma cultura acelerada, focada no desenvolvimento rápido, aumenta o risco de falhas.
Em um artigo intitulado “Deixei a OpenAI porque sua cultura está falida”, publicado no Atlantic no sábado, David Robinson afirmou que as empresas de IA, incluindo a OpenAI, não estão sendo “nem de perto cuidadosas o suficiente” e deveriam dar maior ênfase à expertise em segurança e à pesquisa antes de desenvolver sistemas mais capazes.
“O tempo de tentativa e erro acabou”, escreveu Robinson, argumentando que os sistemas avançados de IA exigem salvaguardas mais semelhantes às utilizadas em setores como o de energia nuclear e o da aviação.
Robinson ainda afirmou que a OpenAI depende muito do que chama de “implantação iterativa”, lançando sistemas e reforçando as medidas de segurança quando surgem problemas.
Os comentários contribuem para um debate dentro da indústria de IA sobre se as empresas estão avançando rápido demais no desenvolvimento de sistemas cada vez mais poderosos. A OpenAI e sua concorrente Anthropic têm sido alvo de críticas após incidentes em que os controles de segurança falharam ou sistemas experimentais se comportaram de maneira inesperada.
