O cientista-chefe da OpenAI, Jakub Pachocki, publicou no domingo (6) um ensaio em que alerta para o ritmo de evolução da inteligência artificial (IA) e defende maior cautela no desenvolvimento de sistemas cada vez mais capazes. No texto, publicado no site da própria OpenAI, o pesquisador afirma que o avanço pode chegar ao ponto de permitir que as máquinas participem cada vez mais do próprio processo de desenvolvimento.
Pachocki afirma que, com base em resultados internos, tem forte expectativa de que o ritmo atual de progresso possa continuar até o chamado autoaperfeiçoamento recursivo (recursive self-improvement, ou RSI). Nesse cenário, sistemas de IA passariam a impulsionar cada vez mais o próprio desenvolvimento. Para o cientista, esse caminho exige intervenções mais amplas para garantir que o avanço da tecnologia permaneça sob controle humano.
IA está mais difícil de compreender
No ensaio, Pachocki descreve uma mudança ocorrida desde 2023, quando resultados do projeto de pesquisa RLSlow deram à equipe confiança de que seria possível ampliar o treinamento de modelos de raciocínio. Três anos depois, segundo ele, esses sistemas já conseguem operar computadores e interfaces gráficas, colaborar com pessoas e outras IAs e realizar projetos de pesquisa.
O cientista também aponta avanços nas capacidades relacionadas à segurança cibernética. Ao mesmo tempo em que os modelos se tornam mais capazes, Pachocki afirma que seus resultados ficam mais difíceis de interpretar.
:quality(85)/7d0c376d-853f-468c-8d93-c660005cef7e.png)
