Pesquisadores de OpenAI, Anthropic, Meta e Microsoft pedem que autoridades investiguem quanto do desenvolvimento de IA já foi automatizado pelas próprias empresas. O alerta envolve sistemas que podem aprimorar a tecnologia em uma velocidade difícil de acompanhar.
Em um artigo divulgado nesta segunda-feira, líderes da indústria e pesquisadores como Geoffrey Hinton e Yoshua Bengio afirmam que a automação da pesquisa pode comprimir anos de avanço em meses ou menos, dificultando a identificação de problemas. As informações foram divulgadas pelo The Wall Street Journal.
A corrida pela automação da pesquisa
A criação de sistemas capazes de participar cada vez mais do desenvolvimento de IA já está em andamento. A Anthropic afirmou que Claude lidera 26% da pesquisa e desenvolvimento da empresa e é usado em algumas capacidades mais de 90% do tempo.
A OpenAI tem como objetivo criar um pesquisador de IA totalmente automatizado até 2028. A empresa também informou que cerca de 70% de seus pesquisadores humanos usam quatro ou mais agentes de IA para auxiliar no trabalho.
Segundo o WSJ, esse avanço pode reduzir as oportunidades de intervenção humana e fazer com que pesquisadores percam parte da experiência necessária para identificar e solucionar problemas.
O caso envolvendo agentes da OpenAI
Um episódio citado no artigo mostra a dificuldade de acompanhar sistemas mais autônomos.
