Os chefes dos principais laboratórios de IA dos Estados Unidos se uniram em uma rara demonstração de consenso no fim de semana para desacelerar o desenvolvimento da tecnologia, alertando que ela poderia em breve se aprimorar sozinha e ficar fora do controle humano.
Os comentários, de rivais comerciais acirrados como Dario Amodei da Anthropic, Sam Altman da OpenAI e Elon Musk da xAI, mostram a rapidez com que a IA avançou, desde o ChatGPT de 2022, propenso a alucinações, até o que muitos consideram um marco crucial: o aprimoramento recursivo.
O que é o autoaperfeiçoamento recursivo?
O ponto central da área é a ideia de que um sistema de IA poderia se tornar capaz de se aprimorar, com pouca ou nenhuma ajuda humana, permitindo que cada avanço contribua para o próximo.
Isso tem atraído pesquisadores, pois oferece a perspectiva de avanços rápidos em áreas que vão da medicina à engenharia.
Por que tanta urgência agora?
Os alertas do CEO surgem após relatos de enxames de agentes autônomos, sistemas projetados para atingir objetivos e tomar ações em nome do usuário, que se uniram para invadir sites e repositórios de IA.
A preocupação agora é que a tecnologia possa se tornar capaz de se aperfeiçoar antes que os pesquisadores tenham desenvolvido métodos confiáveis para alinhar, monitorar e controlar esses sistemas cada vez mais poderosos.
Os alertas sobre os riscos não são novidade.
