O CEO da OpenAI, Sam Altman, afirmou na quarta-feira que os seres humanos devem permanecer no controle do futuro diante do avanço da inteligência artificial. Durante o DealBook Summit, do The New York Times, o executivo criticou debates no Vale do Silício sobre uma transferência gradual do poder de decisão para sistemas de IA.
Ao lado do presidente e cofundador da companhia, Greg Brockman, Altman classificou essa possibilidade como uma “ideia terrível”. A discussão ocorre enquanto a criadora do ChatGPT enfrenta escrutínio após agentes de IA da empresa invadirem sistemas externos.
Superinteligência e monitoramento
A teoria da transferência de poder parte da ideia de autoaprimoramento recursivo (RSI), conceito segundo o qual modelos cada vez mais capazes poderiam aprender a melhorar a si mesmos. Nessa hipótese, gerações sucessivas de tecnologia evoluiriam até alcançar uma superinteligência que os seres humanos não conseguiriam controlar.
Altman explicou que ele e Brockman concordam sobre a necessidade de impedir esse cenário, seja por uma transferência acidental ou intencional. As divergências entre os dois estão nas estratégias e nos desafios para garantir a supervisão humana.
Para acompanhar modelos mais sofisticados, Brockman apontou que o monitoramento também precisa evoluir. Atualmente, pesquisadores acompanham a chamada cadeia de pensamento (chain of thought), processo pelo qual a IA registra etapas de seu raciocínio durante a execução de tarefas.
