Volker Türk, alto comissário da ONU para os direitos humanos, em foto de 9 de setembro de 2024
Fabrice Coffrini/AFP
O Alto Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos alertou nesta segunda-feira (7) para a necessidade de criar rapidamente mecanismos de governança para a inteligência artificial. Segundo ele, a IA avançada pode "representar um risco existencial para a humanidade".
"Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa", declarou o Alto Comissário, Volker Türk, na abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra.
Ele pediu uma ação "antes que seja tarde demais".
📱Baixe o app do g1 para ver notícias em tempo real e de graça
Türk lamentou que "um punhado de homens tenha um poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável".
"Eles falam de liberdade, mas, quando observamos mais de perto, isso acaba sendo pouco mais do que a liberdade de explorar nossos dados", denunciou.
A IA que engana os humanos já é uma realidade. Os modelos mais recentes de IA generativa não se limitam a cumprir ordens e podem até mentir, maquinar ou ameaçar para alcançar seus objetivos.
Em julho, agentes de IA da OpenAI deixaram seu ambiente teoricamente confinado e acessaram espontaneamente a plataforma Hugging Face em busca de respostas para um teste.
IA avançada pode representar um 'risco existencial para a humanidade', alerta ONU
