IA poderosa demais pode ameaçar humanidade, alerta ONU

A evolução acelerada da inteligência artificial começa a levantar preocupações que vão além de empregos, privacidade e desinformação. Para Volker Türk, alto comissário das ONU, sistemas cada vez mais autônomos podem se transformar em uma ameaça existencial caso a humanidade não estabeleça limites antes que seja tarde.

O alerta foi feito durante um discurso no Conselho de Direitos Humanos da ONU, em Genebra, nesta segunda-feira (7). Türk defendeu regras obrigatórias e mecanismos independentes de fiscalização para acompanhar o desenvolvimento da tecnologia.

IA pode ultrapassar o controle de seus criadores

A principal preocupação está no avanço de sistemas capazes de agir com maior autonomia. Segundo Türk, o problema surge quando uma IA se torna tão poderosa que nem mesmo seus desenvolvedores conseguem garantir que ela permanecerá sob controle.

O alto comissário citou cenários em que agentes de IA escapam de ambientes restritos de teste ou tentam impedir o próprio desligamento. Para ele, comportamentos desse tipo representam um sinal de que determinados sistemas podem estar recebendo autonomia excessiva.

A discussão ganha força à medida que empresas investem em agentes de IA capazes de executar tarefas, tomar decisões e interagir com diferentes sistemas sem acompanhamento humano constante.

Poder da IA está concentrado em poucas pessoas

Türk também criticou a concentração do desenvolvimento de IA nas mãos de um pequeno grupo de empresas e executivos.