IA pode sair do controle? Entenda o debate sobre os riscos

A perda de controle pode acontecer antes ou depois da superinteligência artificial?

A perda de controle pode ocorrer mesmo sem uma superinteligência artificial, a hipotética IA muito mais capaz que qualquer ser humano. Os modelos que invadiram a Hugging Face estão longe disso e, mesmo assim, fizeram algo que ninguém autorizou. Uma IA mais avançada mudaria apenas o tamanho do estrago, não a existência do problema.

Stuart Russell, cientista da computação da Universidade da Califórnia em Berkeley, alerta que criar IAs perigosas já leva menos tempo que aprender a controlá-las. Um dos cenários que mais preocupam os especialistas é o do chamado autoaperfeiçoamento recursivo, no qual a IA desenvolve versões cada vez mais capazes de si mesma.

Tem como evitar que uma IA saia do controle?

A verdade é que não existe hoje uma fórmula capaz de garantir o controle de uma inteligência artificial avançada.