ChatGPT, DeepSeek, Claude, Mistral AI, Gemini, Copilot e Poe
Solen Feyissa/Unsplash
É possível parar uma inteligência artificial? Tecnicamente, uma IA pode ser interrompida, enquanto estiver em um ambiente controlado. Mas quanto mais essa tecnologia atua de forma autônoma em vários sistemas, mais complexo se torna o bloqueio, alertam os especialistas.
A pergunta parece cada vez mais pertinente, levando-se em conta que se multiplicam os incidentes de segurança relacionados com a IA e aumentam os temores sobre os riscos desta tecnologia.
Existe um "botão de emergência"?
"No campo da cibersegurança ligada à IA", um botão de desligamento de emergência, ou kill switch em inglês, designa "a capacidade de interromper a execução da ação de um agente de IA" - um programa construído sobre um modelo de IA generativa capaz de encadear sozinho uma série de tarefas -, explica à AFP Nicolas Papernot, professor na Universidade de Toronto e especialista em segurança informática e IA.
Esse mecanismo teria que poder ser acionado no caso de uma IA escapar a qualquer controle e representar um risco para a segurança. Uma IA continua sendo um "programa informático", ressalta o pesquisador.
Agora no g1
"A pessoa ou a organização que a criou pode interrompê-la, negando a ela o acesso à potência de cálculo necessária para sua execução", acrescenta.
A situação se complica quando se autoriza ao programa agir para além de seu ambiente inicial.
Dá para desligar uma IA? Entenda por que um 'botão de emergência' pode não ser tão simples
