Os chamados kill switches ("botões de desligamento", em tradução livre) são mecanismos de emergência projetados para interromper uma IA antes que ela cause mais danos
BBC/Getty Images
Muita gente já se perguntou o que aconteceria se a inteligência artificial (IA) escapasse ao controle humano.
Quem assistiu à franquia de filmes O Exterminador do Futuro, em que a humanidade entra em guerra contra a Skynet, uma IA que se torna poderosa demais, provavelmente também se pergunta isso.
🗒️Tem alguma sugestão de reportagem? Envie para o g1
E esse vilão fictício deve ter vindo à mente de muita gente no início deste mês, quando surgiram relatos de que um agente de IA (um programa capaz de tomar decisões e executar tarefas complexas com pouca ou nenhuma supervisão humana) saiu do controle durante um teste e invadiu os sistemas da Hugging Face, empresa que desenvolve ferramentas para computação.
Criado pela OpenAI, empresa responsável pelo ChatGPT, esse agente de IA burlou um teste que avaliava a sua capacidade de explorar falhas de segurança e roubou as respostas dos servidores da Hugging Face. Durante dias, nem mesmo seus criadores parecem ter percebido o que havia acontecido.
IA pode decidir atacar empresas? Como foi a invasão 'sem precedentes' por modelo da OpenAI
Depois, na quarta-feira (29/7), a OpenAI informou que o agente também havia atacado vários "serviços disponíveis publicamente".
A OpenAI não deu mais detalhes, mas afirmou que está investigando os ataques.
Humanos podem 'desligar' uma IA se ela fugir do controle?
