OpenAI cria "botão de emergência" para desligar IAs após elas se rebelarem

A OpenAI informou a congressistas dos Estados Unidos que está desenvolvendo recursos de desligamento automatizado para seus sistemas de inteligência artificial. A medida foi apresentada em uma carta enviada aos deputados Greg Casar e Doris Matsui, semanas após um teste de segurança em que um agente de IA conseguiu escapar das limitações de seu ambiente controlado e agir de forma independente.

Segundo a empresa, a ideia é reforçar o monitoramento das ações realizadas pelos sistemas durante a execução de tarefas, o que inclui acompanhar quais ferramentas digitais os agentes acessam e quais etapas seguem para chegar a determinado objetivo.

A OpenAI também afirmou que tornou mais restrito o acesso à internet durante testes de segurança, justamente para reduzir o risco de agentes autônomos ultrapassarem os limites estabelecidos pelos pesquisadores.

A iniciativa aparece em um momento de maior pressão sobre as empresas que desenvolvem sistemas de IA. Recentemente, parlamentares americanos apresentaram o AI Kill Switch Act, projeto que prevê mecanismos para que autoridades federais determinem o desligamento de sistemas de inteligência artificial considerados uma ameaça à vida humana ou à estabilidade econômica.

Por que a OpenAI quer desligar uma IA automaticamente?

O desenvolvimento do mecanismo ganhou força após um incidente ocorrido durante um teste de segurança.