IA fora de controle faz EUA debaterem "botão de pânico" para desativá-la

Os parlamentares dos Estados Unidos apresentaram o AI Kill Switch Act, um projeto de lei bipartidário que autoriza o Departamento de Segurança Interna dos EUA a determinar a desaceleração, suspensão ou desligamento de modelos de inteligência artificial considerados uma ameaça à segurança pública. A proposta foi apresentada pelos deputados Ted Lieu (Democrata) e Nathaniel Moran (Republicano). 

Segundo o projeto, empresas que desenvolvem os modelos de IA mais avançados seriam obrigadas a manter mecanismos técnicos para limitar ou interromper completamente o funcionamento de seus sistemas. O texto também prevê a obrigatoriedade de comunicar incidentes graves às autoridades e estabelece um protocolo de resposta que vai desde a redução da atividade da IA até seu desligamento total.

De acordo com os autores, a proposta busca preencher uma lacuna regulatória diante da evolução da IA. Hoje, empresas compartilham informações sobre segurança de forma voluntária com órgãos do governo americano, mas não há uma exigência legal para que mantenham ferramentas capazes de interromper o funcionamento de modelos que apresentem comportamentos inesperados ou ofereçam riscos à infraestrutura crítica.

A ideia de estabelecer mecanismos obrigatórios de controle também encontra apoio em parte da indústria da IA. O CEO da OpenAI, Sam Altman, já se manifestou favorável à criação de regulamentações para a IA.