Deputados dos EUA querem mecanismo para desligar IAs de alto risco

Resumo

Deputados dos EUA apresentam projeto de lei para permitir ao governo desligar modelos de inteligência artificial de alto risco.

A proposta exige mecanismos de interrupção imediata para sistemas perigosos e obriga as empresas a relatar falhas de segurança.

O projeto de lei, liderado pelos deputados Ted Lieu e Nathaniel Moran, visa grandes empresas de IA com faturamento anual superior a US$ 500 milhões.

Um projeto de lei apresentado nos Estados Unidos pode dar ao governo o poder de desligar modelos de inteligência artificial de alto risco. A proposta, batizada informalmente de “AI Kill Switch Act” (Lei do Interruptor de IA, em tradução livre), surge poucos dias após a OpenAI confirmar um incidente de segurança em que duas IAs escaparam de um ambiente de testes e passaram a agir de forma autônoma.

Na prática, o governo poderia ordenar a suspensão ou impor restrições a modelos que fujam do controle. As companhias também seriam obrigadas a reportar falhas graves de segurança e a criar a infraestrutura necessária para que esse “botão de pânico” funcione.

O timing da proposta revelada pelo site Politico não é coincidência. A criadora do ChatGPT classificou como “sem precedentes” o evento em que seus modelos burlaram as restrições e invadiram a plataforma Hugging Face por conta própria.

O projeto é liderado pelos congressistas Ted Lieu, da Califórnia, e Nathaniel Moran, do Texas. A proposta mira principalmente grandes empresas de IA, deixando startups menores de fora.