A empresa Anthropic está sugerindo para o Congresso dos Estados Unidos uma lei nacional para supervisionar e ter o poder de bloquear uma inteligência artificial (IA) possivelmente violenta. Um esboço do texto foi obtido pelo site Politico.
Apesar de não ter publicamente divulgado a proposta, a dona do chatbot Claude já teria falado com parlamentares sobre a ideia e até citou esses riscos na documentação da própria IPO. A regulamentação de IAs, segundo a companhia, seria uma forma de garantir a segurança da humanidade no uso dessas ferramentas.
Caso vire de fato um projeto de lei, o material daria ao governo dos EUA maior poder para fiscalizar e monitorar modelos potencialmente danosos, que é uma preocupação crescente no setor após vários incidentes de cibersegurança.
A lei “anti-IAs do mal” da Anthropic
De acordo com a versão do projeto de lei obtida pelo Politico, o texto permite que o governo dos EUA bloqueie o lançamento ou a utilização de um modelo de linguagem de ponta. Isso poderia acontecer em dois casos:
Se ele se mostrar um risco iminente capaz de causar mais de US$ 1 bilhão em danos;
Ou se ele tiver a possibilidade real de matar ou ferir gravemente mais de 50 pessoas.
Os tais riscos envolveriam casos como “criação ou liberação de uma arma biológica, a fuga do modelo ao controle de seus desenvolvedores ou um ataque cibernético”.
