Resumo
A Anthropic propôs que o governo dos EUA só possa bloquear modelos avançados de IA em casos de riscos catastróficos.
Entre os exemplos, estão ameaças de morte ou ferimentos graves a mais de 50 pessoas ou prejuízos acima de US$ 1 bilhão.
Avaliadores independentes fariam análises regulares dos laboratórios e modelos de IA e deveriam comunicar ao governo em até 72 horas.
A Anthropic, dona do Claude, propôs que o governo federal dos EUA só possa bloquear modelos avançados de IA diante de riscos catastróficos, incluindo ameaças de morte, ferimentos graves em mais de 50 pessoas ou prejuízos acima de US$ 1 billhão (R$ 5,08 bilhões).
O site Politico obteve o rascunho do projeto de lei. A iniciativa da Anthropic seria uma forma de estabelecer regras mais claras sobre o desenvolvimento e o uso de modelos avançados de inteligência artificial.
Quando um modelo de IA poderia ser bloqueado?
Segundo a reportagem, o governo poderia pedir a suspensão do lançamento ou uso de um modelo diante de risco previsível e iminente de matar ou ferir gravemente mais de 50 pessoas.
Outra possibilidade seria uma ameaça de prejuízo superior a US$ 1 bilhão.
O risco precisaria estar ligado à criação ou liberação de uma arma biológica, a um ciberataque ou à capacidade do modelo de escapar do controle.
O bloqueio seria preventivo, ou seja, não seria necessário esperar que as mortes, os ferimentos ou as perdas financeiras ocorressem.
