A proposta de Jack Clark, cofundador da Anthropic, é transformar o desligamento de sistemas de inteligência artificial em uma exigência regulatória. O mecanismo teria de ser capaz de interromper ferramentas consideradas perigosas e ainda passar por uma verificação independente.
A ideia surge em meio aos alertas de pesquisadores sobre os riscos de sistemas cada vez mais avançados. Para Clark, governos precisam discutir regras que garantam às empresas uma forma efetiva de desligar suas IAs, segundo a BBC.
A ideia do “botão de desligamento”
Clark disse que a maioria dos laboratórios de IA já tem maneiras de desligar seus equipamentos. A dúvida, agora, é se esse recurso deveria ser obrigatório por lei.
Deveríamos exigir que as empresas tivessem um botão de desligamento automático? Esse botão de desligamento automático pode ser verificado por terceiros?
Jack Clark, cofundador da Anthropic, à BBC.
Para ele, a discussão também precisa definir como esse mecanismo seria fiscalizado. Uma possibilidade seria permitir que organizações independentes verificassem se o desligamento realmente funciona.
Entre os pontos envolvidos na proposta estão:
exigir mecanismos automáticos de desligamento;
permitir a verificação por terceiros;
autorizar órgãos governamentais a exigir a desativação de sistemas problemáticos;
criar regras para acompanhar os riscos do avanço da IA.
Projeto já tramita nos EUA
A ideia tem um equivalente no Congresso americano.
