O Instituto de Segurança de IA do Reino Unido teve acesso aos modelos mais avançados de IA e está trabalhando com o governo dos Estados Unidos e grandes desenvolvedoras, incluindo o Google, para avaliar sua segurança, disse o ministro da IA, Kanishka Narayan, nesta segunda-feira (12).
O Reino Unido, que não tem nenhuma grande empresa desenvolvedora de IA, busca um papel de liderança nos esforços para avaliar e gerenciar os riscos representados por sistemas cada vez mais poderosos.
O escrutínio da segurança da IA se intensificou depois que desenvolvedoras, incluindo a Anthropic e a OpenAI, divulgaram casos de comportamento inadequado ou indesejado por parte de seus agentes.
Fable e Astra: estamos mais perto da inteligência artificial geral?
GPT-6 Astra: entenda o que torna o novo modelo um risco em cibersegurança
Algumas figuras do setor alertaram que a tecnologia pode representar uma ameaça existencial para a humanidade.
O anúncio de segunda-feira, que não especificou todos os modelos que o instituto está avaliando, surge após relatos do mês passado de que a Casa Branca pediu à OpenAI e à Anthropic que retivessem novos modelos de testadores britânicos até que uma revisão dos EUA fosse concluída.
