Google, OpenAI e Anthropic estão mais perto de criar uma organização independente para desenvolver padrões de segurança para sistemas de inteligência artificial (IA) de fronteira. A iniciativa surge em meio ao aumento do debate sobre como tecnologias cada vez mais avançadas devem ser regulamentadas.
Segundo o The Information, o grupo de segurança está tomando forma e as três empresas estão chamando provisoriamente a organização de Standards Authority for Frontier AI (SAFA).
A proposta é que a entidade opere de maneira independente e ajude a preencher lacunas na supervisão governamental sobre a IA.
Empresas querem ampliar cooperação em segurança
A iniciativa representa aproximação entre algumas das principais desenvolvedoras de IA do mundo para além de seus próprios programas individuais de segurança;
OpenAI e Anthropic também teriam discutido um acordo que permitiria a cada empresa testar os modelos comerciais de IA da outra em busca de vulnerabilidades e comportamentos inesperados;
Nesse modelo, as companhias teriam acesso aos modelos comerciais umas das outras para realizar testes independentes de estresse. Os dados obtidos durante essas avaliações, porém, não poderiam ser mantidos pelas empresas.
A ideia de estabelecer padrões mais amplos ganhou ainda mais atenção nesta semana, quando os CEOs da OpenAI, Sam Altman, e da Anthropic, Dario Amodei, falaram sobre segurança de IA no Conselho de Segurança das Nações Unidas (ONU).
