Os principais desenvolvedores de IA da China divulgaram publicamente resultados de testes de segurança para apenas uma pequena fração de seus modelos lançados, segundo um relatório da empresa de pesquisa SemiAnalysis.
O estudo vem em um momento de crescimento nas preocupações com os riscos de sistemas de IA avançados.
A SemiAnalysis, uma empresa de pesquisa tecnológica sediada na Califórnia, analisou 857 modelos lançados entre 2021 e 15 de setembro por nove das principais empresas chinesas de IA: Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax e StepFun.
O estudo revelou que 31 lançamentos, ou 3,6%, possuíam um resultado de avaliação de segurança publicado que pudesse ser associado a um modelo específico. Apenas nove, ou 1,1%, tinham esses resultados disponíveis no momento do lançamento ou antes dele, segundo o estudo.
Os pesquisadores não encontraram nenhuma divulgação de segurança para 813 lançamentos, embora as empresas pudessem ter realizado testes de forma privada.
A SemiAnalysis afirmou que define divulgações como resultados específicos vinculados a um modelo nomeado, incluindo testes de saída prejudicial, resistência a desbloqueio, toxicidade, privacidade, comportamento de recusa ou capacidades perigosas, e não contabiliza alegações gerais de que um modelo foi treinado ou avaliado em termos de segurança.
