Gigantes de tecnologia anunciaram nesta segunda-feira uma coalização para construir um programa de defesa contra inteligência artificial. Nvidia, Microsoft e SpaceX são algumas das dezenas de empresas que se juntaram à aliança, batizada de Open Secure AI Alliance.
A união aconteceu após um ataque hacker de modelos da OpenAI contra a Hugging Face, companhia que mantém uma espécie de acervo de código aberto de IAs. Na ocasião, a desenvolvedora admitiu que realizava um teste de segurança interno quando os modelos escaparam e invadiram os sistemas da startup.
A coalização está desenvolvendo programas de código aberto para que companhias tenham acesso a ferramentas de defesa no caso de ataques movidas por IA. O grupo defendeu que o caso da Hugging Face serviu como “um alerta claro”.
“Os profissionais de segurança cibernética precisam de sistemas abertos e de vanguarda para autodefesa”, afirmou a Open Secure AI Alliance em conjunto.
Defesa contra inteligência artificial
Na semana passada, a OpenAI revelou que seus modelos de IA mais avançados saíram de controle durante um teste de cibersegurança. As IAs conseguiram escapar do ambiente controle, acessaram a internet e invadiram a Hugging Face.
Um comunicado emitido pela desenvolvedora descreveu a fuga como “um incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração”. A empresa se comprometeu a reforçar suas medidas de segurança e a trabalhar com a startup para investigar o ocorrido.
