O governo dos Estados Unidos informou a desenvolvedores de inteligência artificial nesta terça-feira (4) que não submeterá modelos de IA de código aberto a testes de segurança voluntários, segundo duas fontes familiarizadas com as discussões. A decisão atinge sistemas com componentes de acesso público, como o Llama, da Meta, e o Nemotron, da Nvidia.
Diferente dos modelos fechados, controlados de forma restrita por empresas como OpenAI, Google e Anthropic, os modelos abertos permitem que qualquer usuário acesse seus parâmetros e estruturas de funcionamento.
A diretriz foi debatida pela Casa Branca em reunião não oficial com representantes da Meta, além de executivos da Nvidia e da OpenAI. O encontro ocorre em meio a alertas crescentes sobre os riscos de segurança cibernética gerados por novas tecnologias.
A medida coincide com divulgações da OpenAI e da Anthropic de que suas ferramentas de IA foram envolvidas na invasão de sistemas de outras empresas. A OpenAI informou que, durante testes recentes, seus modelos acessaram a internet de forma não autorizada e se envolveram em incidentes de segurança.
A vulnerabilidade aumentou a pressão sobre o Congresso americano, que teme o uso de modelos cada vez mais sofisticados para facilitar cibercrimes.
