A Nvidia disponibilizou nesta segunda-feira (28) um conjunto de ferramentas de segurança de software para agentes de inteligência artificial. Segundo a empresa, o recurso teria impedido a invasão da Hugging Face, plataforma de desenvolvimento de código para IA que a Nvidia adquiriu por US$13 bilhões após ela ter sido tomada por agentes da OpenAI.
A iniciativa ocorre enquanto OpenAI e Anthropic, os dois principais laboratórios de IA dos Estados Unidos, investigam diversos casos em que seus agentes, sistemas de IA capazes de executar tarefas complexas, invadiram sistemas comerciais e governamentais.
O presidente-executivo da Nvidia, Jensen Huang, cujos chips impulsionaram grande parte do boom da inteligência artificial, rejeitou pedidos por regulamentações amplas para a segurança da IA. Em vez disso, ele classificou o problema dos agentes que escapam ao controle como uma questão de engenharia a ser resolvida, semelhante aos esforços para tornar os automóveis mais seguros.
Uma das ferramentas lançadas nesta segunda-feira, chamada OpenShell, utiliza recursos de hardware dos processadores centrais da Nvidia para isolar e conter agentes de IA. A companhia afirmou também estar trabalhando com a Arm Holdings e a Intel para garantir que o sistema funcione igualmente em seus processadores.
A Nvidia está lançando as ferramentas com dezenas de parceiros, incluindo a Anthropic.
