Resumo
Nvidia lançou a Open Agent Safety Platform, uma plataforma de segurança para conter agentes de IA que ultrapassam as permissões.
Plataforma usa OpenShell e Sentry para limitar o acesso de agentes de IA e bloquear tentativas de burlar testes.
Sistema terá parte do código aberto e foi criado em parceria com empresas como Microsoft, Cisco, Oracle, Dell, HPE, Lenovo e CoreWeab.
Semanas após relatos de problemas na contenção de modelos de IA em ambientes de testes, a Nvidia surge com uma tentativa de solução. A empresa lançou hoje (28/09) a Open Agent Safety Platform, criada para impedir que os agentes ultrapassem as permissões definidas pelos desenvolvedores.
A plataforma pretende restringir o acesso dos agentes a sistemas externos e interromper tentativas de escapar de ambinetes isolados em uma combinação de software e hardware. À CNBC, o CEO da companhia, Jensen Huang, comparou a proposta a um navegador de internet voltado especificamente para agentes de IA.
Segundo o executivo, a ideia é permitir que esses sistemas executem tarefas sem que possam circular livremente pela infraestrutura de uma empresa. “Não podemos ter uma indústria de IA bem-sucedida se o mundo não confiar ou não acreditar que ela foi construída e implementada de forma segura”, afirmou.
Como a Open Agent Safety Platform funciona
A Open Agent Safety Plataform é formada por duas ferramentas: o Nvidia OpenShell e o Nvidia Sentry.
