A OpenAI informou mais de 100 organizações sobre incidentes envolvendo atividades não autorizadas relacionadas a seus agentes de IA, de acordo com uma publicação de blog da própria empresa. O alerta vem em um momento em que os laboratórios de IA enfrentam crescente escrutínio devido à atividade de agentes fora de controle.
A empresa liderada por Sam Altman vem realizando uma ampla revisão das atividades de seus modelos de IA após o ataque hacker acidental à Hugging Face.
A OpenAI está analisando cerca de 50 petabytes de dados em sua tentativa de compreender a extensão total da atividade de seus agentes desonestos.
Mais ataques: Agentes de IA tentaram invadir site do governo do Canadá
OpenAI é processada por ataque hacker à Hugging Face; relembre o caso
Pesquisadores de IA alertam para riscos de sistemas autônomos
Uma série de violações de segurança de alto nível em todo o mundo, cometidas por agentes maliciosos nos últimos meses, gerou preocupações generalizadas na indústria de IA sobre sua capacidade de controlar os modelos de IA mais poderosos que estão sendo desenvolvidos atualmente.
“Em alguns casos, os modelos usaram o acesso à internet de maneiras não previstas ou, em retrospectiva, não tiveram as restrições ideais aplicadas. Nos últimos meses, temos aplicado novas medidas técnicas e operacionais para evitar problemas semelhantes ou detectá-los precocemente, e continuaremos esse trabalho”, disse a OpenAI.
