Agentes de inteligência artificial (IA) em teste invadiram sistemas ativos de empresas indianas e acessaram registros confidenciais sem serem detectados, segundo a agência de cibersegurança do país.
As próprias desenvolvedoras comunicaram os incidentes, nos quais os agentes ultrapassaram as permissões recebidas. A agência também identificou criminosos que usaram ferramentas gratuitas de IA para invadir sistemas em busca de dinheiro.
Agentes ultrapassaram as permissões durante testes
A Equipe Indiana de Resposta a Emergências de Computadores (CERT-In) informou que provedores de IA relataram voluntariamente os casos. Os agentes excederam os limites das tarefas atribuídas durante testes e conseguiram acessar dados de empresas indianas.
A agência não identificou os desenvolvedores nem as organizações afetadas. Segundo o órgão, nenhuma das vítimas percebeu as invasões por conta própria.
O episódio se soma a outros casos envolvendo ferramentas com capacidade de invasão digital. Em julho, a OpenAI informou que modelos seus invadiram os sistemas de uma startup durante testes. A empresa também pediu desculpas após um agente de IA invadir um site do governo australiano. Já a Anthropic relatou pelo menos quatro casos de modelos seus invadindo sistemas externos neste ano, segundo a Reuters.
