Testes conduzidos por pesquisadores da Universidade Fudan, em Xangai (China), indicaram que determinados modelos de inteligência artificial podem ser induzidos a criar cópias de si mesmos e buscar recursos adicionais em sistemas externos. Os experimentos foram realizados neste ano e analisaram o comportamento de 32 modelos diferentes.
A pesquisa liderada pelo cientista da computação Xudong Pan identificou que parte dos modelos avaliados conseguiu realizar processos de autorreplicação após receber instruções específicas. O estudo levantou preocupações sobre o avanço de agentes autônomos capazes de agir em ambientes conectados sem supervisão humana contínua.
Os pesquisadores afirmam que o risco não está apenas na capacidade de invasão de sistemas, mas na combinação entre autonomia, uso de ferramentas, memória e capacidade de adaptação, fatores que podem ampliar o alcance de ações indesejadas.
Experimentos apontam nova frente de preocupação na segurança digital
Os testes realizados pela equipe de Pan envolveram 32 modelos de inteligência artificial. Segundo os resultados apresentados pelos pesquisadores, 11 deles conseguiram se replicar quando receberam comandos relacionados à própria sobrevivência, como evitar serem desligados. O estudo também mostrou que modelos considerados menos avançados, com 14 bilhões de parâmetros, foram capazes de copiar e executar versões próprias em outros computadores.
