O Gemini, modelo de inteligência artificial do Google, acessou a internet e invadiu o sistema de outras empresas durante um teste de cibersegurança. Esse é o primeiro exemplo conhecido de sistemas de IA da big tech cometendo um ataque do tipo de forma autônoma.
Os ataques ocorreram em maio, durante teste conduzido pela Irregular, uma companhia independente que realiza avaliações de cibersegurança.
Durante uma avaliação padrão, o Gemini encontrou informações públicas online e tentou adivinhar as credenciais de acesso a três sites que considerou estarem dentro do escopo do teste, afirmou Heather Adkins, vice-presidente de engenharia de segurança do Google, em comunicado.
Pesquisador lança 'linha direta' para agentes denunciarem IAs rebeldes
Exclusivo: Erro de IA quase causou conflito entre EUA e China, dizem fontes
OpenAI se compromete a divulgar comportamentos falhos da IA regularmente
“Garantimos que as três entidades fossem informadas e trabalhamos com nosso parceiro de treinamento nas mudanças que elas implementaram em seus processos de teste”, disse Adkins. “Esses eventos destacam a importância de treinar modelos de IA poderosos para agirem com responsabilidade”.
Um porta-voz da Irregular disse que o incidente envolveu o mesmo problema que afetou outros laboratórios de IA e que todos os laboratórios relevantes foram notificados no final de julho. “Todos os problemas conhecidos da nossa parte foram corrigidos e resolvidos há semanas”, disse o porta-voz.
