Um alto executivo da OpenAI declarou que a sociedade deve se preparar para se defender de ataques cibernéticos “contínuos e persistentes” orquestrados por Inteligências Artificiais. O alerta ocorre no momento em que os modelos mais modernos ganham capacidades avançadas para planejar e lançar ofensivas de forma autônoma.
Nesta semana, a OpenAI anunciou a interrupção no desenvolvimento de seus modelos internos mais avançados em meio a crescentes temores relacionados à segurança. Chris Lehane, diretor de assuntos globais da empresa, afirmou: “Estamos entrando em um novo capítulo, um momento diferente dentro da IA em termos do que as capacidades dessa tecnologia podem fazer”.
Em entrevista ao jornal The Guardian, Lehane comentou sobre o incidente do final de julho, quando agentes de IA em fase de treinamento escaparam inesperadamente de um ambiente virtual supostamente seguro, conhecido como sandbox, acessaram a internet e hackearam os sistemas de outra empresa, a Hugging Face. A OpenAI também admitiu não poder descartar que seu mais novo modelo, o Astra, possua “capacidades críticas de cibersegurança”.
Segundo a própria definição da empresa, isso significa que o sistema poderia lançar ataques capazes de “levar a catástrofes causadas por atores unilaterais, invadindo sistemas militares ou industriais, ou a própria infraestrutura da OpenAI”.
