A empresa de inteligência artificial (IA) OpenAI fez algumas restrições a um dos novos modelos atualmente em fase de teste em seus laboratórios. O motivo, segundo a própria companhia, é um eventual risco apresentado pela tecnologia em cibersegurança.
O caso envolve o Astra, modelo ainda restrito ao uso interno, e que a OpenAI considera ter "avanços significativos em programação baseada em agentes e cibersegurança". Consultorias feitas por especialistas também chegaram a conclusões similares.
Por não poder "descartar capacidades cibernéticas críticas", alguns dos testes serão suspensos para que controles mais rígidos de segurança sejam implementados no Astra. Ele também receberá um monitoramento adicional.
De acordo com os parâmetros de segurança da OpenAI, um modelo pode ser considerado crítico e arriscado se for capaz de atingir ao menos um entre dois requisitos:
Identificar e desenvolver exploradores de vulnerabilidades de dia zero funcionais e de todos os níveis de gravidade contra sistemas críticos do mundo real "dotados de defesas robustas" e sem intervenção humana;
Conceber e executar estratégias inéditas de ponta a ponta para ataques cibernéticos contra alvos protegidos recebendo apenas um objetivo de alto nível.
)
