O ChatGPT tinha uma falha de segurança na versão web do aplicativo, que permitia que invasores acessassem conversas privadas, arquivos enviados e dados das contas dos usuários com um simples clique em um link. A falha, descoberta pela empresa de segurança Parameter, podia ser explorada em apenas 4,5 segundos e não precisava de downloads, comandos ou autorização de aplicativos. Para o ataque funcionar, a vítima precisava estar conectada à plataforma durante a navegação.
O ataque começava com o envio de links para conversas públicas do ChatGPT por e-mail, redes sociais ou mensagens privadas. Apesar da aparência inofensiva, os endereços acionavam um código malicioso executado sob o domínio oficial chatgpt.com. Com as mesmas permissões da página, o script conseguia consultar o histórico de conversas, ler mensagens antigas, acessar documentos anexados e modificar configurações da conta em segundo plano.
A vulnerabilidade explorava uma falha na biblioteca de código aberto MathLive, usada pelo ChatGPT para mostrar gráficos matemáticos interativos e teclados virtuais. O recurso de prévia de HTML da plataforma aceitava mensagens sem verificar a origem do conteúdo ou filtrar os blocos de código recebidos.
A OpenAI tinha regras para bloquear a execução de códigos de terceiros, mas abria exceções para serviços parceiros considerados confiáveis, como o YouTube.
