Tecnologia da OpenAI vai monitorar conversas com ChatGPT sem ver o que você escreve

A OpenAI apresentou nesta quarta-feira (19) o Private Safety Processing, um sistema criado para identificar uso indevido de suas ferramentas de IA sem que funcionários da empresa tenham acesso ao conteúdo das interações dos clientes. A ferramenta é voltada a clientes empresariais e de API, não a usuários individuais do ChatGPT.

A tecnologia se apoia na política de Retenção Zero de Dados (ZDR, na sigla em inglês) já oferecida pela OpenAI a clientes elegíveis da API. Sob esse modelo, agentes de IA analisam cada interação individualmente, sem que os dados fiquem armazenados nos servidores da empresa.

Como funciona o novo sistema

O Private Safety Processing amplia esse monitoramento para identificar padrões suspeitos que se espalham por múltiplas interações, algo que a análise individual da ZDR não consegue captar.

A OpenAI afirmou que o recurso foi desenvolvido para manter a oferta de Retenção Zero de Dados mesmo diante de riscos associados a modelos capazes de executar tarefas mais longas e complexas.

A empresa também vai oferecer uma opção em que os dados das interações ficam armazenados, de forma criptografada, na própria infraestrutura da OpenAI, mas com chaves de acesso controladas pelo cliente. O sistema está em fase de testes com um grupo seleto de clientes.