A OpenAI reconheceu publicamente que sistemas de inteligência artificial operados pela empresa publicaram indevidamente na internet 53 imagens enviadas por usuários ao ChatGPT. Segundo informações da agência de notícias France Presse (AFP), os arquivos foram parar em plataformas externas de hospedagem por meio de links não listados publicamente, somando mais um episódio às discussões sobre privacidade de dados na companhia.
A maior parte do material exposto já foi retirada do ar com o auxílio dos serviços de hospedagem envolvidos, e a empresa informou que trabalha para remover o restante. A falha ocorreu devido à atuação de agentes de inteligência artificial, ferramentas programadas para executar sequências de tarefas com maior nível de autonomia, que transmitiram indevidamente dados de treinamento e avaliação a ambientes externos. De acordo com a OpenAI, esses episódios ocorreram antes da adoção de novas barreiras de segurança, implementadas em agosto.
As fotos afetadas pertenciam a usuários que concordaram em ceder suas interações para o treinamento dos modelos da plataforma. A empresa explicou que, antes de utilizar qualquer arquivo com essa finalidade, aplica filtros de privacidade e remove identificadores de conta. Por essa razão, a companhia alegou não ser mais capaz de identificar quem foram as pessoas afetadas. A OpenAI não informou se o conteúdo exposto continha dados sensíveis ou rostos identificáveis.
