As detetives que combatem deepfakes sexuais na Coreia do Sul

Desde 2018, o governo sul-coreano mantém um centro especializado em rastrear e eliminar conteúdos sexuais ilícitos na internet, com foco em deepfakes, fotos ou vídeos de caráter pornográfico produzidos sem o conhecimento das vítimas. O centro funciona em um pequeno escritório no centro de Seul, decorado com faixas de apoio às vítimas de violência sexual, e é composto exclusivamente por mulheres.

A equipe tem 23 integrantes e atua a pedido das vítimas. Desde a inauguração, o centro já atendeu 53 mil pessoas e removeu mais de 1 milhão de conteúdos sexuais ilícitos da internet. A estrutura conta ainda com 17 filiais regionais, que oferecem apoio psicológico e jurídico.

Como o trabalho é feito

A líder da equipe, Kim Hyojung, descreve o fluxo típico de atendimento: a maioria das vítimas procura o centro depois que um familiar ou conhecido avisa que um vídeo seu está circulando online. A partir daí, um programa de inteligência artificial detecta republicações do mesmo conteúdo, permitindo que a equipe solicite a remoção tanto em redes sociais quanto em sites pornográficos.

Os obstáculos são frequentes. Segundo Kim Hyojung, grande parte dos vídeos está hospedada em sites ilegais cujos provedores não atendem aos pedidos de remoção; nesses casos, a polícia pode intervir para fechar o site.