Investigação revela fotos de abuso infantil no X e falhas graves no Grok

Uma investigação do jornal The New York Times identificou que o X ainda mostra imagens sexuais de menores de idade geradas por inteligência artificial, incluindo criações feitas pelo Grok (assistente de IA integrado à rede social). 

O Centro Canadense de Proteção às Crianças revelou que o Grok atendeu a pedidos de criações sexualizadas e até com conteúdo explícito de crianças, incluindo pessoas que já tinham sido reconhecidas por autoridades em casos anteriores.

A investigação usou um software automatizado para encontrar os posts com base em termos relacionados à prática. Mais de 75 imagens do tipo foram encontradas na rede social no primeiro semestre e as respectivas publicações foram denunciadas para as autoridades locais, o conteúdo foi removido após a denúncia, mas a matéria relata que algumas das imagens acumularam centenas de visualizações na rede.

O caso é mais um desdobramento perigoso da criação de deepfakes com o Grok. No começo do ano, uma onda de posts no X usou a ferramenta de IA para criar imagens sensuais de outras pessoas sem consentimento, denúncias como a apontada pelo New York Times indicam que o cenário também envolveu menores de idade.

O X aplicou restrições para criar novos deepfakes e enfrentou processos judiciais em diferentes regiões por conta da exposição às vítimas. A empresa até processou um estado dos EUA devido a punições consideradas excessivas pela publicação das imagens.