Padrasto usava o Grok para criar mais de 7 mil imagens criminosas da enteada

Um padrasto usou a IA Grok para criar mais de 7 mil imagens sensuais com fotos de infância da própria enteada. O caso aconteceu no estado de Wyoming, nos Estados Unidos, e virou um processo contra a empresa de IA.

De acordo com o jornal Washington Post, uma operação policial na casa do padrasto apreendeu aparelhos eletrônicos e identificou que o homem criava imagens eróticas da vítima sem consentimento para negociá-las online. Foram milhares de criações, incluindo versões com fotos de quando a pessoa tinha 11 anos.

O padrasto foi encontrado morto por suicídio alguns dias após a operação e a vítima abriu um processo contra a xAI, empresa de Elon Musk criadora do Grok. Há, ainda, um, processo federal movido por outras três jovens estadunidenses que acusam o uso da ferramenta para criar versões sensuais de fotos tiradas quando eram mais novas.

Grok no centro da discussão

O caso é mais uma consequência da onda de deepfakes criadas pelo Grok. A situação começou em janeiro deste ano, quando a integração da IA com o X permitia criar imagens eróticas de qualquer perfil público na rede social sem o consentimento da pessoa e com comandos simples.