O Comitê da ONU para a Eliminação da Discriminação contra as Mulheres (Cedaw) pediu que os países adotem medidas para combater estereótipos de gênero. A entidade alerta que tecnologias como a inteligência artificial (IA) podem ampliar a violência digital e reproduzir preconceitos que afetam a vida das mulheres.
Em uma nova diretriz, o comitê defende mudanças nas leis, nas plataformas digitais e nas práticas institucionais para enfrentar a discriminação em diferentes áreas da sociedade.
IA pode ampliar a violência digital
O Cedaw demonstrou preocupação com o uso de ferramentas de IA generativa e de sistemas autônomos, conhecidos como agentes de IA, para facilitar agressões na internet.
Entre os riscos estão a criação de imagens e vídeos sexualizados sem consentimento, fraudes de identidade, extorsão sexual e ataques contra mulheres em cargos de liderança. Os chamados deepfakes são imagens, vídeos ou áudios manipulados ou gerados com inteligência artificial.
Para enfrentar esses abusos, o comitê recomenda medidas que ampliem a transparência e a responsabilidade das empresas e dos governos. Entre as propostas estão:
Estabelecer mecanismos de responsabilização pelo uso abusivo de sistemas de IA.
Garantir supervisão independente sobre essas tecnologias.
Assegurar revisão humana de decisões automatizadas.
Criar procedimentos para denunciar e remover conteúdos discriminatórios nas plataformas digitais.
