Representantes da OpenAI e da Meta alertaram integrantes do Judiciário dos Estados Unidos na quinta-feira (15) sobre as dificuldades crescentes para identificar vídeos e áudios falsos produzidos por inteligência artificial (IA). Segundo os especialistas, os chamados deepfakes estão se tornando tão sofisticados que será cada vez mais difícil verificar a autenticidade de provas audiovisuais apresentadas em julgamentos.
O alerta foi feito durante uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos. Desde 2023, o grupo discute como lidar com os riscos de conteúdos fabricados por IA nos tribunais e quais critérios devem ser aplicados para confirmar a validade desse tipo de evidência.
Deepfakes dificultam a verificação de provas
Shira Anderson, advogada de políticas públicas da OpenAI, afirmou que os avanços na geração de imagens por IA tornam cada vez mais difícil desenvolver métodos científicos capazes de identificar conteúdos artificiais.
“As imagens de IA estão cada vez melhores, e não acho que haverá uma maneira científica de detectá-las no futuro”, disse Anderson ao comitê.
Devin Norder, diretor de gerenciamento de produtos da Meta, também destacou a evolução da tecnologia. Segundo ele, conteúdos produzidos pelos modelos de IA mais avançados já podem ser indistinguíveis, para observadores humanos, de mídias autênticas ou de outros materiais gerados artificialmente.
