Governos não deveriam esperar que todos os riscos da inteligência artificial sejam completamente compreendidos para começar a criar salvaguardas, defende a ONU. O alerta está no primeiro relatório temático do painel científico internacional criado pela organização para avaliar os riscos e as oportunidades da tecnologia.
O documento chama a atenção para ameaças que podem ser catastróficas ou irreversíveis. A discussão ocorre durante a Assembleia Geral da ONU, enquanto Estados Unidos e China se preparam para conversar sobre inteligência artificial.
O princípio da precaução
Para o painel, não é preciso descobrir exatamente como ou por que determinados incidentes envolvendo sistemas avançados de IA acontecem antes de reforçar a segurança.
A recomendação recorre ao princípio da precaução. A ideia é que a incerteza científica, por si só, não deve impedir medidas contra possíveis danos graves ou irreversíveis. O conceito foi incorporado à Declaração do Rio sobre Meio Ambiente e Desenvolvimento, de 1992, e passou a influenciar políticas ambientais e de saúde pública.
O relatório considera esse princípio particularmente importante diante da possibilidade de perda de controle sobre sistemas de IA. Entre os pontos destacados estão:
mais atenção aos riscos de sistemas avançados;
mais recursos para segurança da IA;
maior coordenação entre países;
mecanismos mais fortes de responsabilização;
salvaguardas mesmo quando ainda existem incertezas científicas.
