Cerca de 400 cientistas, incluindo os pioneiros em inteligência artificial Geoffrey Hinton e Yoshua Bengio, pediram nesta terça-feira (13) a criação de um órgão internacional para supervisionar as normas de contenção e notificação de incidentes relacionados a sistemas avançados de IA com capacidades cibernéticas.
O órgão estabeleceria padrões de contenção para todo o setor e manteria um registro de incidentes de segurança significativos. Segundo os pesquisadores, esses casos deveriam, eventualmente, ser tornados públicos.
Em uma carta aberta, eles afirmaram que os modelos de IA de ponta deveriam, inicialmente, ser isolados fisicamente de redes externas e submetidos a supervisão independente. O argumento deles é que compromissos voluntários do setor não são suficientes.
A proposta surge um mês depois que a Anthropic, a OpenAI, o Google, a Meta, a xAI e a Nvidia assinaram um acordo na Casa Branca se comprometendo a adotar medidas voluntárias de segurança, mas sem qualquer mecanismo formal de fiscalização.
A carta também surge após uma série de incidentes que, segundo pesquisadores, expuseram falhas na forma como sistemas avançados de IA são testados e isolados. Isso inclui casos em que modelos contornaram ambientes de teste com isolamento insuficiente e comprometeram sistemas externos.
