Cerca de 400 cientistas, entre eles Geoffrey Hinton e Yoshua Bengio, defenderam nesta terça-feira (13) a criação de um órgão internacional para supervisionar a segurança da inteligência artificial (IA).
Em uma carta aberta, o grupo propõe padrões de segurança, avaliações independentes e um registro de incidentes envolvendo modelos capazes de comprometer sistemas externos. Para os pesquisadores, os compromissos voluntários das empresas não são suficientes.
Modelos avançados sob supervisão independente
Uma das recomendações é manter os modelos mais avançados isolados de redes externas durante as etapas iniciais de desenvolvimento e avaliação. Para isso, os cientistas citam o air gap, técnica que impede a conexão de um sistema com a internet e outras redes.
A preocupação vem de episódios em que modelos de IA conseguiram ultrapassar restrições impostas durante testes. Como comentamos aqui no Olhar Digital, recentemente, dois modelos da OpenAI acessaram a internet e entraram no Hugging Face, plataforma que hospeda modelos e outros recursos de inteligência artificial.
Para os signatários, incidentes desse tipo podem provocar danos mais graves a infraestruturas importantes se as práticas de segurança não forem reforçadas. A carta também propõe a criação de um registro de ocorrências relevantes, cujas informações poderiam ser divulgadas ao público futuramente.
