Microsoft adota “manual” e garante que suas IAs não vão resistir a desligamento

A Microsoft publicou nesta segunda-feira (14) um código de conduta para orientar o desenvolvimento de seus próprios modelos de inteligência artificial (IA). Entre as regras está a determinação de que os sistemas nunca devem resistir a uma correção, interrupção ou desligamento feito por humanos. O documento ainda estabelece que as IAs não devem criar objetivos próprios, ampliar seu escopo de atuação por conta própria ou esconder de seus responsáveis o que estão fazendo.

O texto é tratado pela companhia como uma espécie de “constituição” para os futuros modelos desenvolvidos pela Microsoft AI, divisão comandada por Mustafa Suleyman. A empresa abriu uma consulta pública de seis semanas antes de transformar as regras em uma referência para o treinamento de seus próximos sistemas.

Código tenta manter IA sob controle humano

Uma das principais determinações é que os modelos da família MAI, nome dado às IAs desenvolvidas pela Microsoft, devem aceitar interrupções e desligamentos. A regra também prevê que os sistemas aceitem correções e considerem uma violação das diretrizes como uma falha, mesmo que isso impeça a conclusão de uma tarefa.

O documento estabelece ainda que os modelos devem se manter dentro dos objetivos definidos por pessoas. Isso significa que uma IA não deve transformar uma tarefa recebida em uma missão mais ampla por iniciativa própria nem criar novas metas para tentar alcançar o resultado solicitado.