CEO da Microsoft diz que IA precisa de freio controlado por humanos

Satya Nadella, presidente do conselho e CEO da Microsoft, defendeu em uma publicação no X neste sábado (10) que sistemas avançados de inteligência artificial (IA) tenham mecanismos de contenção e um botão de emergência controlado por humanos. A proposta prevê que pessoas autorizadas possam interromper ou desligar um modelo durante a execução de uma tarefa, como parte de uma estrutura de segurança para tecnologias capazes de acessar dados sensíveis e realizar operações importantes.

O executivo argumenta que empresas não devem depender apenas das garantias oferecidas pelos desenvolvedores de IA. Em vez disso, precisam estabelecer limites de acesso, monitorar as ações dos modelos e manter controles externos que permitam intervir quando necessário. As recomendações foram apresentadas em meio a alertas de executivos e pesquisadores sobre os riscos associados ao avanço da tecnologia e à insuficiência de mecanismos de segurança.

https://t.co/MjwFy73LOF, Satya Nadella (@satyanadella) October 10, 2026

Microsoft propõe novos controles para sistemas de IA

Na publicação, Satya Nadella afirma que os modelos atuais não permitem compreender completamente como determinadas respostas e comportamentos são produzidos. Segundo ele, diferentemente dos softwares tradicionais, nem sempre é possível relacionar as ações de um modelo a entradas específicas dos dados de treinamento ou a configurações dos parâmetros internos.