Satya Nadella, CEO da Microsoft, defendeu no sábado (10) a criação de mecanismos para conter modelos avançados de inteligência artificial. Em uma publicação no X, ele afirmou que empresas devem tratar esses sistemas como potencialmente comprometidos desde o início.
A proposta inclui permitir que uma pessoa autorizada pause ou desligue um modelo enquanto ele executa uma tarefa. Nadella chamou o recurso de “freio de emergência” e argumentou que controles desse tipo podem reduzir os riscos de sistemas autônomos agirem sem supervisão adequada.
Além de pedir por um freio de emergência na IA, o executivo da Microsoft também criticou o tratamento da IA como uma “caixa-preta”: um sistema cujas recomendações e ações são aceitas ou rejeitadas sem transparência sobre seu funcionamento.
:quality(85)/f3d9592d-b02e-4539-9ea2-544c45505790.png)