O CEO e presidente do conselho da Microsoft, Satya Nadella, publicou no sábado (10) um artigo defendendo a criação de um “freio de emergência” para a inteligência artificial e que as empresas precisam de mecanismos de segurança mais robustos para a tecnologia. O texto foi publicado na conta do X (antigo Twitter) do executivo.
As declaração vêm após líderes de desenvolvedoras como OpenAI e Anthropic terem se manifestado em prol de uma desaceleração no desenvolvimento da IA.
Segundo Nadella, que comanda a Microsoft desde 2014, à medida que sistemas avançados são implementados em larga escala, as ações da tecnologia não correspondem ao que elas foram treinadas para fazer.
Ele ainda escreveu que, mesmo nesse cenário, as pessoas seguem adotando modelos complexos e autônomos, inclusive dando acesso a dados confidenciais e permitindo que esses modelos realizem ações em nosso nome.
Nadella defendeu que “é hora de dar uma passo atrás” e reavaliar como a tecnologia opera.
“Simplesmente não podemos terceirizar a responsabilidade pelo que a inteligência faz em nosso nome. As garantias de um fornecedor de modelos não nos isentam dessa responsabilidade”.
Entre as propostas para assegurar a segurança, o executivo propôs um “freio de emergência”. Nesse caso, uma pessoa pode ser capaz de intervir e pausar ou desligar o que o modelo está fazendo.
