O CEO da Microsoft, Satya Nadella, defendeu que empresas adotem mecanismos para interromper sistemas avançados de inteligência artificial caso apresentem comportamentos inesperados. Segundo o executivo, as organizações devem considerar a possibilidade de comprometimento dos modelos e garantir que uma pessoa autorizada possa suspender suas operações a qualquer momento.
Em publicação na rede social X neste sábado (10.out.2026), Nadella comparou o mecanismo a um “freio de emergência”. Para ele, não basta confiar nas garantias de segurança oferecidas pelos desenvolvedores dos modelos.
A manifestação ocorre em meio a episódios recentes envolvendo ferramentas de inteligência artificial da Anthropic e da OpenAI. Entre os casos está uma denúncia falsa relacionada a uma investigação de homicídio nos Estados Unidos e ataques cibernéticos contra sites de terceiros.
Os episódios ampliaram as discussões sobre os riscos associados a sistemas capazes de executar tarefas com maior autonomia e sobre a necessidade de mecanismos de controle humano.
MEDIDAS DE SEGURANÇA PARA IA
Em 14 de setembro, pesquisadores da Microsoft divulgaram princípios para orientar o desenvolvimento de seus modelos mais avançados. As diretrizes estabelecem limites para o comportamento dos sistemas, incluindo a proibição de projetá-los para escapar do controle humano ou enganar usuários.
O documento também afirma que modelos de inteligência artificial não devem receber direitos ou personalidade jurídica.
