Bill Gates alerta que IA pode causar 'um bilhão de mortes'
O presidente da Microsoft, Brad Smith, afirmou que a IA precisa de regras globais urgentes de segurança e de avaliadores independentes capazes de analisar novos avanços. Segundo ele, a tecnologia está sujeita a menos exigências de segurança do que o leite vendido em supermercados.
Em entrevista à BBC publicada nesta segunda-feira (12), Smith defendeu que essas regras obriguem as empresas a avisar as vítimas caso seus sistemas sejam invadidos por um agente de IA que aja fora de controle. Ele também afirmou que deve existir um “freio de emergência” e uma obrigação legal de produzir relatórios sobre incidentes.
“Sabemos como fazer isso para outros produtos”, disse Smith. “Devemos aproveitar esse conhecimento e pensar em como aplicá-lo à IA.”
“Hoje, sua máquina de lavar está sujeita a mais regras de segurança do que a IA. Toda caixa de leite que você vê no supermercado está sujeita a regras de segurança e fiscalização", afirmou.
Intolerância à lactose e alergia ao leite, restrições que ainda causam confusão.
Shutterstock
Empresas de tecnologia como Anthropic e OpenAI começaram a divulgar comportamentos de agentes de IA que fogem do esperado ou são indesejados.
Essas revelações fazem parte de um debate global sobre o rápido avanço da tecnologia, que inclui alertas de pesquisadores sobre uma possível ameaça à existência da humanidade no futuro.
Algumas empresas têm defendido uma desaceleração no desenvolvimento da IA.
Leite enfrenta mais exigências de segurança do que IA, diz presidente da Microsoft
