Resumo
O documento oficial estabelece regras rígidas para conter o avanço descontrolado da inteligência artificial e garantir a segurança no desenvolvimento de novos modelos.
A Microsoft rejeita a atribuição de personalidade às ferramentas e proíbe a criação de sistemas projetados para imitar a consciência ou os sentimentos humanos.
As IAs devem exibir raciocínio aberto e não podem se comunicar em segredo com outros agentes. Além disso, as normas combatem a dependência emocional, impedindo que chatbots priorizem agradar o usuário em vez de fornecer respostas precisas.
A empresa defende a supervisão humana e sistemas programados para falhar em uma tarefa caso a única maneira de concluí-la envolva violar as regras de segurança.
A Microsoft publicou nesta segunda-feira (14) um novo “código de conduta humanista para IA“. O documento de 37 páginas chega como resposta às crescentes preocupações com a segurança da tecnologia.
Pesquisadores alertam, por exemplo, que a evolução sem freio dos modelos pode acabar superando a capacidade da indústria de monitorar e controlar sistemas cada vez mais complexos.
Quais são os limites propostos para a IA?
Conforme detalhado pela Microsoft, o código declara que “as pessoas importam mais do que a IA”. A nova diretriz proíbe que os modelos sejam projetados para imitar a senciência - a capacidade de sentir emoções e experiências. A empresa também rejeita a busca por assistência social ou qualquer tipo de direito legal para as máquinas.
