Resumo
O presidente da Microsoft, Brad Smith, afirma que as exigências de segurança para inteligências artificiais são menores do que produtos cotidianos, como máquinas de lavar e caixas de leite.
Executivos da Microsoft defendem normas mais rígidas no setor e mecanismos para interromper modelos em tarefas comprometedoras, incluindo um “freio de emergência” para IA.
A empresa sugere notificações de pessoas afetadas por incidentes e avaliações independentes de sistemas avançados antes da liberação pública.
As inteligências artificiais estão sujeitas a menos exigências de segurança do que produtos cotidianos, como máquinas de lavar e caixas de leite. É o que afirmo o presidente da Microsoft, Brad Smith, que defendeu regras mais rígidas e a criação de normas de monitoramento e responsabilização das empresas por acidentes.
Em entrevista à BBC, Smith disse que “toda caixa de leite que você vê na mercearia passa por regras de segurança e inspeção” e que, por isso, “sabemos que ele é seguro”. Para ele, é esse tipo de confiança que a indústria precisa gerar para a IA.
Entre as medidas que possibilitariam isso estão notificações de pessoas afetadas por incidentes e avaliações independentes de sistemas avançados antes da liberação pública. A defesa de regras mais rígidas também se soma à posição do CEO da Microsoft, Satya Nadella, favorável à criação de mecanismos para pausar ou desligar modelos de IA que apresentem comportamentos inesperados.
