Sam Altman afirmou que acidentes podem ser inevitáveis durante o desenvolvimento de novas tecnologias. Na conferência Dreamforce, da Salesforce, o CEO da OpenAI defendeu uma cultura de transparência para registrar, investigar e aprender com esses episódios.
Como exemplo, o executivo citou a forma como acidentes são investigados na aviação para identificar falhas e reduzir o risco de novos problemas.
O que a IA pode aprender com a aviação
Altman citou a Administração Federal de Aviação dos Estados Unidos (FAA) e o Conselho Nacional de Segurança nos Transportes (NTSB) como exemplos para a indústria de inteligência artificial.
Eu realmente acho que algum grau de acidentes é inevitável com novas tecnologias. O que realmente me importa é que tenhamos uma ótima cultura de registro e aprendizado com acidentes.
Sam Altman, CEO da OpenAI, durante evento.
Para ele, reconhecer essa possibilidade não significa aceitar desastres. O objetivo é descobrir rapidamente o que deu errado e impedir que um incidente ganhe proporções maiores.
Entre as práticas defendidas estão:
registrar acidentes e incidentes;
investigar as causas;
aprender com cada ocorrência;
evitar que falhas se agravem.
O receio de perder o controle
A declaração ocorre enquanto aumentam as discussões sobre sistemas de IA cada vez mais autônomos.
