IAs podem acabar com o mundo? A mensagem que você ainda não entendeu

Por John Park, especialista em inteligência artificial e Founding Member of Technical Staff da AGI Inc.As recentes advertências de pesquisadores que deixaram empresas como Anthropic e OpenAI reacenderam uma questão que há algum tempo acompanha o desenvolvimento da inteligência artificial: quão perigosa a IA avançada pode se tornar?

Esses alertas devem ser levados a sério. A própria Anthropic, por exemplo, desenvolveu políticas específicas para lidar com riscos catastróficos associados a modelos cada vez mais avançados. A discussão sobre segurança não é hipotética nem deve ser tratada como uma simples disputa de narrativas entre empresas de tecnologia.

Mas existe outra pergunta que também merece atenção: quando uma empresa afirma que sua tecnologia é extraordinariamente poderosa, transformadora e potencialmente perigosa, o que essa mensagem comunica a investidores e formuladores de políticas públicas?

Anthropic e OpenAI deram passos formais em direção a possíveis ofertas públicas de ações. A Anthropic, por exemplo, pode começar a apresentar sua proposta a investidores já em outubro, enquanto investidores discutem uma possível avaliação de até US$ 2 trilhões.

Minha preocupação aqui não é questionar se Anthropic ou OpenAI merecem suas respectivas avaliações. É reconhecer que existe uma conexão natural entre a maneira como as empresas de IA de fronteira descrevem suas tecnologias e o valor econômico que o mercado pode atribuir a elas.