As preocupações que levaram a OpenAI, do ChatGPT, a abandonar lançamento de novo sistema de IA
Andrej Ivanov/AFP via Getty Images
As principais empresas de inteligência artificial não sabem como impedir que seus sistemas desenvolvam objetivos próprios.
O alerta foi feito nesta segunda-feira (5) por Jacob Coxon, ex-funcionário da OpenAI e da Anthropic que critica a forma como a indústria lida com a segurança da tecnologia.
No início de setembro, o pesquisador britânico explicou, em uma publicação no X, por que decidiu deixar a Anthropic.
Segundo ele, desenvolvedores de inteligência artificial (IA) acreditavam que a tecnologia poderia acabar com a humanidade "antes do fim da década".
A declaração repercutiu mundialmente. Desde então, vários funcionários e ex-funcionários das principais empresas de IA também expressaram preocupações semelhantes.
"As empresas estão sendo extremamente imprudentes dadas as circunstâncias", disse Coxon nesta segunda-feira (05) durante uma audiência com vereadores da Câmara Municipal de Nova York
Agora no g1
Embora a IA possa trazer "benefícios enormes" para a sociedade, "na trajetória atual, acredito que seja mais provável que a humanidade perca o controle dessas IAs e que isso possa levar à extinção humana", reiterou.
"Não sabemos como impedir que desenvolvam objetivos próprios", fora do controle de seus criadores, "e não contamos com as salvaguardas necessárias para evitar que ajam em função desses objetivos", advertiu o pesquisador.
Empresas de IA são incapazes de controlar seus modelos, alerta ex-pesquisador da OpenAI
