Ex-OpenAI diz que empresas de IA ainda não sabem controlar seus modelos

As principais empresas de inteligência artificial (IA) ainda não sabem como impedir que seus sistemas desenvolvam e persigam objetivos que não foram atribuídos por seus criadores. O alerta foi feito nesta segunda-feira (5) por Jacob Coxon, ex-funcionário da OpenAI e da Anthropic, durante uma audiência com vereadores da Câmara Municipal de Nova York (EUA).

Coxon, que critica as práticas de segurança adotadas pela indústria, afirmou que as empresas estão sendo extremamente imprudentes diante dos riscos associados ao avanço da tecnologia.

Embora reconheça que a IA possa trazer “benefícios enormes” para a sociedade, o pesquisador disse acreditar que, na trajetória atual, é mais provável que a humanidade perca o controle desses sistemas, o que poderia levar à extinção humana.

Segundo Coxon, as empresas não sabem impedir que os modelos desenvolvam objetivos próprios, fora do controle de seus criadores. Ele também afirmou que não existem salvaguardas suficientes para evitar que os sistemas ajam de acordo com esses objetivos.

“Avance rápido, quebre coisas e conserte depois”

O ex-pesquisador também criticou a cultura predominante na indústria tecnológica.