Quem assume a culpa quando a inteligência artificial foge do controle? Uma audiência no Conselho Municipal de Nova York na segunda-feira reuniu pesquisadores de IA e executivos das principais desenvolvedoras do setor para discutir quem se responsabiliza pela tecnologia.
Um dos principais nomes presentes na Câmara nova-iorquina foi Jacob Coxon, ex-pesquisador da Anthropic e da OpenAI. Ele ganhou notoriedade no início de setembro, quando publicou no X (antigo Twitter) um alerta: que as desenvolvedoras estariam apostando com a vida humana ao “correr a passos largos” para desenvolver uma “superinteligência autoaperfeiçoável”.
Na audiência, ele reforçou que, no ritmo atual, a tecnologia poderia acabar com a humanidade “antes do fim da década” e que isso levaria à extinção humana.
Representantes da OpenAI, Anthropic, Google e Meta também estiveram presentes, após ameaça de intimação por parte do Conselho. A SpaceX também foi intimada a comparecer, mas não respondeu.
Ex-pesquisador de IA pediu mais segurança no setor de IA
Coxon defendeu que as empresas de IA não sabem como impedir os próprios sistemas de desenvolver objetivos próprios. Para ele, as companhias estão agindo de forma imprudente e, por mais que a tecnologia tenha “benefícios enormes”, a probabilidade é que “a humanidade perca o controle dessas IAs e que isso possa levar à extinção humana”.
