Resumo
O desenvolvedor Jacob Coxon pediu demissão da Anthropic e alertou sobre os perigos da IA, afirmando que as big techs estão sendo irresponsáveis no desenvolvimento da tecnologia.
Coxon afirma que as IAs podem se tornar uma superinteligência capaz de se autoaperfeiçoar e adquirir poder próprio, representando um risco à vida humana;
Outros especialistas, como Evan Hubinger e Anna Wang, corroboraram as críticas de Coxon e destacaram a necessidade de acordos e regulamentações para evitar os riscos da IA.
Um ex-funcionário da Anthropic pediu demissão nesta terça-feira (08/09) e aproveitou para denunciar irresponsabilidades dela (e de outras big techs) no desenvolvimento de inteligência artificial. Jacob Coxon publicou uma carta aberta falando da sua experiência nos últimos três anos, tanto na dona do Claude quanto na OpenAI, responsável pelo ChatGPT.
Ele afirmou que as pessoas por trás do desenvolvimento de IA “sinceramente acreditam que a tecnologia pode matar todos nós até o final da década”. O risco estaria relacionado à produção de uma superinteligência capaz de se autoaperfeiçoar, ou seja, identificar falhas e melhorar por conta própria.
Jacob disse que as IAs em breve poderão acessar qualquer dado, dominar qualquer tema e adquirir poder próprio. O assunto pegou fogo, e outros especialistas confirmaram os riscos citados, mas apontaram os esforços para evitá-los.
