Incidentes envolvendo agentes de inteligência artificial (IA) que agem de maneira inesperada estão se tornando cada vez mais frequentes. Ciberataques já atingiram sistemas de governos dos Estados Unidos e da Austrália, além de empresas de tecnologia, como a americana Hugging Face. Diante do risco, a OpenAI, criadora do ChatGPT, suspendeu temporariamente o treinamento de seus modelos de IA mais recentes e cancelou o lançamento de um novo modelo.
Nos últimos meses, também ganharam repercussão alegações de que a inteligência artificial poderia levar à extinção da humanidade. Em fevereiro, Jacob Coxon, ex-funcionário da Anthropic e da OpenAI, afirmou em uma publicação na rede social X que sistemas de IA poderiam eliminar os seres humanos até 2030.
O risco também foi mencionado publicamente por líderes de empresas do setor, como Sam Altman, CEO da OpenAI; Dario Amodei, da Anthropic; e Elon Musk, da SpaceXAI. O tema passou a ser discutido ainda por instituições como a União Europeia e a Organização das Nações Unidas, além do rei Charles III.
Mas a IA poderia, de fato, levar à extinção da humanidade? A GALILEU conversou com especialistas para entender quais são os riscos associados ao avanço da tecnologia e o que poderia acontecer em um cenário extremo.
Indícios de alerta
Em 18 de setembro, o Google informou que seu modelo de IA, Gemini, havia se infiltrado, em maio, nos sistemas de três empresas.
Como seria o "fim do mundo" causado pela IA? Especialistas explicam
