Domingo, 22 de novembro de 2026 Atualizado em tempo real
Publicidade
GRPi / Gestão de Recursos Pessoais e Individual
← Tecnologia
Tecnologia 22/11/2026 às 18:52

Pesquisadores buscam fórmulas para evitar o apocalipse IA

Pesquisadores buscam fórmulas para evitar o apocalipse IA

Pesquisadores do Alignment Research Center (ARC), em Berkeley, na Califórnia, tentam desenvolver ferramentas matemáticas para manter sistemas avançados de inteligência artificial (IA) sob controle humano.

O matemático Mike Winer e seus colegas temem que o avanço da tecnologia esteja reduzindo o tempo disponível para garantir que as máquinas sigam os interesses da humanidade.

Matemática contra cenários de risco

Fundado em 2021, após Paul Christiano deixar a OpenAI, o ARC adota uma abordagem teórica para investigar o funcionamento de sistemas complexos. A organização busca desenvolver métodos matemáticos capazes de identificar explicações para comportamentos inesperados da IA, examinando os parâmetros que moldam suas respostas.

Winer deixou uma carreira promissora na física para trabalhar na organização sem fins lucrativos em 2024. Aos 30 anos, dedica-se a uma questão que considera decisiva: descobrir como garantir que sistemas cada vez mais poderosos continuem agindo de acordo com os objetivos humanos.

Para começar, ele testa suas hipóteses em estruturas matemáticas simplificadas, menores que os modelos reais de IA. Também utiliza ferramentas como o ChatGPT e agentes automatizados para investigar conjecturas e tentar encontrar demonstrações que ainda não conseguiu desenvolver sozinho.

A preocupação com os riscos, porém, não é compartilhada na mesma intensidade por todos os especialistas.

Compartilhar
Publicidade
GRPi / Gestão de Recursos Pessoais e Individual

Mais em Tecnologia

Arkheron, Appulse e mais! Veja os lançamentos de games da semana
há 19 min

Arkheron, Appulse e mais! Veja os lançamentos de games da semana

3 apps pagos estão grátis na Play Store, incluindo gestor financeiro; confira
há 49 min

3 apps pagos estão grátis na Play Store, incluindo gestor financeiro; confira

6 atrizes que poderiam ser a próxima Bond Girl no novo 007 com Robert Pattinson
há 1 h

6 atrizes que poderiam ser a próxima Bond Girl no novo 007 com Robert Pattinson

Setor de energia sai na frente dos remédios na computação quântica
há 2 h

Setor de energia sai na frente dos remédios na computação quântica

Publicidade
GRPi / Gestão de Recursos Pessoais e Individual