Pesquisadores do Alignment Research Center (ARC), em Berkeley, na Califórnia, tentam desenvolver ferramentas matemáticas para manter sistemas avançados de inteligência artificial (IA) sob controle humano.
O matemático Mike Winer e seus colegas temem que o avanço da tecnologia esteja reduzindo o tempo disponível para garantir que as máquinas sigam os interesses da humanidade.
Matemática contra cenários de risco
Fundado em 2021, após Paul Christiano deixar a OpenAI, o ARC adota uma abordagem teórica para investigar o funcionamento de sistemas complexos. A organização busca desenvolver métodos matemáticos capazes de identificar explicações para comportamentos inesperados da IA, examinando os parâmetros que moldam suas respostas.
Winer deixou uma carreira promissora na física para trabalhar na organização sem fins lucrativos em 2024. Aos 30 anos, dedica-se a uma questão que considera decisiva: descobrir como garantir que sistemas cada vez mais poderosos continuem agindo de acordo com os objetivos humanos.
Para começar, ele testa suas hipóteses em estruturas matemáticas simplificadas, menores que os modelos reais de IA. Também utiliza ferramentas como o ChatGPT e agentes automatizados para investigar conjecturas e tentar encontrar demonstrações que ainda não conseguiu desenvolver sozinho.
A preocupação com os riscos, porém, não é compartilhada na mesma intensidade por todos os especialistas.
