A OpenAI divulgou os primeiros testes do "Jalapeño", seu primeiro chip próprio voltado para inferência de inteligência artificial. Os números foram divulgados pela empresa durante o evento Hot Chips, nesta terça-feira (25).
Os testes cobriram três diferentes modelos: o GPT-OSS 120B, DeepSeek R1 670B e o Kimi K2.5, da Moonshot AI. O modelo da OpenAI estava rodando em um chip Nvidia GB200, enquanto os demais eram mantidos pelo Nvidia GB300, ambas plataformas avançadas de IA construídas sobre a arquitetura Blackwell.
Segundo a empresa, o Jalapeño entrega performance suficiente para superar o Nvidia GB300 em diferentes aspectos. O chip entregou entre 1,7x a 3,6x menos latência e 1,5x a 1,9x mais eficiência energética (mais trabalho de IA por watt).
Os números foram majoritariamente favoráveis para a OpenAI, mas o cenário é mais complexo. Os números referentes à eficiência foram normalizados usando o TDP (Thermal Design Power, a potência máxima de dissipação térmica do chip), e a margem não seria tão grande se utilizasse a potência completa; além disso, se a comparação fosse sobre a geração de múltiplos tokens simultaneamente em vez de token único, provavelmente a diferença também seria menor.
Outro fato é a limitação da comparação. A OpenAI comparou o Jalapeño com a arquitetura Blackwell que, embora a mais poderosa até o momento, está prestes a ser sucedida pela Vera Rubin.
