A OpenAI anunciou nesta quinta-feira (13) uma nova modalidade de processamento para o GPT-5.6 Sol que pode elevar a velocidade de resposta em até 14 vezes em relação ao padrão. Batizado de Ultrafast, o serviço foi desenvolvido para situações nas quais decisões e respostas precisam ocorrer em tempo real.
A novidade é disponibilizada inicialmente na API e utiliza infraestrutura da Cerebras, capaz de alcançar até 750 tokens de saída por segundo. O acesso, por enquanto, está restrito a um grupo selecionado de clientes, enquanto a empresa avalia os usos em ambientes reais e amplia gradualmente a capacidade.
A proposta da OpenAI é reduzir a necessidade de escolher entre modelos mais inteligentes e respostas mais rápidas. Com o Ultrafast, a empresa pretende levar o GPT-5.6 Sol a atividades como atendimento, análise financeira, resposta a incidentes, comércio e pesquisa interativa.
Velocidade como parte do trabalho
A OpenAI descreve o Ultrafast como uma nova categoria de serviço voltada a aplicações nas quais o intervalo entre uma pergunta e uma resposta pode alterar a utilidade da própria inteligência artificial. A companhia afirma que os avanços de eficiência do GPT-5.6 permitiram explorar uma combinação mais estreita entre capacidade de raciocínio e velocidade.
Entre os cenários apresentados está a resposta a falhas em sistemas.
