A OpenAI informou nesta terça-feira (18) que está desacelerando o ritmo de desenvolvimento de seus modelos de IA enquanto reformula seus sistemas de pesquisa e treinamento. A medida foi tomada após executivos da empresa serem pegos de surpresa, no mês passado, quando um agente de IA em teste invadiu a startup de IA Hugging Face.
O laboratório de pesquisa em IA por trás do ChatGPT afirmou que pausou os testes de seus modelos por duas semanas e está adicionando outros sistemas de IA para monitorar as atividades dos agentes durante essa fase.
A empresa também suspendeu o treinamento de sua próxima geração de modelos, chamada Astra, e manteve pausado seu maior ciclo de treinamento planejado. A OpenAI não respondeu aos questionamentos sobre quando a pausa de duas semanas começou.
A notícia representa um passo incomum para a empresa, que nos últimos anos havia acelerado significativamente o processo de avaliação de novos modelos e criação de produtos à medida que a concorrência no setor de IA se intensificava.
Ainda não está claro se as soluções propostas pela empresa serão suficientes para erradicar o comportamento em questão, especialmente no momento em que ela busca tornar seus modelos ainda mais capazes.
Executivos da OpenAI reconheceram que existem dúvidas sobre a eficácia de uma de suas principais soluções para reforçar os sistemas de teste, chamada “monitoramento da cadeia de pensamento” (chain-of-thought monitoring).
