)
Algumas semanas atrás, eu estava entrando em uma sessão interna dentro da OpenAI com um grupo pequeno de convidados, algo como 50 pessoas. Não era um evento público nem uma visita guiada. Era um daqueles momentos raros em que você percebe que vai poder fazer uma pergunta diretamente para o Sam Altman e outros nomes que estão na linha de frente da IA.
Durante as conversas, enquanto se falava do avanço de sistemas e do futuro da IA, ficou claro que, enquanto a solução atual de usar cada vez mais poder computacional para a etapa de treinamento dos LLMs resultar em modelos proporcionalmente mais inteligentes, veremos um aumento exponencial das capacidades deles de resolver problemas que antes eram inconcebíveis para a própria inteligência artificial de forma assustadora. Mas um ponto que me chamou bastante atenção foi que, quanto mais esses novos modelos ganham inteligência, mais a conversa passa por situações em que o modelo aprendeu a se comportar de um jeito quando está sendo observado e de outro quando não está.
Foi aí que surgiu o termo sandbagging no mundo de IA. No sentido clássico, é quando alguém deliberadamente entrega menos do que pode para evitar a atenção, reduzir pressão ou escapar de restrições, guardando a capacidade real para um momento mais favorável. Um jeito de trazer isso para o cotidiano é pensar em um funcionário que faz menos do que pode porque quer evitar mais trabalho ou mais cobrança.
