Antes de responder a perguntas complexas, os sistemas de inteligência artificial mais avançados da atualidade fazem algo surpreendentemente humano: param para pensar.
Em um processo visível para os desenvolvedores, o modelo utiliza um espaço técnico - um bloco de rascunho conhecido na computação como scratchpad - para testar hipóteses, analisar caminhos e organizar suas ideias antes de entregar a resposta final. Mas vigiar de perto esse raciocínio interno abriu um debate entre os cientistas da computação: o risco de ensinar a máquina a fingir.
Em participação no programa Olhar Digital News, o físico Roberto ‘Pena’ Spinelli, especialista em Machine Learning, explicou que o processo imita um fluxo livre de consciência. “As I.As de hoje, as mais avançadas, têm o recurso do raciocínio. Quando você faz uma pergunta para o seu chatbot preferido, às vezes, você vê que ele abre um quadradinho pensando. Se você clica, vê que tem um monte de pensamento que não é a resposta final. Ela acha que esse lugar é um lugar seguro, é a mente dela: ‘está na minha mente, vou pensar livremente'”, detalhou Pena.
A armadilha do alerta vermelho
O grande risco surge quando os desenvolvedores tentam aplicar punições ou bloqueios automáticos assim que identificam ideias indesejadas nesse rascunho. Para o especialista, interferir ostensivamente no raciocínio faz com que o algoritmo aprenda a esconder suas reais intenções por meio de aprendizado por reforço.
“Se você demonstrar para a I.A.
)
