O que são os TOPS dos chips de IA?

Se você acompanhou os últimos lançamentos de hardware, certamente reparou na presença insistente de uma sigla (nova para muitos) nas fichas técnicas: TOPS. Promovida por gigantes como Intel, AMD, Qualcomm e Nvidia, essa métrica se tornou a principal bandeira do marketing para definir o quão inteligente ou preparado para a era da IA um determinado dispositivo é.

Na prática, a sigla significa Trillions of Operations Per Second (Trilhões de Operações Por Segundo) e serve como uma medida teórica do desempenho bruto de um processador em tarefas de aprendizado de máquina. No entanto, por trás desse número, existe uma série de aspectos técnicos sobre como esse cálculo é feito, o papel da precisão dos dados e a real diferença entre processadores domésticos e chips voltados para servidores.

O que essa métrica realmente mede?

Para entender o conceito, vale imaginar os TOPS como a taxa de rotações por segundo de um motor, mas voltada para o processamento de redes neurais. Um pico de 40 TOPS indica que aquele circuito integrado é capaz de realizar matematicamente até 40 trilhões de operações numéricas simples por segundo na teoria, geralmente medindo cálculos de multiplicação e acúmulo.

No entanto, essa contagem depende diretamente do nível de precisão matemática utilizado pelo chip, expresso em formatos como INT8 (números inteiros de 8 bits), INT4 ou ponto flutuante (FP16).