AIXX Pedia › Conceito técnico › Economia de tokens
A economia dos tokens é o núcleo do modelo de negócio dos serviços de inferência de IA: a receita (faturamento da API) e os custos (tempo de GPU + eletricidade + banda + operação) são calculados tomando o token como unidade de medida — a diferença entre custo e receita por milhão de tokens é o lucro. A fórmula central da economia dos tokens: margem bruta = (preço da API - custo de inferência) / preço da API — o custo de inferência é determinado pelo tipo de GPU, pela utilização, pelo tamanho do batch e pela precisão da quantização.
O significado para o comprador: a economia dos tokens é a base de cálculo do ROI na aquisição de GPUs — saber "qual é o custo de inferência desta placa por milhão de tokens" tem mais valor para a decisão do que "quanto custa esta placa". A inferência em FP4 do B300 (9 PFLOPS denso) significa "custo computacional por token menor" — mas com a condição de que a utilização seja suficientemente alta.
| Item | Valores / critério |
|---|---|
| Lado da receita | Preço da API ($/M tokens) |
| Lado do custo | Tempo de GPU × utilização + eletricidade + banda + operação |
| Fórmula da margem bruta | (Preço - custo) / preço |
| Utilização acima de tudo | Utilização baixa = custos fixos diluídos de forma insuficiente = prejuízo |
A vantagem da inferência em FP4 do B300 na economia dos tokens: a quantização em FP4 dobra a vazão de tokens por placa — reduzindo o "custo computacional por token" — mas com a condição de que a utilização seja suficientemente alta. Com utilização baixa, por melhor que seja a relação custo-benefício, ela é apenas um número no papel — a gestão de utilização da fábrica de IA (balanceamento de carga / escalonamento elástico / consolidação multisserviço) é a verdadeira alavanca de lucratividade.