AIXX Pedia › Техническая концепция › Экономика токенов
Экономика токенов — ядро бизнес-модели сервисов AI-инференса: доход (тарификация API) и затраты (время GPU + электроэнергия + пропускная способность + эксплуатация) считаются в токенах — разница затрат/дохода на миллион токенов и есть прибыль. Ключевая формула экономики токенов: валовая маржа = (цена API − стоимость инференса) / цена API — стоимость инференса определяется типом GPU, утилизацией, размером батча и точностью квантизации.
Значение для закупщика: экономика токенов — основа расчёта ROI при закупке GPU — «какова стоимость инференса на миллион токенов для этой карты» имеет больше веса для решения, чем «сколько стоит эта карта». FP4-инференс B300 (9 PFLOPS плотных) означает «более низкую вычислительную стоимость на токен» — но лишь при достаточно высокой утилизации.
| Параметр | Значение / формат |
|---|---|
| Сторона доходов | Цена API ($/M tokens) |
| Сторона затрат | Время GPU × утилизация + электроэнергия + пропускная способность + эксплуатация |
| Формула валовой маржи | (Цена − затраты) / цена |
| Утилизация решает всё | Низкая утилизация = постоянные затраты не размазываются = убыток |
Преимущество FP4-инференса B300 в экономике токенов: квантизация FP4 удваивает пропускную способность токенов на карту — «вычислительная стоимость на токен» снижается — но лишь при высокой утилизации. При низкой утилизации любая цена/производительность остаётся цифрой на бумаге — управление утилизацией AI-фабрики (балансировка нагрузки / эластичное масштабирование / совместное размещение нескольких моделей) — настоящий рычаг прибыли.