AIXX Pedia › Technisches Konzept › Token-Ökonomie
Die Token-Ökonomie ist der Kern des Geschäftsmodells von KI-Inferenzdiensten: Umsatz (API-Abrechnung) und Kosten (GPU-Zeit + Strom + Bandbreite + Betrieb) werden in Token als Maßeinheit berechnet – die Differenz aus Kosten und Erlös pro einer Million Token ergibt den Gewinn. Die zentrale Formel der Token-Ökonomie: Bruttomarge = (API-Preis – Inferenzkosten) / API-Preis – die Inferenzkosten werden bestimmt durch GPU-Typ, Auslastung, Batch-Größe und Quantisierungsgenauigkeit.
Bedeutung für Einkäufer: Die Token-Ökonomie ist die Rechengrundlage für das ROI einer GPU-Beschaffung – die Frage „Wie hoch sind die Inferenzkosten dieser Karte pro einer Million Token?“ hat mehr Entscheidungswert als „Was kostet diese Karte?“. Die FP4-Inferenz der B300 (9 PFLOPS dense) bedeutet „niedrigere Rechenkosten pro Token“ – allerdings nur, wenn die Auslastung ausreichend hoch ist.
| Position | Wert / Definition |
|---|---|
| Erlösseite | API-Preis ($/M tokens) |
| Kostenseite | GPU-Zeit × Auslastung + Strom + Bandbreite + Betrieb |
| Formel der Bruttomarge | (Preis – Kosten) / Preis |
| Auslastung ist König | Niedrige Auslastung = Fixkosten lassen sich nicht verteilen = Verlust |
Der Vorteil der FP4-Inferenz der B300 in der Token-Ökonomie: Die FP4-Quantisierung verdoppelt den Token-Durchsatz pro Karte – die „Rechenkosten pro Token“ sinken – allerdings nur, wenn die Auslastung ausreichend hoch ist. Bei niedriger Auslastung bleibt auch das beste Preis-Leistungs-Verhältnis eine Zahl auf dem Papier – das Auslastungsmanagement einer KI-Fabrik (Lastverteilung/elastische Skalierung/Multi-Modell-Betrieb) ist der eigentliche Hebel für Profitabilität.