SECTIONS
EDITIONS
NETWORK
AIXX الموسوعة موسوعة عالم الحوسبة

موسوعة AIXX › مفهوم تقني › ذاكرة التخزين المؤقت للاستدلال KV Cache

ذاكرة التخزين المؤقت للاستدلال KV Cache

KV CACHE · مدخل مصطلحي

نظرة عامة OVERVIEW

ذاكرة KV Cache (Key-Value Cache) هي منطقة في ذاكرة الفيديو تُخزَّن فيها النتائج الوسيطة لآلية الانتباه أثناء استدلال النماذج الكبيرة — فعند توليد كل token، تُحفظ قيمتا المفتاح (Key) والقيمة (Value) الخاصة به ليُحيل إليهما حساب الانتباه للـ tokens اللاحقة. ينمو حجم KV Cache خطياً مع طول السياق — وعنق الزجاجة في ذاكرة الفيديو عند استدلال السياقات الطويلة يكمن تحديداً في KV Cache.

تُعد KV Cache «القاتل الخفي» في تخطيط ذاكرة الفيديو لسيناريوهات الاستدلال: أوزان نموذج بحجم 7B قد لا تتجاوز 14GB، لكن KV Cache لسياق طويل قد يستهلك عشرات الجيجابايتات إضافية — وحساب سعة الذاكرة بناءً على أوزان النموذج وحدها خطأ شائع لدى المبتدئين. ميزة بطاقات الذاكرة الكبيرة (H200 NVL بسعة 141GB / MI325X بسعة 256GB) في سيناريوهات السياقات الطويلة هي اتساع مساحة KV Cache لديها.

الأرقام الرئيسية KEY NUMBERS

البندالقيمة / المنهجية
نمط النموخطي مع طول السياق
سيناريوهات عنق الزجاجةالسياقات الطويلة / الدفعات الكبيرة المتزامنة
تقنيات التحسينPagedAttention / MQA / GQA / التكميم
نسبتها من الذاكرةقد تتجاوز حجم الأوزان نفسها

الدلالة على B300 ON B300

تتجلى ميزة ذاكرة B300 البالغة 288GB بوضوح أكبر ما يكون في سيناريوهات استدلال السياقات الطويلة — إذ تتجاوز مساحة KV Cache ثلاثة أضعاف ما تتيحه فئة الـ 80GB. لكن الحجم الفعلي لـ KV Cache يتوقف على حجم الدفعة وطول السياق وبنية النموذج (والفروق بين MHA/GQA كبيرة) — فقبل الشراء، حدّد مواصفات الذاكرة بناءً على بيانات اختبارات الضغط لاستدلال النموذج المستهدف.

الحدود والتنبيهات LIMITS

  • لا يمكن ضغط KV Cache إلى الصفر: تكميم KV Cache (FP8/INT4) يوفر الذاكرة لكنه قد يخفض الدقة — فيُستحسن الحذر في التطبيقات الحساسة للدقة.
  • خطر العزل في بيئات المستأجرين المتعددين: عندما تتقاسم مساحة KV Cache على البطاقة نفسها عدة مستخدمين، قد يؤدي السياق الطويل لأحدهم إلى ابتلاع حصة باقي المستخدمين.

شرح بالفيديو VIDEO

ذاكرة HBM3eربط NVLinkSXM / NVL8التبريد السائل بالصفيحة الباردة / CDUصيغة الدقة FP8MoE الخبراء المختلطونشريحة التبديل NVSwitchشبكة الربط InfiniBandتخزين NVMeCDU للتبريد السائلالوصول المباشر للذاكرة عن بُعد RDMAGPUDirectأنوية Tensor CoreMIG (GPU متعددة النسخ)PCIe Gen5الحوسبة السريةالمحاكاة الافتراضية vGPUدقة الفاصلة العائمة المصغرة FP4 / FP6التوسع الرأسي والتوسع الأفقيالبصريات المُغلّفة مشتركًا CPONVLink Fusionالبنية المعيارية MGXتكميم النماذجالتوازي التوتريالاتصال الجماعيمصنع الذكاء الاصطناعيدائرة التبريد السائلمؤشر كفاءة الطاقة PUETensorRT-LLMمحرك الاستدلال vLLMالتكيّف منخفض الرتبة LoRAقنوات سلسلة توريد القدرة الحاسوبيةالتكلفة الإجمالية للملكية TCOمعايير إنتاجية الاستدلالتقطير النماذجسلسلة توريد الطاقةاقتصاديات التوكنخط بيانات التدريبحزمة تقنيات تحسين الاستدلالذاكرة العرض GDDR7عائلة موصّلات التغذية (EPS/PCIe 8pin/12VHPWR/12V-2x6)الجدول الزمني للرقابة على التصديردليل فحص كروت GPU (nvidia-smi/GPU-Z)تحسين الاستدلال TensorRTتنفيذ الرسوم البيانية CUDA Graphsمكتبة الاتصال الجماعي NCCLصيغة النماذج المفتوحة ONNXأجيال ذاكرة HBMالتدريب بالدقة المختلطةأجيال PCIeعائلة أشكال الحواملقراءة قواعد تسمية طرازات GPUسلسلة تداول كروت GPU المستعملةالمقارنة بين التبريد الهوائي والتبريد السائلصحة ذاكرة العرض وتشخيص الأعطالذاكرة العرض HBM4ربط UALinkمقالة الطراز B300

المراجع REFERENCES

  1. الموقع الرسمي لـ NVIDIA — صفحة منتج Blackwell Ultra / HGX B300 https://www.nvidia.com/en-us/data-center/hgx/
  2. بيانات السوق والمعروضات: AIXX Exchange (نطاق أسعار هذه المكتبة)
الإصدارات والتصويبات |تُدار هذه المقالة من قبل هيئة تحرير AIXX Pedia، بصياغة بمساعدة الذكاء الاصطناعي وتدقيق بشري للوقائع. آخر تحديث 2026-10-21 · الإصدار v1.0 · جميع التعديلات السابقة موثّقة وقابلة للمراجعة.
المنصة
سياسة التحريرإفصاح المنصة (تضارب المصالح)قناة التصحيحات
ملخص دستور التحرير
كل معلومة بمصدرهاالعيوب تُكتب دوماً · التصويبات علنية وموثقةلا نقبل مقالات مدفوعةصفر عناصر ترويج أو بيع داخل المقالاتبيانات السوق تُحمَّل كوحدة بيانات فقط
عائلة AIXX
موسوعة AIXXAIXX Exchangeأخبار AIXX
مصادر بيانات السوق: AIXX Exchange · © 2026 AIXX Pedia · من إنتاج AIXX