نموذج مرجعي: مختبر للروبوتات والذكاء الاصطناعي في رف واحد

تتناول المقالات السابقة بنية النظام، ومجموعة البرامج، واستهلاك الطاقة، وتصميم الشبكة. أما هذه المقالة، فتُحدد سعرًا وقائمةً بالمكونات لكل ذلك، استنادًا إلى أجهزة حقيقية قامت شركة كينتينو بشحنها واختبارها، وليس إلى قائمة مكونات نظرية مُجمّعة من ورقة تسويقية.

الهدف من النشر هو مختبر بحثي أو مختبر تكاملي يُشغّل من روبوت واحد إلى أربعة روبوتات إلى جانب نظام استدلال محلي ومنصة تدريب. يُصنّف هذا التطبيق ضمن النطاق المتوسط: ليس جهازًا صغيرًا بالكاد يُلبي احتياجات 7 مليارات، ولا مجموعة خوادم ضخمة تتطلب فريقًا متخصصًا في المرافق. بل بيئة عمل جادة يُمكن لفريق من شخصين إلى ستة أشخاص إنشاؤها وتشغيلها وتطويرها دون الحاجة إلى فريق متخصص في DevOps.

يتناول المقال مستويين من نفس النمط المعماري. معالج الرسوميات رباعي النواة (4-GPU). مستوى التطوير هذا هو المكان الذي تبدأ منه معظم المختبرات. وحدة معالجة الرسومات الثمانية مستوى الإنتاج هذا هو المكان الذي يستقرون فيه بعد أول عبء عمل حقيقي. تختلف خيارات الأجهزة، لكن البنية متطابقة.

ما تُظهره بيانات الأسطول

نشرت شركة كينتينو أسطولًا من وحدات الحوسبة المتجانسة، كل منها مزودة بأربع وحدات معالجة رسومية (GPU). تحمل كل وحدة نفس المواصفات: معالج AMD EPYC 7542 (32 نواة / 64 خيطًا، بتردد معزز يصل إلى 2.9 جيجاهرتز)، وذاكرة DDR4 ECC LRDIMM بسعة 512 جيجابايت بسرعة 2666 ميجا نقلة/ثانية موزعة على ثمانية منافذ DIMM، وأربع وحدات معالجة رسومية RTX 4090 (ذاكرة فيديو بسعة 24 جيجابايت لكل منها، بإجمالي 96 جيجابايت)، وقرص تخزين مؤقت NVMe بسعة 2 تيرابايت، وقرص SSD SATA بسعة 512 جيجابايت لنظام التشغيل. اللوحة الأم هي ASRockRack ROMED8-2T/BCM. نظام التشغيل هو Ubuntu 24.04 LTS، نواة 6.8.0-generic، برنامج تشغيل NVIDIA 590.48.01، وCUDA 13.1/13.2.

تُنتج جميع العُقد العشر نتائج قياس أداء متطابقة. ليس هذا من قبيل الصدفة، بل هو الهدف من بناء مرجعي. عندما تُخرج كل وحدة من نفس التكوين، يصبح قياس الأداء مواصفةً دقيقة، وليس مجرد نتيجة عشوائية.

حساب GPU

عملية ضرب المصفوفات باستخدام نواة الموتر FP16 عبر البطاقات الأربع (حمل عمل 8192 × 8192):

يعمل معالج الرسوميات الأول (GPU 1) باستهلاك طاقة أقل بنسبة 6% تقريبًا من معالجات الرسوميات 0 و2 و3، وهو ضمن نطاق التفاوت الطبيعي في جودة رقائق السيليكون المستخدمة في بطاقات المستهلك. اجتازت جميع المعالجات الأربعة اختبارات التشغيل المكثفة لمدة 60 ثانية، بالإضافة إلى اختبارات التشغيل المكثفة المشتركة لمعالج الرسوميات ووحدة المعالجة المركزية، دون أي أخطاء حسابية. يُعد هامش درجة الحرارة مناسبًا: حيث تبلغ عتبة خفض الأداء الحراري لبطاقة RTX 4090 83 درجة مئوية، بينما بلغت درجة حرارة أعلى بطاقة في المجموعة 73 درجة مئوية عند تشغيل معالج الرسوميات ووحدة المعالجة المركزية معًا. لم يُلاحظ أي انخفاض في الأداء في أي من البطاقات.

ملاحظة عملية حول حدود الطاقة: تأتي هذه الأجهزة بحدود طاقة مختلفة قليلاً لكل بطاقة (450 واط، 480 واط، 500 واط حسب الفتحة). للاستخدام الإنتاجي المستمر، يُنصح بتوحيد استهلاك الطاقة لجميع البطاقات الأربع عند 450 واط، مما يُحسّن من توازن استهلاك الطاقة ويقلل من عدم توازن وحدة التزويد بالطاقة. لا تتجاوز خسارة الأداء (TFLOPS) عند استخدام 450 واط مقارنةً بـ 500 واط نسبة 2%، وهي نسبة لا تُبرر الحمل غير المتماثل على خطوط الطاقة.

استدلال vLLM — Llama 3.3 70B AWQ

تمت المقارنة المعيارية باستخدام vLLM 0.19.0، tensor_parallel_size=4, gpu_memory_utilization=0.80, max_model_len=2048:

ملاحظة هامة: استخدم المعيار المرجعي awq نواة التكميم، وليس awq_marlin. awq_marlin يُعدّ المسار على معالج Ada Lovelace (RTX 4090) أسرع بمقدار 2-3 مرات من حيث زمن استجابة الطلب الواحد. يُنصح باستخدامه في بيئات الإنتاج. awq_marlin أو مسار FP8 في الإصدار vLLM 0.20+، مما يقلل الفجوة بشكل أكبر. مع awq_marlinيرتفع معدل نقل البيانات للطلب الواحد المذكور أعلاه من حوالي 8 توك/ثانية إلى ما يقارب 16-20 توك/ثانية على هذه البطاقات، وهو ما يتوافق بشكل أكبر مع تجربة المستخدمين العملية. وتكون فائدة الإنتاجية الإجمالية للدفعات أقل نسبيًا لأن عنق الزجاجة عند التزامن العالي يتحول إلى عرض نطاق الذاكرة بدلًا من الحوسبة.

هذه الأرقام خاصة بمعالج لاما 3.3 بسعة 70 مليار عند مستوى INT4 (AWQ). يعمل نموذج بسعة 7 أو 8 مليارات عند مستوى Q4 بسرعة تتراوح بين 4 و6 أضعاف لكل رمز مميز على نفس الجهاز؛ بينما يعمل نموذج بسعة 13 مليار بسرعة تقارب 2.5 ضعف. يمثل الرقم 70 مليار الحد الأدنى لحجم نماذج VLM ونماذج التخطيط الكبيرة في مجال الروبوتات.

llama.cpp — مستخدم واحد، بدون تزامن

تمت المقارنة باستخدام llama-cpp-python 0.3.20 (CUDA/cuBLAS)، Llama 3.3 70B Instruct Q4_K_M GGUF، جميع وحدات معالجة الرسومات الأربعة:

يتم تحميل ملف llama.cpp بشكل أسرع (10.8 ثانية مقابل 95 ثانية لـ vLLM) ويوفر سرعة فك تشفير أعلى للمستخدم الواحد على هذه البطاقات لأنه لا يتحمل عبء جدولة المعالجة الدفعية المستمرة. المقابل هو انعدام التزامن - مستخدم واحد في كل مرة. التفسير الصحيح لهذه الأرقام: يوفر ملف llama.cpp على عقدة بأربع وحدات معالجة رسومية للمطور نموذجًا سريع الاستجابة بحجم 70 بايت للاستخدام التفاعلي؛ بينما يُعد vLLM الخيار الأمثل عند وجود أكثر من عميل واحد.

يرى I02 للحصول على مصفوفة قرارات كاملة حول بنية الخادم. باختصار: ابدأ باستخدام vLLM في Docker، واستخدم awq_marlin التكميم، والتحويل إلى llama.cpp فقط لأجهزة التطوير أحادية المستخدم أو عمليات نشر Jetson.

عرض نطاق ذاكرة وحدة معالجة الرسومات

يبلغ عرض النطاق الترددي بين الأجهزة (على البطاقة) 920.2-920.6 جيجابايت/ثانية عبر جميع البطاقات الأربع، بفارق لا يتجاوز 0.04%، مما يؤكد أن ذاكرة GDDR6X ليست هي العامل المؤثر. أما عرض النطاق الترددي من المضيف إلى الجهاز عبر PCIe فيبلغ 26.2-26.3 جيجابايت/ثانية، مما يؤكد أن الجيل الرابع x16 يعمل بكامل طاقته تحت الضغط (يُظهر وضع الخمول الجيل الأول بسبب توفير الطاقة ASPM، وهو أمر طبيعي وليس عطلاً). وتتراوح سرعة نقل البيانات بين وحدات معالجة الرسومات عبر PCIe (بدون NVLink) بين 19 و22 جيجابايت/ثانية، وهو الحد الأقصى المتوقع لنقل البيانات بين الأجهزة عبر مجموعة PCIe الجذرية المشتركة بدون NVLink (انظر N03 (للتوضيح).

تخزين NVMe

يقترب عرض النطاق الترددي المتسلسل من الحد الأقصى لتقنية الجيل الرابع x4. تصل عمليات الإدخال/الإخراج العشوائية في الثانية عند عمق قائمة انتظار 32 إلى أقصى حد لها: 568 ألف عملية قراءة في الثانية تتجاوز بكثير متطلبات تحميل أوزان LLM أو أنماط الوصول إلى مجموعات البيانات على مستوى عقدة واحدة. يستغرق تحميل النموذج من NVMe إلى VRAM من 10 إلى 30 ثانية حسب حجم النموذج؛ ولا يمثل هذا القرص عنق الزجاجة.

النموذج المرجعي

BOM — مستوى تطوير 4 وحدات معالجة رسومية

تُعد مرحلة التطوير نقطة البداية الصحيحة لمختبر يقوم بتشغيل روبوت واحد أو اثنين، ونموذج نشط واحد أو اثنين، وضبط دقيق لتقنية LoRA من حين لآخر.

مستوى التطوير: عقدة حسابية بأربع وحدات معالجة رسومية + مفتاح ToR مُدار + نقطة وصول بتردد 6 جيجاهرتز + وحدة UPS متصلة بالإنترنت بقدرة 5 كيلو فولت أمبير.

قائمة مكونات المنتج - مستوى إنتاج 8 وحدات معالجة رسومية

يُضاعف مستوى الإنتاج عدد وحدات معالجة الرسومات. يبقى النمط المعماري كما هو؛ حيث تتوسع وحدة المعالجة المركزية وذاكرة الوصول العشوائي والهيكل وفقًا لذلك لدعم ثمانية منافذ PCIe كاملة النطاق. توفر منصة AMD EPYC Genoa أو Turin ميزانية مسارات PCIe لثمانية منافذ x16 دون أي تنازلات تتعلق بالتفرع (انظر W02).

ملاحظة: لا يمكن إضافة بطاقة شبكة 25 جيجابت إيثرنت إلا في هياكل 8 وحدات معالجة رسومية. لا يتوفر في هياكل 4 وحدات معالجة رسومية مساحة كافية لبطاقة شبكة إضافية، حيث أن منافذ 10 جيجابت إيثرنت المدمجة في ROMED8-2T/BCM هي الحد العملي لفئة 4 وحدات معالجة رسومية (انظر N01 وقواعد صفحة المنتج).

التخزين خارج نطاق عقدة الحوسبة

بالنسبة لمستوى التطوير، يوفر جهاز تخزين شبكي (NAS) بأربعة فتحات وأربعة أقراص صلبة سعة كل منها 16 تيرابايت مساحة تخزين قابلة للاستخدام تبلغ 48 تيرابايت بنظام RAID-5، وهي مساحة كافية لبيانات حلقات تجريبية لمدة عام كامل لمختبر روبوتين. قم بتوصيله بمحول ToR عبر منفذ 10 جيجابت إيثرنت، ولا تقم بتوصيله بنفس واجهة حركة بيانات الروبوتات.

الطاقة والتبريد للرف

من I04:

تؤكد بيانات اختبار الضغط على الأسطول أن عقدة المعالج الرسومي الرباعي تستهلك حوالي 1,914 واط عند أقصى حمل للمعالج الرسومي، حيث تصل جميع البطاقات الأربع إلى حدود استهلاكها للطاقة. وبإضافة استهلاك وحدة المعالجة المركزية (حوالي 120 واط بشكل مستمر)، واستهلاك وحدة تخزين NVMe، واستهلاك المروحة، يصل استهلاك العقدة إلى حوالي 2.1-2.2 كيلوواط بشكل مستمر.

التركيبات الكهربائية لمستوى التطوير: الحد الأدنى هو تغذية ثلاثية الأطوار 400 فولت 16 أمبير؛ بينما توفر التغذية ثلاثية الأطوار 32 أمبير مجالًا للتوسع. أسلاك وحدة التزويد بالطاقة على طورين منفصلين. انظر I04 و P02 بالنسبة لتصميم الأسلاك. بالنسبة لمستوى الإنتاج (10 كيلو واط للرف الكامل)، تحتاج إلى تغذية ثلاثية الأطوار 400 فولت 32 أمبير مع قدرة تبريد لا تقل عن 15 كيلو واط.

تحديد حجم وحدة UPS: حدد الحجم المناسب للخادم فقط، وليس للروبوتات. بالنسبة لبيئة التطوير، تُعد وحدة UPS بقدرة 5 كيلو فولت أمبير ذات تحويل مزدوج عبر الإنترنت الخيار الأمثل كحد أدنى. أما بالنسبة لبيئة الإنتاج، فيُوصى بوحدة بقدرة 10 كيلو فولت أمبير. يُرجى دائمًا تحديد التحويل المزدوج عبر الإنترنت. انظر P05.

مجموعة البرامج على الأجهزة المادية

مجموعة البرامج: Ubuntu مثبت + برنامج تشغيل NVIDIA → مجموعة أدوات الحاويات → vLLM + llama.cpp + nginx + المراقبة.

تثبيت برنامج التشغيل أمر لا يقبل المساومة. يعمل أسطول المركبات ببرنامج التشغيل 590.48.01؛ apt-mark hold nvidia-driver-590 هو أول شيء بعد تثبيت نظام التشغيل على الجهاز نفسه. عملية غير مراقبة apt-get upgrade أدى سحب برنامج تشغيل أحدث إلى تعطيل الاستدلال في بيئة الإنتاج بنفس عدد المرات المتوقعة. انظر L01 للاطلاع على الإجراء الكامل.

المراقبة ضرورية. تُظهر بيانات الأسطول أن وحدة معالجة الرسومات رقم 3 على إحدى العقد واجهت أخطاء PCIe AER قابلة للتصحيح (RxErr + BadTLP) أثناء اختبار الأداء - تم تصحيحها تلقائيًا بواسطة الجهاز، ولكنها تظهر في عدادات DCGM. بدون مراقبة، يظهر هذا الخطأ على شكل "أخطاء استدلال غريبة عرضية" بعد أسابيع. قم بتوصيل DCGM وضبط تنبيهًا لأخطاء ECC القابلة للتصحيح التي تتجاوز معدلًا أساسيًا. انظر L05 بالنسبة لمجموعة Prometheus + Grafana.

اختلافات في المقاسات

مستوى التطوير ذو الأربع وحدات معالجة رسومية - ما يمكنه تشغيله فعليًا

إجمالي ذاكرة الوصول العشوائي للفيديو 96 جيجابايت (4 × 24 جيجابايت) مع TP=4:

لا يتناسب حجم وحدة VLM 72B بشكل مريح مع 4 × 24 جيجابايت بتردد INT4 - الحسابات متقاربة، لكن نوافذ السياق التي تتجاوز دقة 4K تجعلها تتجاوز هذا الحد. إما أن تستخدم إصدار VLM 32B، أو ترقي إلى فئة 8 وحدات معالجة رسومية أو عقدة 4 × RTX Pro 6000 Blackwell (96 جيجابايت من ذاكرة الفيديو لكل منها) لفئة 72B. انظر W07 لمناقشة الفرق بين ذاكرة الوصول العشوائي للفيديو (VRAM) ومستوى النموذج.

تتولى طبقة التطوير معالجة: نموذج استدلال واحد بحجم 70 مليار وحدة يخدم من 1 إلى 3 عملاء روبوت متزامنين، ووحدة VLM واحدة (فئة 32 مليار) للاستعلامات المرئية، بالإضافة إلى ضبط دقيق لخوارزمية LoRA على نموذج أساسي أصغر حجماً. وهذا يغطي 80% من حالات استخدام مختبرات الروبوتات في عام 2026.

مستوى الإنتاج ذو 8 وحدات معالجة رسومية - مساحة إضافية

إجمالي 192 جيجابايت من VRAM (8 × 24 جيجابايت):

تتيح فئة 8 وحدات معالجة رسومية إمكانية خدمة نماذج متعددة في وقت واحد: حيث يتم تشغيل نموذج LLM بسعة 70 بايت على 4 وحدات معالجة رسومية، ونموذج VLM بسعة 32 بايت على الوحدات الأربع الأخرى، مما يتيح خدمة أسطول روبوتات متنوع بمتطلبات نماذج مختلفة في آن واحد، من وحدة واحدة. أما في فئة 4 وحدات معالجة رسومية، فيتطلب ذلك خطوة تبديل النماذج مع فترة توقف تتراوح بين 30 و120 ثانية لكل عملية تبديل.

ملاحظة حول TP=8 لـ 70B: يكون أداء TP=8 عبر PCIe من نظير إلى نظير (بدون NVLink) أسوأ من TP=4 × PP=2 عند التزامن الذي يزيد عن 8، وذلك لأن تكلفة الاتصال في وضع الاختزال الكامل تزداد مع درجة التوازي الموتري. تُظهر بيانات الاختبار المعياري أن عرض نطاق PCIe بين وحدات معالجة الرسومات يتراوح بين 19 و22 جيجابايت/ثانية، وهو كافٍ لـ TP=4، ولكن TP=8 في وضع الاختزال الكامل عند أحجام الدُفعات الكبيرة يُشبع هذه الروابط. التكوين المُوصى به لـ 70B على 8 × 4090 هو TP=4 × PP=2، كما هو موضح في I02.

تخطيط الرفوف

تقع وحدة الحوسبة دائمًا أسفل المحول ووحدة التزويد المستمر للطاقة (UPS) - يتطلب تدفق الهواء من الأمام إلى الخلف دخول الهواء البارد من مقدمة الحامل (الممر البارد أو مصدر تكييف الهواء في الغرفة)، والمرور عبر الخادم، والخروج إلى الممر الساخن في الخلف. انظر W05 و I04 فيما يخص نظام تدفق الهواء.

الخادم الوسيط هو جهاز صغير الحجم (1U) مزود بمنفذ عرض، يُستخدم للتشغيل الأولي وتثبيت برامج التشغيل والصيانة عندما يتعذر الوصول إلى الخادم الرئيسي عبر الشبكة. لا يحتاج إلى وحدة معالجة رسومية (GPU). محطة عمل مستعملة أو جهاز صغير الحجم (1U) مزود بذاكرة وصول عشوائي (RAM) سعة 16 جيجابايت وقرص SSD من الجيل الثالث يُعدّ خيارًا مناسبًا.

ما لا يمثله هذا التصميم

ليس خادمًا مكتبيًا مزودًا بوحدة معالجة رسومات (GPU) داخل علبة رف. إنّ تصميم جهاز الكمبيوتر المكتبي المفتوح - حيث تُثبّت وحدات معالجة الرسومات على لوحة توسعة، بدون هيكل، والمراوح موجهة نحو السقف - ليس ما هو موصوف هنا. أجهزة الكمبيوتر المكتبية مناسبة للتطوير؛ فهي غير مصممة للتشغيل المستمر على مدار الساعة، ولا توفر تدفق الهواء الموجه من الأمام إلى الخلف الذي يحافظ على درجة حرارة تشغيل وحدات معالجة الرسومات ثابتة لأسابيع.

ليست مجموعة NVLink. لا تدعم بطاقة RTX 4090 (المخصصة للمستهلكين/محطات العمل) تقنية NVLink. تتم عمليات نقل البيانات بين وحدات معالجة الرسومات عبر منفذ PCIe بسرعة تتراوح بين 19 و22 جيجابايت/ثانية، وليس 900 جيجابايت/ثانية. هذه السرعة كافية لخدمة الاستدلال بمعدل TP=4، ولكنها تُشكل قيدًا حقيقيًا للتدريب بمعدل TP=8. إذا كان عبء العمل لديك يتطلب تدريبًا موزعًا مكثفًا على طراز 70B+، فإن بطاقة RTX Pro 6000 Blackwell (التي تدعم NVLink في إصدارها متعدد وحدات معالجة الرسومات) أو منصة مزودة بتقنية NVSwitch تُغير الحسابات، ولكنها تُغير السعر أيضًا. انظر N03.

وحدات تزويد الطاقة غير زائدة عن الحاجة. يُوزّع نظام التغذية المزدوج الطاقة على وحدتي معالجة الرسومات: تُغذّي وحدة التغذية A وحدتي معالجة الرسومات 0 و1 (بالإضافة إلى اللوحة الأم)، بينما تُغذّي وحدة التغذية B وحدتي معالجة الرسومات 2 و3. في حال تعطل وحدة التغذية A، ستفقد وحدتي معالجة رسومات واللوحة الأم. لا يوجد نظام تحويل تلقائي. هذا نظام تغذية مزدوج حقيقي - فهو يُوازن حمل الطاقة على خطوط التغذية ويُقلّل من مخاطر الاعتماد على نقطة واحدة كبيرة مقارنةً بوحدة تغذية واحدة كبيرة، ولكنه لا يُوفّر نظام التكرار N+1. انظر W04.

ليس بديلاً عن الحوسبة السحابية لكل شيء. إذا كان عبء العمل الرئيسي في مختبرك هو استدعاء نموذج واحد عشر مرات يوميًا، فإن حسابات التكلفة الإجمالية للملكية لا تبرر استخدام البنية التحتية المحلية. يُعوّض هذا الإصدار تكلفة واجهة برمجة التطبيقات السحابية عند تشغيل استدلال مستمر لعدة عملاء، أو إجراء ضبط دقيق بانتظام، أو العمل في ظل قيود على مكان تخزين البيانات. انظر T02 للحصول على التفاصيل الرياضية.

لماذا هذه الخيارات المحددة؟

AMD EPYC 7542 كوحدة معالجة مركزية مضيفة. يوفر معالج EPYC ذو 32 نواة 128 مسار PCIe 4.0 من وحدة المعالجة المركزية وحدها، وهو ما يكفي لتشغيل 4 وحدات معالجة رسومية بسرعة x16 دون الحاجة إلى تقسيم المسار، بالإضافة إلى بطاقة شبكة ووحدة تخزين ومحول PCIe للتوسعة. يُعد EPYC المنصة القياسية لخوادم الذكاء الاصطناعي متعددة وحدات معالجة الرسوميات بهذا الحجم لسبب وجيه: إذ يوفر معالج Intel Xeon بنفس عدد النوى عددًا أقل من مسارات PCIe، مما يفرض حلولًا وسطية في تكوينات 4 وحدات معالجة رسومية أو أكثر. انظر W02 لحساب عدد المسارات.

ذاكرة الوصول العشوائي للنظام 512 جيجابايت. يأتي الأسطول مزودًا بذاكرة وصول عشوائي (RAM) سعتها 512 جيجابايت (8 × 64 جيجابايت)، وهو ما يتجاوز المواصفات الاسمية البالغة 256 جيجابايت. هذا مقصود: فعمليات تحميل النماذج الكبيرة أثناء بدء تشغيل الحاويات، وجلب البيانات مسبقًا للتدريب، وذاكرة التخزين المؤقت لصفحات نظام التشغيل، كلها تستهلك ذاكرة وصول عشوائي (RAM) لا تستطيع ذاكرة الوصول العشوائي للفيديو (VRAM) استيعابها. بالنسبة لـ vLLM مع تمكين مساحة تبديل ذاكرة التخزين المؤقت للمفتاح والقيمة (KV-cache swap space)، يمكن استخدام ذاكرة الوصول العشوائي للنظام مباشرةً كمساحة فائضة - حيث تتطلب مساحة تبديل سعتها 4 جيجابايت لكل وحدة معالجة رسومية (GPU) مساحة إضافية قدرها 16 جيجابايت من ذاكرة الوصول العشوائي للنظام. توفر سعة 512 جيجابايت هذه المساحة الإضافية مع إمكانية استخدام برنامج Isaac Sim، الذي يمكنه تخزين ما بين 10 و30 جيجابايت من حالة المحاكاة في ذاكرة الوصول العشوائي للنظام أثناء تدريب السياسات.

مساحة تخزين مؤقتة 2 تيرابايت NVMe. يُظهر الاختبار المعياري سرعة قراءة متسلسلة تبلغ 4,589 ميجابايت/ثانية، وهي سرعة كافية لتحميل نموذج FP8 بحجم 70 بايت (حوالي 75 جيجابايت) في أقل من 20 ثانية. بالنسبة لمختبرات تُبدّل النماذج بشكل متكرر (سير عمل التطوير، واختبار A/B لمجموعات الاستدلال)، يُعدّ وقت التحميل عاملاً بالغ الأهمية. يُضاعف محرك أقراص الحالة الصلبة SATA الأبطأ هذا الوقت أو يُثلّثه لكل عملية تبديل.

تدفق الهواء من الأمام إلى الخلف في الرف. الخطأ الأكثر شيوعًا عند إنشاء الخوادم لأول مرة: لا يُناسب توجيه سطح المكتب (مدخل جانبي، مخرج علوي، مخرج خلفي) في خزانة مغلقة. يجب أن تستخدم وحدة الحوسبة تدفق هواء مُوجّهًا يتوافق مع نظام الممرات الباردة/الساخنة في الخزانة. انظر I01 و W05.

نظرة صريحة على أجهزة عام 2026

هذه نسخة مرجعية لشهر مايو 2026. بطاقة RTX 4090 ليست أحدث خيارات معالجات الرسوميات من كينتينو، حيث تتوفر بطاقتا RTX 5090 (بذاكرة 32 جيجابايت، وبنية بلاكويل، وsm_120) وRTX Pro 6000 Blackwell (بذاكرة 96 جيجابايت)، مما يُغير حسابات ذاكرة الرسوميات لكل بطاقة بشكل ملحوظ. توفر وحدة معالجة رسوميات رباعية مزودة ببطاقة RTX Pro 6000 Blackwell ذاكرة رسوميات إجمالية تبلغ 384 جيجابايت، وهي كافية لتشغيل لعبة Qwen 2.5 VL 72B بسلاسة على أربع بطاقات بدقة FP8، بتكلفة أعلى نسبيًا لكل بطاقة.

ما لا يتغير بين الأجيال هو النمط المعماري. معالج AMD EPYC، ووحدة معالجة رسومية متعددة PCIe، وهيكل يمتد من الأمام إلى الخلف، ووحدة تزويد طاقة مزدوجة، ونظام Ubuntu 24.04، وvLLM في Docker، وبرنامج Prometheus مع مُصدِّر DCGM. ظل هذا النمط ثابتًا عبر جيلين من وحدات معالجة الرسوميات، وسيستمر في الجيل القادم. قائمة المكونات تصبح أرخص وأسرع، لكن النمط يبقى كما هو.

---

هذا جزء من ويكي كينتينو، وهي سلسلة مرجعية حول الحوسبة الذكية، والروبوتات، والأنظمة التي تربط بينهما. نرحب بالتعليقات والتصويبات على info@kentino.com.