K-AI 384 Rome RTXPro6000MQ — 4× RTX Pro 6000 Blackwell Max-Q Turbofan (384 GB ECC VRAM)

خادم استدلال يُثبّت في رفّ بحجم 4U، مزوّد بأربع بطاقات NVIDIA RTX Pro 6000 Blackwell Max-Q توربينية (بسعة 96 جيجابايت ECC لكل منها) مُجمّعة في ذاكرة وصول عشوائي للفيديو بسعة 384 جيجابايت ECC، ومعالج AMD EPYC 7643 Milan (48 نواة/96 خيطًا)، وذاكرة DDR4-2666 بسعة 384 جيجابايت ECC، ووحدة تخزين NVMe بسعة 2 تيرابايت للتشغيل، ووحدتي تزويد طاقة ATX متزامنتين بقدرة 2.5 كيلو واط. يستخدم نفس شريحة Blackwell المستخدمة في إصدار الخادم - نفس نطاق الاستدلال، ونفس معدل نقل البيانات - مع مُبرّد هواء أكثر هدوءًا يُناسب بيئات المختبرات، ومراكز البحث والتطوير، والمكاتب المجاورة.

أجهزة التبخير

ما يمكنك تشغيله

ماجستير في القانون - نص / استدلال / برمجة

الحدود الصينية

• ديب سيك V3 / V3-0324 / V3.1 / V3.2 / R1 / R1-0528 الربع الثالث (حوالي 290 جيجابايت) بشكل مريح على البطاقة (حوالي 30-40 توك/ثانية، مرجع منشور)؛ أصلي بتقنية fp8 (حوالي 670 جيجابايت مع امتداد ذاكرة الوصول العشوائي
• Qwen3-Coder-480B-A35B الربع الثالث (حوالي 350 جيجابايت مضغوطة مع تجاوز ذاكرة الوصول العشوائي) - وكيل ترميز مفتوح المصدر SOTA (حوالي 18-25 توكا/ثانية مرجع واحد منشور)
• Qwen3-235B-A22B الربع السادس/الربع الثامن (حوالي 200-280 جيجابايت) مع سياق طويل ومعالجة دفعية متعددة المستخدمين
• GLM-5 / GLM-5.1 الربع الثالث (~317 جيجابايت) - حدود الصين، قريب من كلود أوبوس 4.6 في البرمجة
• كيمي-ك2 1.58 بت UD (~240 جيجابايت) - وكيل ذو تريليون معلمات بمعدل نقل بيانات حقيقي
• هونيوان-كبير 389B/52B الربع الرابع (~220 جيجابايت)، fp8 أصلي (~390 جيجابايت فائض)
• ERNIE-4.5-424B-A47B الربع الرابع (~240 جيجابايت)؛ ميني ماكس-M1 الربع الرابع (~260 جيجابايت) 1 ميجابايت-ctx
• اللاما 3.3 70 ب bf16 مقيم على بطاقة واحدة (96 جيجابايت/بطاقة)

الحدود الغربية

• ميسترال كبير 3 (675B/41B MoE, Apache 2.0) الربع الثالث (~317 جيجابايت) — أوزان مفتوحة غربية حدودية (~20-30 توكو/ثانية مفردة، مرجع منشور)
• لاما 4 مافريك (400B/17B) الربع الرابع (~232 جيجابايت) مع ميزانية KV سخية (~45-55 توكا/ثانية مرجع منشور واحد)
• لاما-3.1-نيموترون ألترا 253B الربع السادس - الربع الثامن (حوالي 119-207 جيجابايت)
• gpt-oss-120b ذاكرة MXFP4 أصلية (80 جيجابايت) مع مساحة كافية للأسطول المتزامن
• بيسترال كبير / ميسترال كبير 2 bf16 (~248 جيجابايت)؛ ديفسترال 2 123B bf16 — 256k top open coding
• اللاما 3.3 70 ب bf16 على بطاقة واحدة؛ إمكانية نشر 70B في وقت واحد 4 مرات

نماذج الرؤية واللغة

Qwen3-VL-235B-A22B bf16 (~240 جيجابايت)؛ InternVL3.5-241B-A28B Q4 (~135 جيجابايت)؛ Llama 3.2 90B Vision bf16؛ Pixtral Large 124B bf16؛ Qwen3-Omni-30B-A3B؛ Molmo 72B؛ ERNIE-4.5-VL؛ GLM-4.6V 106B bf16 على TP. يوفر Blackwell fp8 إنتاجية تزيد بمقدار الضعف تقريبًا في استدلال برج الرؤية مقارنةً بـ Ada.

توليد الصور

FLUX.1 [dev] / Kontext / Tools بسرعة fp8 أصلية (~15-20 ثانية لكل صورة 1024x1024 على بطاقة RTX Pro 6000 واحدة، مرجع منشور)؛ SD 3.5 Large؛ HunyuanImage-2.1 (17 بايت أصلية 2K)؛ HunyuanImage-3.0 80 بايت/13 بايت MoE؛ AuraFlow؛ OmniGen؛ 4x عمال ComfyUI متزامنين.

توليد الفيديو

Wan 2.2 T2V-A14B / I2V-A14B ثنائي الخبير bf16؛ HunyuanVideo 13B bf16 كلا الخبيرين؛ Open-Sora 2.0 (11B) bf16؛ CogVideoX-5B؛ Mochi-1؛ LTX-Video؛ Pyramid Flow؛ SVD / SV3D / SV4D؛ NVIDIA Cosmos Predict 2.

الصوت / الكلام / تحويل النص إلى كلام

• ASR: Whisper v3 كبير / توربو؛ Parakeet-TDT؛ Canary؛ Qwen3-ASR؛ SenseVoice
• تحويل النص إلى كلام: CosyVoice 2/3؛ Kokoro؛ Stable Audio Open؛ XTTS v2؛ Step-Audio-EditX
• في الوقت الحقيقي / من جهاز لآخر: كيوتاي موشي؛ خطوة الصوت 2 ميني / R1؛ Qwen2.5-أومني-7B
• الموسيقى / المؤثرات الصوتية: MusicGen / AudioGen / Bark / SeamlessM4T

خدمة متعددة النماذج / متعددة المستأجرين

• DeepSeek V3 Q3 + متزامن 70B + FLUX.1 + Whisper all resident
• نظام متوازي رباعي الاتجاهات من نوع Tensor على فئة 350-400B في الربع الرابع
• عزل المستأجرين لكل بطاقة - بطاقة واحدة من نوع Llama 3.3 بسعة 96 جيجابايت و70 بايت bf16 لكل بطاقة، و4 وحدات استدلال مستقلة
• نظام RAG متعدد النماذج: قارئ + مُعيد ترتيب + رؤية + مُضمّن، كل ذلك على مضيف واحد

أحمال العمل المستهدفة

• استدلال الوزن المفتوح الحدودي لفريق مختبر / بحث وتطوير حيث تُعدّ الميزانية الصوتية مهمة
• غرفة خوادم مخصصة للفرق الصغيرة بدون نظام تهوية مخصص لمركز البيانات — نظام التبريد الذاتي Max-Q يتحمل وضع الخوادم في رفوف مفتوحة
• محطة عمل للذكاء الاصطناعي مجاورة للمكتب لفريق متخصص (أبحاث التعلم الآلي، أدوات الوكلاء)
• خدمة fp8-native (DeepSeek / R1 / Hunyuan) في بيئات المختبر
• عبء عمل عزل 4 مستأجرين لكل بطاقة مع ميزانية الضوضاء

المراجع المنشورة للأداء

ليست مثالية لـ

• في حال تركيب رفوف مراكز البيانات بشكل صحيح مع نظام تهوية فعال للممرات الساخنة، يُنصح باختيار إصدار الخادم السلبي (K-AI 384 Rome RTXPro6000): نفس السيليكون، تصميم ميكانيكي أبسط
• أحمال عمل المستخدم الواحد تصل إلى 70 مليار (4x RTX 5090 أرخص بكثير لمجموعة 128 جيجابايت)
• التدريب على تقنية فرونتير من الصفر (بدون نظام NVLink)
• بطاقة DeepSeek V3 Q4 كاملة مدمجة (~404 جيجابايت) — ترقية إلى 6x RTX Pro 6000 / 576 جيجابايت

الضمان ومدة التسليم

تشمل عملية التجميع، وتكوين نظام الإدخال والإخراج الأساسي (BIOS)، وتثبيت برامج التشغيل، واختبار الأداء، واختبار الذاكرة، والتحقق من الوظائف. يعتمد وقت التسليم على توافر المكونات، ويتم تأكيده عند الطلب.

الإضافات الموصى بها

• قم بترقية ذاكرة الوصول العشوائي (RAM) إلى 512 جيجابايت من نوع DDR4 (أضف وحدتين سعة كل منهما 64 جيجابايت - فتحتان DIMM متاحتان) لتوفير مساحة إضافية لذاكرة الوصول العشوائي في أجهزة Q3 Frontier Quanter.
• 4 تيرابايت NVMe Gen4 x4 لمكتبة نماذج الحدود (يبلغ حجم DeepSeek V3 Q3 وحده حوالي 290 جيجابايت على القرص)
• خزانة رف كاملة بحجم 24U مع وحدة توزيع طاقة مُدارة + وحدة تزويد طاقة غير منقطعة متصلة بالإنترنت
• تصميم بديل: إصدار الخادم السلبي (K-AI 384 Rome RTXPro6000) - نفس الشريحة، لتطبيقات تدفق الهواء في مراكز البيانات