الحرارة وتدفق الهواء في خوادم الذكاء الاصطناعي متعددة وحدات معالجة الرسومات

يُعدّ خادم الذكاء الاصطناعي متعدد وحدات معالجة الرسومات، من الناحية الحرارية، بمثابة سخان صناعي يُجري عمليات حسابية بين الحين والآخر. يُطلق هيكلٌ مزود بأربع وحدات RTX 5090 تحت حملٍ مستمر 2.4 كيلوواط من الحرارة بشكلٍ متواصل؛ بينما يُطلق هيكلٌ مزود بثماني وحدات 5090 ما مقداره 5 كيلوواط. لا تتبدد هذه الحرارة تلقائيًا، بل تتراكم على شريحة وحدة معالجة الرسومات، ووحدات تنظيم الجهد، ووحدات الذاكرة، ومنها إلى أي هواء يُمكن للهيكل دفعه للخارج من الخلف. إذا لم يتناسب تدفق الهواء مع استهلاك الطاقة، فإن أداء السيليكون يتباطأ، وهذا التباطؤ في خادم الاستدلال يُضاعف زمن استجابة الرموز ويُقلل الإنتاجية إلى النصف دون أن يُلاحظ. غالبًا ما تكون أسباب تباطؤ خادم وحدة معالجة الرسومات حرارية وليست برمجية. هذا هو جانب تدفق الهواء في الجهاز، بالإضافة إلى مُزوّد ​​الطاقة W04 .

الحرارة ليست سوى قوة، بتعبير آخر.

كل واط يدخل إلى وحدة معالجة الرسومات (GPU) يتحول إلى حرارة - لا تقوم البطاقة بأي عمل ميكانيكي، لذا لا يوجد عامل كفاءة. معدلات استهلاك الطاقة الحرارية (TDP) التي نقارن بها:

وحدة معالجة الرسوميات‏:‏ TDP مستدام الغطاء الصلب سقف النقاط الساخنة هدف الخانق
RTX 5090 (FE / لوحة شريكة) 575 W ~ شنومك W ~95 درجة مئوية (سيليكون) حافة 90 درجة مئوية
RTX 4090 450 W ~ شنومك W ~ 95 ° C حافة 83 درجة مئوية
محطة عمل بلاكويل RTX Pro 6000 600 W 600 W ~ 90 ° C حافة 88 درجة مئوية
RTX Pro 6000 Blackwell Max-Q 300 W 300 W ~ 85 ° C حافة 85 درجة مئوية
L40 300 W 300 W ~ 87 ° C حافة 87 درجة مئوية
L4 72 W 72 W ~ 87 ° C حافة 87 درجة مئوية
Intel Arc Pro B70 32 GB 200 W 225 W ~ 90 ° C حافة 90 درجة مئوية

هناك نقطتان مهمتان عند اتخاذ قرارات بناء الجهاز. رفعت NVIDIA عتبة خفض الحرارة القصوى لبطاقة 5090 إلى حوالي 90 درجة مئوية (مقارنةً بـ 83 درجة مئوية في بطاقة 4090) - تحافظ الشريحة على تردداتها الكاملة لفترة أطول مع نفس تدفق الهواء، لكن السيليكون يسخن أكثر، وهو أمر مهم للتطبيقات التي تعمل على مدار الساعة. تحافظ بطاقات محطات العمل ومراكز البيانات (Pro 6000، L40، L4) على استهلاكها الحراري المُصنّف بثبات - لا تتجاوز الحد الأقصى. أما بطاقات المستهلكين، فترتفع حرارتها بشكل مفاجئ. يسهل تبريد بطاقات محطات العمل بشكل متوقع؛ بينما يسهل زيادة استهلاك بطاقات المستهلكين عن طريق الخطأ.

عتبات التحكم في السرعة وتكلفتها

التحكم في السرعة هو تدرج، وليس مفتاحًا. على شريحة سيليكون من فئة بلاكويل:

درجة الحرارة الطرفية سلوك
60 – 75 ° C أقصى قوة، بدون استخدام دواسة الوقود
75 – 85 ° C تباين طفيف في تردد الساعة، تعزيز شبه كامل
85 – 90 ° C يتم تقليل الحد الأقصى للتعزيز، مع فقدان 5-10%
90 – 95 ° C خفض السرعة بشكل حاد، فقدان في سرعة الساعة بنسبة 15-25%
> 95 درجة مئوية تحكم قوي في السرعة، تحكم ذاكري في السرعة، إيقاف تشغيل طارئ في نهاية المطاف

ينخفض ​​استهلاك الطاقة في عملية الاستدلال لبطاقة 5090 من 590 واط عند التشغيل البارد إلى حوالي 510 واط عندما تتجاوز درجة حرارة مستشعر الحافة 90 درجة مئوية، أي ما يعادل فقدان 15% من الرموز المميزة في الثانية على حمل عمل vLLM 70B، وهو الفرق بين الوصول إلى مستوى الخدمة المستهدف (SLO) وعدم الوصول إليه. تصل البطاقة حديثة التشغيل إلى نقطة التباطؤ الأولى بعد 60-120 ثانية من بدء التحميل المستمر؛ وتُبالغ الاختبارات المعيارية التي تقل مدتها عن 5 دقائق في تقدير الإنتاجية المستدامة بنسبة 10-20%، وهو أحد أكثر الأسباب شيوعًا لاختلاف الأرقام المنشورة عن الواقع الفعلي في بيئة الإنتاج.

تدفق الهواء من الأمام إلى الخلف في الرف - التصميم الوحيد السليم للعمل على مدار الساعة طوال أيام الأسبوع

تنقسم تصميمات تبريد وحدات معالجة الرسومات إلى ثلاثة أنواع: تبريد هوائي مفتوح/محوري (لبطاقات ألعاب المستخدمين، حيث يتم طرد الهواء إلى داخل الهيكل)، وتبريد شعاعي/منفاخ (لبطاقات الأداء العالي، حيث يتم طرد الهواء عبر منفذ الإدخال/الإخراج)، وتبريد سلبي لبطاقات مراكز البيانات (L4، L40 - بدون مروحة، حيث تدفع مراوح الهيكل الهواء عبر مجموعة الزعانف). بالنسبة لأجهزة الكمبيوتر ذات 4 أو 8 وحدات معالجة رسومات تعمل على مدار الساعة، فإن تصميمي التبريد المنفاخ والسلبي هما الأنسب في الهياكل ذات الكثافة العالية . في هيكل 4U مع بطاقات مكدسة عموديًا، يقوم التصميم الهوائي المفتوح بطرد الحرارة إلى مدخل البطاقة العلوية؛ حيث تتعرض البطاقة العلوية لهواء تتراوح درجة حرارته بين 50 و60 درجة مئوية، مما يؤدي إلى انخفاض أدائها في غضون دقائق.

تستخدم هياكل Kentino 4U و8U نظام تدفق هواء صناعي من الأمام إلى الخلف، حيث تدفع مراوح بقطر 120 مم ضغطًا ثابتًا عاليًا عبر وحدات معالجة الرسومات. وتأتي البطاقات بنظام تبريد من نوع النفخ، أو التبريد السلبي، أو إعادة توجيه الهواء بشكل فعال عبر قنوات الهيكل. ويُعد الهيكل نفسه بمثابة وحدة التبريد.

مقدمة الرف - ممر التبريد (درجة حرارة الدخول ~22 درجة مئوية)
3 مراوح سحب هواء مقاس 120 مم (ضغط ثابت عالي)
عمود تدفق الهواء
الهيكل الداخلي 4U
وحدة معالجة الرسومات 1
وحدة معالجة الرسومات 2
وحدة معالجة الرسومات 3
وحدة معالجة الرسومات 4
وحدة تزويد الطاقة · وحدات الذاكرة · مشتت حراري للمعالج + مروحة · كابلات موجهة خلف الدرج
عادم ساخن
الجزء الخلفي من الرف - ممر ساخن (عادم بدرجة حرارة 35-45 درجة مئوية)
مخرج هواء خلفي واحد بقطر 120 مم + مخرج هواء وحدة التزويد بالطاقة

تدفق الهواء من الأمام إلى الخلف في الرف: مدخل الهواء البارد ← وحدات معالجة الرسومات في عمود تدفق الهواء ← مخرج الهواء الساخن. هذا ما يحافظ على درجة حرارة وحدات 5090 أقل من 85 درجة مئوية عند درجة حرارة مدخل هواء تبلغ 22 درجة مئوية.

الضغط الساكن مقابل تدفق الهواء (قدم مكعب في الدقيقة)

تُدرج بيانات المراوح معدل تدفق الهواء (قدم مكعب في الدقيقة) والضغط الساكن (مم ماء). في حالة الهيكل المفتوح، يكون معدل تدفق الهواء هو العامل الأهم؛ أما في حالة هيكل 4U ذي مشتتات حرارية كثيفة، وأنابيب صاعدة، وحزم كابلات، ووحدات معالجة رسومية سلبية، فيكون الضغط الساكن هو العامل الأهم . تُقدّر مروحة هيكل الكمبيوتر الاستهلاكية النموذجية مقاس 120 مم بمعدل 70 قدم مكعب في الدقيقة عند ضغط 1.2 مم ماء؛ بينما تُقدّر مروحة خادم صناعية مقاس 120 مم (مثل دلتا، وسانيو دينكي، ونيدك، وسان إيس) بمعدل 110 قدم مكعب في الدقيقة عند ضغط 8-12 مم ماء. يبلغ فرق معدل تدفق الهواء 60%؛ بينما يبلغ فرق الضغط الساكن 7-10 أضعاف. في هيكل ذي زعانف متقاربة، قد تُوفر مروحة الهيكل 20 قدم مكعب في الدقيقة من التدفق الفعلي؛ بينما تُوفر المروحة الصناعية 80-90 قدم مكعب في الدقيقة. لهذا السبب، يكون هيكل كينتينو AI صاخبًا (55-62 ديسيبل عند واجهة الرف) ويُوضع في رف أو خزانة، وليس على مكتب.

القواعد: ~40-50 قدم مكعب في الدقيقة من التدفق عبر الهيكل لكل كيلو واط من حرارة وحدة معالجة الرسومات؛ ضغط ثابت عند المدخل ≥ 5 مم H2O؛ يجب أن يكون مبرد وحدة المعالجة المركزية من نوع البرج من الأمام إلى الخلف، وليس من نوع التدفق العلوي.

إدارة الضغط والفلاتر والكابلات

ضغط الهيكل هو معدل تدفق الهواء الداخل (CFM) مقابل معدل تدفق الهواء الخارج (CFM). الضغط الموجب (زيادة تدفق الهواء الداخل) يُسرّب الهواء من جميع الفتحات ويحجز الغبار عند الفلتر الأمامي؛ أما الضغط السالب فيسحب الهواء غير المُفلتر من جميع الوصلات. يتميز هيكل Kentino 4U بضغط موجب معتدل بحكم تصميمه - ثلاث فتحات لتدفق الهواء الداخل، وفتحة واحدة لتدفق الهواء الخارج من الخلف، بالإضافة إلى فتحة لتدفق الهواء الخارج من وحدة تزويد الطاقة. تُعد الفلاتر مهمة: انسداد فلتر تدفق الهواء الداخل بنسبة 50% يُقلل من تدفق الهواء داخل الهيكل بنسبة 30-40%. يُنصح بفحص الفلتر كل 90 يومًا في المكتب، وكل 30 يومًا في المختبر. معظم التقارير التي تُشير إلى "ارتفاع درجة حرارة الخادم بعد ستة أشهر" تكون بسبب مشاكل في الفلاتر، وليس بسبب تلف السيليكون.

تُعدّ الكابلات الموجودة في عمود الهواء الأمامي الخلفي من أكثر المشاكل الحرارية التي يتم التقليل من شأنها في أجهزة الكمبيوتر متعددة وحدات معالجة الرسومات. يؤدي وضع حزمة كابلات ATX ذات 24 سنًا على جانب مدخل الهواء لوحدة معالجة الرسومات الرابعة إلى تقليل تدفق الهواء الفعال لهذه البطاقة بنسبة 25-40%، ويرفع درجة حرارتها بمقدار 5-8 درجات مئوية مقارنةً ببقية وحدات معالجة الرسومات. لذا، يُنصح بتوجيه كابلات الطاقة وEPS خلف لوحة الأم، وتجنب وضعها عبر عمود الهواء؛ كما يُنصح بعدم وضع أي كابلات أمام منتصف وحدة معالجة الرسومات. يشرح المقال W04 سبب سهولة هذا الأمر عمليًا في أجهزة الكمبيوتر رباعية وحدات معالجة الرسومات عند استخدام مزودَي طاقة منفصلين، حيث يُقلل ذلك من كتلة الكابلات إلى النصف لكل جانب. يُعدّ اختيار مزودَي الطاقة خيارًا ذا أهمية حرارية بقدر ما هو ذو أهمية كهربائية.

تباعد الرفوف على شكل حرف U والعادم الساخن

وحدة 4U بقدرة 2.4 كيلوواط تدفع هواءً ساخنًا بدرجة حرارة 35-45 درجة مئوية بمعدل تدفق هواء يزيد عن 100 قدم مكعب في الدقيقة؛ بينما وحدة 8U بقدرة 5 كيلوواط تدفع هواءً ساخنًا بدرجة حرارة 40-50 درجة مئوية بمعدل تدفق هواء يزيد عن 200 قدم مكعب في الدقيقة. يُعدّ تركيب ألواح تغطية في فتحات U غير المستخدمة إلزاميًا في أي رف مغلق، فبدونها، يعود الهواء الساخن إلى مدخل الهواء البارد. تُعتبر الخزائن المغلقة الملاصقة للجدار أسوأ الحالات، حيث تكون الوحدات العلوية أسخن بمقدار 8-12 درجة مئوية من الوحدات السفلية. يُوفّر تركيب وحدة U فارغة أعلى وأسفل كل خادم متعدد وحدات معالجة الرسومات في الرفوف غير المغلقة مساحة إضافية لتهوية المدخل تتراوح بين 5-8 درجات مئوية. يُعدّ احتواء الممر الساخن ذا جدوى عند استخدام أربعة رفوف، ولكنه مُبالغ فيه بالنسبة لرف واحد.

قياسات حقيقية - 4 وحدات معالجة رسومية و8 وحدات معالجة رسومية تحت حمل مستمر

تشغيل اختبار داخلي لـ Kentino، استدلال vLLM 70B Q4، حالة مستقرة لمدة 30 دقيقة، درجة حرارة الغرفة 22 درجة مئوية ± 1 درجة مئوية.

نبنيها موعد بدء الدراسة حافة وحدة معالجة الرسومات ميزة وحدة المعالجة المركزية العادم خنق
4× RTX 5090 (4U, EPYC 9354) 23 ° C 76 – 84 ° C 68 ° C 41 ° C لا
8× RTX 5090 (8U, 2× EPYC 9554) 24 ° C 78 – 86 ° C 70 – 72 ° C 46 ° C حافة
4 محطات عمل Pro 6000 (4U) 23 ° C 71 – 77 ° C 67 ° C 43 ° C لا

يُعدّ تصميم 4× 5090 هو الهدف الأمثل، حيث تتوزع درجة الحرارة على 8 درجات مئوية، مع الحفاظ على تردد التعزيز ضمن نطاق 30 ميجاهرتز من التردد الاسمي. أما تصميم 8× 5090 فيقترب من الحد الأقصى؛ إذ تصل درجة حرارة وحدة معالجة الرسومات الثامنة إلى 86 درجة مئوية، وهي على حافة الحد الأقصى لتردد التعزيز. في الغرف التي تزيد درجة حرارتها عن 24 درجة مئوية، يبدأ تصميم 8× 5090 بفقدان تردد التعزيز في البطاقات الخلفية - في هذا التصميم، تُصبح درجة حرارة الغرفة المحيطة عاملاً أساسياً في عملية التركيب. يعمل جهاز Pro 6000 Workstation ذو 4× بدرجة حرارة أقل مع نفس استهلاك الطاقة، وذلك بفضل الحد الأقصى الثابت للطاقة البالغ 600 واط ونظام التبريد ذي التدفق المزدوج، مما يوفر نطاقًا حراريًا أكثر استقرارًا من تصميم 5090 الاستهلاكي الذي يشهد ارتفاعات مفاجئة في درجة الحرارة.

نقاط ساخنة خارج شريحة وحدة معالجة الرسومات

عدد nvidia-smi يُشير التقرير إلى مستشعر الحافة - حافة ذاكرة GDDR أو حافة السيليكون، حسب نوع البطاقة. وهو ليس الجزء الأكثر سخونة في الهيكل. هناك ثلاثة مواقع أخرى مهمة:

VRMS عادةً ما ترتفع درجة حرارة وحدة تنظيم الجهد (VRM) بمقدار 10-20 درجة مئوية عن درجة حرارة الشريحة تحت الحمل المستمر، بحد أقصى حوالي 110 درجة مئوية. في بطاقة 5090 بقدرة 575 واط، تُظهر بيانات قياس اللوحة درجات حرارة وحدة تنظيم الجهد في نطاق 85-95 درجة مئوية. تقوم البطاقات ذات التبريد الضعيف لوحدة تنظيم الجهد بخفض الأداء بناءً على درجة حرارة وحدة تنظيم الجهد قبل درجة حرارة الشريحة، وهو أمر غير مرئي للوحة. nvidia-smi --query-gpu=temperature.gpuلا يظهر هذا إلا على شكل انخفاض غير مبرر في تردد المعالج. إذا كانت البطاقة تعمل بدرجة حرارة منخفضة على مستشعر وحدة معالجة الرسومات ولكنها تفقد خاصية التعزيز، فمن المحتمل أن يكون السبب هو وحدة تنظيم الجهد (VRM).

ترتفع درجة حرارة ذاكرة GDDR7 في بطاقة 5090 بشكل ملحوظ. يؤدي الاستدلال المستمر مع حركة مرور عالية إلى رفع درجة حرارة وصلات الذاكرة إلى 95-100 درجة مئوية. تقوم البطاقة بخفض تردد الذاكرة أولاً (بنسبة فقدان في عرض النطاق الترددي تتراوح بين 3-5%)، ثم تردد وحدة معالجة الرسومات. بالنسبة لأحمال العمل التي تعتمد بشكل كبير على الذاكرة، تُعد درجة حرارة الذاكرة هي العامل المحدد للسرعة، وليس درجة حرارة المعالج.

تُعدّ محركات أقراص NVMe SSD بمثابة القاتل الصامت. فمحرك PCIe 5.0 الذي يقوم بعمليات قراءة مستمرة (تحميل أوزان بحجم 70 بايت، وتدفق مجموعات البيانات) تصل درجة حرارته إلى 70-80 درجة مئوية في غضون ثوانٍ دون تبريد فعّال. وعند تجاوز 75 درجة مئوية تقريبًا، يُخفّض المتحكم سرعة المعالجة، وينخفض ​​عرض نطاق القراءة إلى النصف. ويستغرق تحميل نموذج، كان من المفترض أن يستغرق 8 ثوانٍ، 16 ثانية، ولا أحد يعلم السبب. ويأتي كل إصدار من Kentino AI مزودًا بمحركات NVMe مع مشتتات حرارية في مسار تدفق الهواء داخل الهيكل.

لمراقبة كل ما يهم في عملية الإنتاج:

nvidia-smi --query-gpu=index,temperature.gpu,temperature.memory,clocks.gr,clocks.mem,power.draw \
           --format=csv -l 5

بالنسبة لتقنية NVMe، nvme smart-log /dev/nvme0 يُبلغ عن درجات حرارة وحدة التحكم والمكونات؛ ويُصدر إنذارًا عند 70 درجة مئوية للمكونات. يتم عرض درجة حرارة وحدة تنظيم الجهد (VRM) على بطاقات Pro 6000 عبر DCGM (dcgm-exporter بالنسبة لبروميثيوس)؛ أما بالنسبة لبطاقات المستهلكين، فهي خاصة ببائع اللوحة وغالبًا ما تظهر فقط في أدوات ويندوز - وهو أحد الأسباب العديدة التي تجعلنا نفضل بطاقات محطات العمل في الإنتاج طويل الأمد.

درجة حرارة الغرفة المحيطة وغلاف ASHRAE

تحدد معايير ASHRAE TC9.9 النطاقات الحرارية التي يتبعها تصميم مراكز البيانات. توصي الفئة A1 (مراكز البيانات المشتركة من المستوى الأول) بدرجة حرارة مدخل تتراوح بين 18 و27 درجة مئوية؛ بينما توسع الفئة A2 (مراكز البيانات العامة) النطاق المسموح به إلى 10-35 درجة مئوية. صُممت مجموعة Kentino AI وفقًا للفئة A2، ولكن نطاق التشغيل الأمثل لهيكل 5090 (4× أو 8×) يقع ضمن الفئة A1: حيث تبلغ درجة حرارة المدخل 22 درجة مئوية كنقطة تصميم، و26 درجة مئوية هي الحد الأقصى العملي قبل بدء فقدان الطاقة. كما أن الرطوبة مهمة أيضًا: توصي ASHRAE بنسبة رطوبة غير مكثفة تتراوح بين 20 و80%. يُنصح بالحفاظ على نسبة رطوبة نسبية تتراوح بين 40 و60% على مدار العام.

نبنيها البيئة المحيطة الموصى بها سقف (بدون دواسة الوقود) سقف صلب (أي دواسة وقود)
4 × 4090 18 – 24 ° C 26 ° C 30 ° C
4 × 5090 18 – 22 ° C 24 ° C 28 ° C
4× برو 6000 18 – 25 ° C 27 ° C 32 ° C
8 × 5090 18 – 22 ° C 23 ° C 26 ° C
8× برو 6000 18 – 24 ° C 25 ° C 29 ° C
8× L40 18 – 26 ° C 28 ° C 32 ° C
8× L4 18 – 28 ° C 30 ° C 35 ° C

تُعدّ أرقام L40 وL4 السبب وراء استمرار جاذبية هذه البطاقات في بيئات العمل المكتبية: فهي تتحمل أنظمة التكييف والتهوية المكتبية العادية. أما نظام 5090 ذو 8 وحدات معالجة رسومية فيحتاج إلى غرفة خوادم أو خزانة مزودة بنظام تبريد خاص، بلا شك.

تحديد حجم نظام التدفئة والتهوية وتكييف الهواء في فقرة واحدة

حمل تبريد الغرفة يساوي استهلاك الطاقة المستمر من الحائط: 1 كيلوواط = 3,412 وحدة حرارية بريطانية/ساعة. خادم بقدرة 2.4 كيلوواط و4 وحدات معالجة رسومية يستهلك حوالي 8,200 وحدة حرارية بريطانية/ساعة؛ وخادم بقدرة 4.5 كيلوواط و8 وحدات معالجة رسومية يستهلك حوالي 15,400 وحدة حرارية بريطانية/ساعة. يُنصح باختيار مكيف هواء بقدرة 1.3 ضعف الحمل في حالة التشغيل المستمر - نفس قاعدة هامش الأمان المطبقة على وحدات تزويد الطاقة. مكيف هواء منفصل بقدرة 12,000 وحدة حرارية بريطانية على خادم بقدرة 2.4 كيلوواط يعمل بكامل طاقته ويتلف الضاغط خلال 18-30 شهرًا؛ بينما وحدة بقدرة 24,000 وحدة حرارية بريطانية على نفس الحمل تعمل بنصف طاقتها وتدوم من 8 إلى 10 سنوات. يصبح التبريد الدقيق (CRAC) ضروريًا عند تجاوز قدرة 10 كيلوواط؛ أما عند أقل من ذلك، فيكفي مكيف هواء منفصل ذو قدرة مناسبة.

عامل الشكل: رف 4U، رف 8U، برج

تستخدم تشكيلة Kentino AI ثلاثة أنواع من الحواسيب: حواسيب 4U للتركيبات ذات 4 وحدات معالجة رسومية (3 مراوح سحب 120 مم، مروحة خلفية واحدة، هيكل ATX مزدوج، رف 19 بوصة)، وحواسيب 8U للتركيبات ذات 8 وحدات معالجة رسومية (مراوح خوادم صناعية، مزود طاقة CRPS، لوحة أم ثنائية المعالج، كثافة حرارية تقارب ضعف كثافة حواسيب 4U)، ومحطات عمل برجية لأجهزة التطوير ذات وحدة معالجة رسومية واحدة أو اثنتين (مراوح PWM، مناسبة للمكاتب). لا نوفر محطات عمل برجية للتركيبات التي تحتوي على أكثر من وحدتي معالجة رسومية - حيث تصل درجة حرارة الهيكل الرأسي ذي 4 وحدات معالجة رسومية إلى 90 درجة مئوية على البطاقة العلوية خلال 20 دقيقة من التشغيل المستمر. بينما تبقى درجة حرارة نفس المكونات في حواسيب 4U أقل من 85 درجة مئوية بشكل دائم.

التبريد السائل - متى ولماذا

يُمكن تبريد كل وحدة معالجة رسومية (GPU) بالهواء في وحدة 4U مُصممة جيدًا بحوالي 600 واط؛ أما في حال تجاوز هذا الحد، فالتبريد السائل هو الحل الأمثل. يُقلل نظام التبريد السائل المتكامل (AIO) لكل بطاقة درجة حرارة حافة وحدة المعالجة الرسومية بمقدار 15-25 درجة مئوية، ولكنه يُضيف تعقيدًا كبيرًا، حيث يُصبح تعطل المضخة وتبخر سائل التبريد الصامت من أنماط الأعطال الجديدة. يُعد التبريد المباشر للرقاقة باستخدام مُبادل حراري خلفي مُتصل بمياه التبريد في المنشأة هو الحل الأمثل عند وجود 16 وحدة معالجة رسومية أو أكثر لكل مجموعة. يُعد الغمر في سائل عازل فعالًا، ولكنه مُكلف، ويُغير نموذج الصيانة تمامًا.

بالنسبة لتشكيلة كينتينو الحالية - هياكل مبردة بالهواء بقدرة تصل إلى 600 واط لكل بطاقة - يُعد التبريد الهوائي الخيار الأمثل . يعمل جهاز مزود بأربع بطاقات 5090 عند درجة حرارة قصوى تتراوح بين 78 و84 درجة مئوية دون أي تباطؤ، على مدار الساعة، في بيئة باردة بدرجة حرارة 22 درجة مئوية. أما التبريد السائل، فسيرفع درجة الحرارة إلى ما بين 55 و65 درجة مئوية، مع زيادة طفيفة في تردد المعالج؛ إلا أن التكلفة الرأسمالية والتعقيد لا تبرر ذلك على هذا النطاق.

ما يجب فعله بعد ذلك - قائمة التحقق من المراقبة الحرارية

إذا كنت تقوم بتحديد حجم الجانب الحراري لغرفة بناء أو نشر:

  1. هل درجة حرارة الغرفة باردة؟ قم بالقياس تحت حمل واقعي، وليس يوم الأحد مع تشغيل مكيف الهواء بأقصى طاقته. قارن ذلك بالجدول الخاص بدرجة الحرارة المحيطة أعلاه.
  2. هل حجم تبريد الغرفة يعادل 1.3 ضعف استهلاك الطاقة من جدار الخادم؟ يعمل مكيف الهواء المصمم ليتناسب تمامًا مع الحمل بنسبة 100% من دورة التشغيل ويتعطل في غضون عامين.
  3. أين يذهب العادم الساخن؟ الرف المفتوح ذو الممر الساخن جيد؛ أما الخزانة المغلقة بدون احتواء، أو الخزانة التي يكون فيها الخادم موجهًا نحو الحائط، فليس كذلك.
  4. دورة التشغيل؟ تختلف احتياجات التبريد لجهاز التطوير عند تحميله بنسبة 30٪ عن احتياجات التبريد لخادم الاستدلال الذي يعمل على مدار الساعة طوال أيام الأسبوع.
  5. خطة تصفية ونمو؟ يؤدي انسداد الفلتر إلى تقليل تدفق الهواء إلى النصف بهدوء؛ بينما يؤدي وجود خادم ثانٍ إلى مضاعفة الحمل الحراري. لذا، قم بجدولة كليهما.
  6. هل يتم تشغيل نظام القياس عن بعد؟ nvidia-smi يتم استطلاع البيانات كل 5 ثوانٍ لوحدة معالجة الرسومات (GPU) الخاصة بالحافة/الذاكرة/الترددات/الطاقة. nvme smart-log بالنسبة لمحركات الأقراص، DCGM لـ VRM حيثما كان ذلك متاحًا، درجة حرارة الغرفة المحيطة + الرطوبة في مجموعة المراقبة مع إنذارات عند 27 درجة مئوية وخارج 40-60% رطوبة نسبية.

يأتي تصميم الهيكل - الذي يشمل تدفق هواء من الأمام إلى الخلف، ومراوح صناعية بقطر 120 مم، ووحدات معالجة رسومات تعمل بالهواء المضغوط أو التبريد السلبي، وتوجيه الكابلات المنظم - بشكل افتراضي في جميع إصدارات Kentino AI. أما الغرفة والرف فهما من مسؤولية العميل، وهما مصدر معظم المشاكل الميدانية.

يغطي W06 (التالي في سلسلة W) مستويات التخزين - NVMe و SAS وتخطيطات مجموعات التخزين الكبيرة التي تقترن بهياكل الحوسبة هذه.


هذا جزء من موسوعة كينتينو، وهي سلسلة مرجعية حول الحوسبة الذكية، والروبوتات، والأنظمة التي تربط بينهما. نرحب بالتعليقات والتصويبات على البريد الإلكتروني info@kentino.com.