اقتصاديات الاستدلال المستدام مقابل الاستدلال السريع: متى يكون الحل المحلي هو الأفضل، ومتى يكون الحل السحابي هو الحل الأمثل؟
يستهلك خادم الاستدلال ذو الأربع وحدات معالجة رسومية نفس القدر من الكهرباء، ويشغل نفس مساحة الرف، ويتناقص سعره وفقًا لنفس الجدول الزمني، سواءً كان يخدم عشرين مليون رمز مميز يوميًا أو عشرين ألفًا. لا تعلم البطاقات أنها في وضع الخمول، بينما يعلم المحاسب بذلك. هذا التباين الوحيد - التكلفة الثابتة في البنية التحتية المحلية، والتكلفة الحدية في الحوسبة السحابية - هو السبب الرئيسي وراء اعتماد الإجابة الصحيحة على سؤال "هل ننتقل إلى البنية التحتية المحلية؟" على طبيعة حركة البيانات بقدر اعتمادها على حجمها.
قامت المقالة T01 بحساب تكلفة البطاقة الواحدة عند نقطة استخدام واحدة. أما المقالة T02 فتقارن تكلفة المليون رمز مع تكلفة واجهات برمجة التطبيقات السحابية عند أقصى حمل. هذه المقالة (T03) هي التي يحتاج مديرك المالي إلى قراءتها فعلاً: ما الذي يحدث لهذه الأرقام عندما يكون حجم البيانات متقطعاً، وعندما يكون مستمراً، وكيفية تصميم نظام لا يُفرط في الإنفاق من أي جانب.
الجمهور المستهدف هو شخص قد استنتج بالفعل أن عبء العمل قد يناسب البنية التحتية المحلية، ويحتاج الآن إلى تحديد مقدار البنية التحتية المحلية، وما الذي سيحل محل الباقي.
فخ التكاليف الثابتة
تتفاوت تكلفة الاستدلال السحابي تبعًا للاستخدام. تبلغ تكلفة مكالمة Llama 70B واحدة على موفر OpenRouter ما يقارب 0.50 إلى 2.00 يورو لكل مليون رمز مميز (يختلف السعر حسب المستوى والموفر). لا تدفع شيئًا إذا لم ترسل أي بيانات. إذا أرسلت عشرة أضعاف البيانات، ستدفع عشرة أضعاف. العلاقة خطية وتبدأ من الصفر.
الاستدلال المحلي هو عكس ذلك. جهاز Blackwell مزود بأربعة معالجات RTX Pro 6000 ( يُقدّر T01 التكلفة الإجمالية للملكية على مدى ثلاث سنوات بحوالي 58 ألف يورو شاملةً النفقات الرأسمالية المستهلكة، والكهرباء، وحصة الهيكل، والصيانة) يُكلّف هذا المبلغ سواءً خدم مليون رمز أو تريليون رمز. التكلفة الحدية للرمز رقم 200 مليون في الشهر هي نفسها التكلفة الحدية للرمز الثاني: كيلوواط/ساعة من الكهرباء المُستهلكة لحسابه لا غير. تُعتبر النفقات الرأسمالية تكلفة ثابتة منذ يوم شحن الجهاز.
إن العواقب المحاسبية قاسية ونادراً ما يستوعبها المشترون:
| الاستخدام المستدام | الرموز المميزة المقدمة / 3 سنوات (Pro 6000، Llama 70B FP8 الدفعة 32) | السعر الفعلي باليورو/المتوك |
|---|---|---|
| 100% | 45.4 B | 0.32 |
| 60% | 27.2 B | 0.53 |
| 30% | 13.6 B | 1.07 |
| 10% | 4.5 B | 3.21 |
| 5% | 2.3 B | 6.42 |
(نفس الأجهزة، نفس التكلفة الإجمالية للملكية البالغة 14.4 ألف يورو لكل بطاقة على مدى ثلاث سنوات؛ فقط المقام يتغير.)
يتراوح سعر الحوسبة السحابية لمنصة Llama 70B FP8 في عام 2026 بين 0.50 و1.50 يورو لكل مليون توك، وذلك حسب مستوى مزود الخدمة. راجع الجدول مرة أخرى مع مراعاة ذلك. عند استخدام مستدام بنسبة 5%، يكون الخادم المحلي أغلى من جميع خيارات الحوسبة السحابية المتاحة. عند 30%، يتساوى مع أغلى مزودي الخدمة. عند 60% فأكثر، يتفوق الخادم المحلي بشكل ملحوظ من الناحية الحسابية.
يكمن الفخ في أن العملاء يقارنون النفقات الرأسمالية بالحمل الحالي، ثم يكتشفون بعد ستة أشهر أن الحمل الحالي كان يمثل 8% فقط من قدرة الجهاز. لم يكن هناك أي خلل في الأجهزة، بل في حجمها.
كيف يبدو الاستخدام الفعلي للإنتاج
لدينا بيانات عامة بالإضافة إلى بياناتنا الخاصة في جميع مواقع تركيبات كينتينو للذكاء الاصطناعي التي نقوم بتشغيلها أو زيارتها، والصورة متسقة في جميع أنحاء الصناعة في عام 2026:
| فئة عبء العمل | الاستخدام المستدام النموذجي | ملاحظة |
|---|---|---|
| دردشة موجهة للعملاء / روبوت دردشة | 10–25 ٪ | حركة المرور النهارية، وتفريغ السيارات في عطلة نهاية الأسبوع، ونصف يوم من الخمول |
| مساعد الترميز الداخلي | 15–30 ٪ | أمطار غزيرة من الساعة 09:00 صباحًا حتى 18:00 مساءً، وهطول أمطار تقارب الصفر طوال الليل |
| سير عمل استخدام الوكيل / الأداة | 20–40 ٪ | متقطع في كل جلسة؛ يعتمد على عدد الوكلاء |
| استرجاع RAG + LLM (بحث دلالي) | 25–50 ٪ | مستقر إلى حد ما، مدفوع بمعدل الاستعلام |
| المعالجة الدفعية (التصنيف التلقائي، التلخيص، استخراج المستندات) | 60–90 ٪ | يعتمد على نظام الطوابير، ويمكن تعديل وتيرته لملء السعة |
| التدريب المستمر / التحسين المستمر | 90٪ + | مثبت دائمًا؛ الحالة السهلة |
تشير الأرقام الرئيسية من عمليات النشر في بيئات الإنتاج واستطلاعات رأي المشغلين إلى أن معظم الفرق التي تُشغّل أنظمة الاستدلال الخاصة بها تُبلغ عن متوسط استخدام لوحدات معالجة الرسومات يتراوح بين 20 و40% ، بينما ترتفع هذه النسبة في الأنظمة المتطورة تدريجيًا إلى ما بين 40 و65% . أي نسبة تتجاوز 65% بشكل مستمر تعني إما أنها تُشغّل عمليات دفعية بحتة أو أن مجموعة الخوادم تعمل بكامل طاقتها لدرجة أنها ستتراكم في قائمة الانتظار عند ذروة حركة البيانات التالية. أما النسبة الأقل من 20% فتعني أن الجهاز يعمل في الغالب لتغطية تكاليفه، وليس لخدمة المستخدمين.
الرقم الذي يُفاجئ المشترين دائمًا: نادرًا ما يتجاوز حجم العمل التفاعلي - كبرنامج الدردشة الآلي، أو مساعد البرمجة، أو برنامج دعم العملاء الآلي - نسبة 30%. والسبب هو ساعات النهار. فحتى المنتجات العالمية لها فترات انخفاض في الاستخدام، بينما المنتجات الإقليمية لها 14 ساعة من الاستخدام المنخفض يوميًا. وهذا يُؤثر سلبًا على الحسابات.
أعباء العمل المستدامة - أساس العمل
تُعدّ اقتصاديات التثبيت المحلي فعّالة للغاية لأي عبء عمل يُمكن فيه تشغيل وحدات معالجة الرسومات (GPUs) معظم ساعات اليوم. وفيما يلي ترتيب تقريبي لتكرار استخدامها في عمليات تثبيت Kentino AI:
- مساعد البرمجة / الواجهة الخلفية لبيئة التطوير المتكاملة لفريق يضم أكثر من 30 مهندساً. حمولة عمل ثابتة خلال أيام الأسبوع من الساعة 09:00 صباحاً حتى 18:00 مساءً، وأوقات مسائية أخف، وعطلات نهاية أسبوع شبه معدومة. متوسط زيادة في العمل يتراوح بين 20 و30% على مدار الأسبوع، ويبلغ ذروته بين 60 و80% خلال ساعات العمل.
- روبوت دردشة لدعم العملاء / المبيعات مع حركة مرور على مدار الساعة. يتبع النمط اليومي المنطقة التي يتم خدمتها؛ حيث تصل المنتجات العالمية بنسبة 25-35% بشكل مستدام، والمنتجات الإقليمية بنسبة 15-25%.
- نظام البحث الدلالي RAG فهرسة قاعدة المعرفة الداخلية وتقديمها. معدل الاستعلامات ثابت إلى حد ما؛ إعادة الفهرسة مهمة مجدولة تُجرى ليلاً وتستهلك 95% من موارد النظام. معدل الاستخدام الإجمالي يتراوح بين 30 و50%.
- تجهيز الدفعات - تلخيص وثائق الأمس خلال الليل، وعمليات تصنيف تلقائي أسبوعية، وإعادة تصنيف شهرية لمجموعة بيانات. عمل قائم على قائمة الانتظار فقط، بنسبة استخدام تتراوح بين 70 و90% طالما أن قائمة الانتظار غير فارغة، ومصمم للعمل حتى الاكتمال.
- استنتاج أسطول الروبوتات — وحدات متعددة تسحب البيانات من نفس نقطة نهاية VLM خلال ساعات التشغيل، وهي في وضع الخمول بالخارج (I01, I06).
يتمثل النمط في أن أحمال العمل المستمرة إما أن تمتد عبر مناطق زمنية كافية لتغطية اليوم بأكمله، أو تتضمن مكونات معالجة دفعية تسد الفجوات عمدًا. تُعد تقنية "سد الفجوات" أهم أداة لخفض التكلفة الإجمالية للملكية التي يمكن للعميل استخدامها، وهي في الوقت نفسه الأكثر إغفالًا. على سبيل المثال، جهاز يُشغّل الدردشة التفاعلية لمدة 12 ساعة يوميًا بنسبة 30%، ويُشغّل خاصية وضع العلامات التلقائية ليلًا بنسبة 90%، يصل متوسط استخدامه إلى حوالي 60% - أي ضعف الاستخدام الفعلي، ونصف تكلفة الرمز المميز.
أحمال العمل المفاجئة - حيث تتضرر البنية التحتية المحلية
أما الشكل المقابل فهو عبء عمل يتطلب سعة هائلة لفترة قصيرة، ولا يحتاج إلى أي سعة تقريبًا في بقية الوقت. ومن الأمثلة التي نراها بانتظام:
- حملة تسويقية / حملة لإنتاج المحتوى. قم بإنشاء نسخ مختلفة لحملة إعلانية عبر N سوقًا في غضون 48 ساعة، ثم لا شيء لمدة شهر.
- لحظات المحتوى الفيروسي. تطبيق للمستهلكين يطلق ميزة جديدة، ويتم عرضه في نشرة إخبارية تقنية، ويرتفع عدد الزيارات بمقدار 50 ضعف المعدل الطبيعي لمدة ست ساعات، ثم يعود إلى مستواه الطبيعي بحلول صباح اليوم التالي.
- فعاليات تجريبية/توضيحية. جناح في معرض تجاري يعرض عروضًا توضيحية مباشرة للاستدلال لمدة ثلاثة أيام، ثم يعود إلى الصفر.
- مهام الدفعات الدورية التي يجب أن تنتهي خلال فترة زمنية محددة. إجراء فحص امتثال شهري لمجموعة كاملة من المستندات التي يجب إكمالها بحلول الموعد النهائي التنظيمي.
- تحليلات ليلة الانتخابات أو الأحداث المباشرة — فترة تتراوح بين 12 و 48 ساعة يكون فيها الحجم 100 ضعف الحجم الطبيعي.
مثال عملي: يتطلب عبء العمل توليد 10 ملايين رمز. عند توزيعها على مدار 24 ساعة، يبلغ معدل توليدها الإجمالي حوالي 116 رمزًا في الثانية - ويمكن لخادم L4 واحد معالجتها. أما عند ضغطها في ساعة واحدة، فيبلغ معدل توليدها 2,778 رمزًا في الثانية - مما يتطلب تشغيل جهاز Pro 6000 بأربعة معالجات رسوميات بكامل طاقته، أو ما يعادل ستة خوادم L4 تقريبًا.
لذا، يتطلب نفس العدد من الرموز المميزة (10 ملايين رمز) إما بطاقة واحدة تعمل على مدار الساعة طوال أيام الأسبوع، أو ست بطاقات لمدة ساعة واحدة. في حالة أحمال العمل المفاجئة، تبقى سعة النظام المحلي غير مستخدمة لمدة 23 ساعة من كل 24 ساعة. ينهار حساب التكلفة الإجمالية للملكية: فتكلفة جهاز البطاقات الست، عند استخدام 4% فقط، تتراوح بين 13 و25 يورو لكل مليون رمز مميز، وفقًا لما هو موضح في الجدول أعلاه. بينما يوفر استخدام السحابة نفس الحمل بتكلفة إجمالية قدرها 15 يورو فقط، أي أن نقطة التعادل بعيدة كل البعد عن ذلك.
الخلاصة الحتمية: محاولة تحديد حجم الخوادم المحلية لتلبية ذروة الاستخدام هي أكثر أخطاء الإنفاق الزائد شيوعًا. يرغب العملاء في أن يغطي الجهاز أسوأ سيناريو لذروة الاستخدام، لذا يشترون أربعة أضعاف وحدات معالجة الرسومات التي يحتاجونها في أسبوع عادي. تصل الفاتورة على شكل نفقات رأسمالية لا يمكن استردادها، وأسطول خوادم معطل بنسبة 90%.
النمط الهجين
إن البنية الصحيحة لأحمال العمل الإنتاجية الحقيقية بكلا الشكلين هي خط الأساس المحلي بالإضافة إلى تجاوز سعة السحابة.
التوجيه الهجين: التوجيه المحلي أولاً، ثم التوجيه السحابي فقط عندما يتجاوز عمق قائمة الانتظار الحد المكوّن.
لا تعتمد آلية التوجيه الصحيحة على "إرسال نسبة معينة إلى السحابة، والباقي إلى البنية التحتية المحلية". بل تعتمد على البنية التحتية المحلية أولاً، ثم السحابة فقط عندما تكون البنية التحتية المحلية ممتلئة . ويُعتمد في ذلك على عمق قائمة الانتظار أو استخدام ذاكرة التخزين المؤقت للقيم والمفاتيح على جانب vLLM ( يغطي K03 هذه المقاييس)، وليس على تقسيم ثابت.
وصفة عملية باستخدام vLLM:
- قم بتوصيل مجموعة الخوادم المحلية بجهاز توجيه يعرض
/v1/chat/completions. NGINX، HAProxy، vLLM Router، أو بوابة مخصصة صغيرة كلها تعمل. - تعرض
vllm:num_requests_waitingكمقياس لعمق قائمة الانتظار. يتم تحديد عتبة، على سبيل المثال، من 8 إلى 16 انتظارًا لكل نسخة قبل بدء التشغيل الاحتياطي. - في حالة تجاوز سعة الخادم، يتم توجيه المستخدم إلى نقطة نهاية سحابية تحمل نفس اسم النموذج. تدعم كل من OpenRouter وTogether وFireworks نماذج من فئة Llama. ثبّت أحدها كخادم أساسي والآخر كخادم احتياطي لتجنب انقطاع الخدمة مع مزود واحد.
- قم بتصنيف طلبات تجاوز سعة النظام في نظام المراقبة لديك لتتمكن من معرفة النسبة المئوية التي يتم إنفاقها يوميًا. إذا كانت النسبة أعلى من 15% في معظم الأيام، فإن مواردك المحلية غير كافية؛ أما إذا كانت أقل من 1% لأسابيع، فإن مواردك المحلية زائدة.
المنطق الاقتصادي: دفع النفقات الرأسمالية مرة واحدة مقابل الحمل الثابت ، ودفع رسوم متغيرة على الحوسبة السحابية عند ذروة الاستخدام. عند تطبيق هذا المنطق بشكل صحيح، يصل الاستخدام الفعال للخادم المحلي إلى 50-70% (يتم ضبط عتبة التوجيه بناءً على ذلك) مع الحفاظ على الالتزامات المتعلقة بزمن الاستجابة أثناء فترات الذروة.
بدء التشغيل البارد: واقع التوسع التلقائي
الحل الساذج المُعتمد على الحوسبة السحابية لمشكلة الأحمال المفاجئة هو "التوسع التلقائي لمجموعة الخوادم المحلية" - أي إبقاء عدد النسخ الاحتياطية عند الصفر في حالة الخمول، وتفعيلها عند الطلب. لكن هذا الحل يُسبب مشاكل كبيرة لخدمة إدارة دورة حياة التطبيقات (LLM) لسبب واحد: وقت تحميل النموذج.
يستغرق تحميل بيانات Llama 70B FP8 (حوالي 75 جيجابايت من الأوزان) من محرك أقراص NVMe من الجيل الخامس ما بين 30 و60 ثانية من عمليات الإدخال/الإخراج فقط، بسرعة قراءة نظرية تتراوح بين 12 و14 جيجابايت/ثانية. وبإضافة تجميع نواة CUDA، وتهيئة مُجدول vLLM، وتخصيص ذاكرة التخزين المؤقت KV مسبقًا، تصبح النسخة المتماثلة الجديدة جاهزة لتلقي أول طلب لها بعد 60 إلى 120 ثانية من بدء تشغيل الحاوية . تُساعد النماذج الأصغر حجمًا بشكل نسبي - حيث يُمكن تحميل 8 بايت في غضون 5 إلى 10 ثوانٍ - ولكن أي حجم يزيد عن 30 بايت يقع ضمن نطاق "مهل المستخدمين".
بالنسبة لأحمال العمل الدفعية، هذا مقبول. أما بالنسبة لأحمال العمل التفاعلية، فهو كارثي. يُعدّ تأخير دقيقتين في الطلب الذي أدى إلى حدث التوسع أمرًا غير مقبول.
إجراءات التخفيف، حسب ترتيب الجهد المبذول:
- حافظ على دفء النسخ N دائمًا. الحد الأدنى الذي يتحمل حمولتك المتوسطة. الميزان up عند الطلب، أبداً حتى الصفرإن نمط الحد الأدنى الدافئ هو ما يبني عليه المشغلون الناضجون منتجاتهم بالكامل.
- وضع السكون vLLM. تدعم الإصدارات الأحدث من vLLM حالة "السكون" حيث تبقى الأوزان في ذاكرة وحدة معالجة الرسومات، لكن المحرك يحرر موارد الحوسبة. أما الاستيقاظ فهو أسرع بـ 18-20 مرة من حمولة جديدةمفيد عندما يكون لديك نماذج متعددة تشترك في وحدات معالجة الرسومات ولكن يتم تشغيل نموذج واحد فقط في كل مرة.
- ذاكرة التخزين المؤقت للنماذج المُسخّنة مسبقًا على NVMe / NFS المشترك. يتم سحب الأوزان مرة واحدة إلى ذاكرة تخزين مؤقت محلية سريعة، وتقوم جميع النسخ المتماثلة بتحميلها. يتم التحميل الأولي مرة واحدة عند بدء تشغيل المجموعة؛ أما النسخ المتماثلة اللاحقة فتبدأ العمل في غضون ثوانٍ.
-
التوسيع المجدول حسب وقت اليوم. زيادة حجم الموارد مسبقًا في الساعة 08:30 تحسبًا لحركة المرور في الساعة 09:00. هذا النمط هو الأبسط والأكثر فعالية لأحمال العمل اليومية المتوقعة. إعداد CronJobs
kubectl scaleإنها غير عصرية لكنها فعالة. - مشغل NVIDIA NIM مزود بمحركات TRT-LLM مدمجة مسبقًا. محركات مصممة مسبقًا، ومخزنة مؤقتًا على القرص، ويتم تحميلها عند الطلب. بدء تشغيل بارد أسرع من التجميع الجديد، ولكنه لا يزال في حدود عشرات الثواني لـ 70 بايت.
بالنسبة لقاعدة عملاء كينتينو للذكاء الاصطناعي - أساطيل صغيرة وأنماط استخدام متوقعة - فإن الحل الأمثل غالبًا ما يكون استخدام N نسخة احتياطية دافئة + توسيع نطاق مُجدول + تجاوز سعة الحوسبة السحابية. أما التوسع إلى الصفر فهو مناسب للمنصات غير الخادمة حيث يتحمل طرف آخر عبء بدء التشغيل البارد.
التوسيع التلقائي: يعتمد التوسيع التلقائي عالي الأداء على ماذا؟
يستخدم نظام Kubernetes HPA افتراضيًا مقاييس وحدة المعالجة المركزية والذاكرة. وكلاهما غير مناسب للاستدلال باستخدام وحدة معالجة الرسومات. قد تصل نسبة استخدام وحدة vLLM إلى 5% مع تحميل زائد بنسبة 100%، أو قد تصل إلى 95% مع استمرار الأداء بشكل جيد. المقياس الذي تحتاجه فعليًا هو أحد ما يلي:
| متري | ما يقيس | استخدم عندما |
|---|---|---|
vllm:num_requests_waiting |
عمق قائمة الانتظار (الطلبات التي لم يتم جدولتها بعد) | أحمال العمل التفاعلية الحساسة للتأخير |
vllm:gpu_cache_usage_perc |
استخدام ذاكرة التخزين المؤقت KV عبر وحدات معالجة الرسومات | إعدادات السياق الطويل أو الإعدادات المتزامنة المتعددة |
vllm:num_requests_running |
الطلبات النشطة لكل نسخة | توسيع نطاق تشبع الإنتاجية |
request_rate_per_replica |
عدد الطلبات في الثانية لكل نسخة (حسابات بروميثيوس) | أحمال العمل ذات المعدل الثابت |
| مخصص: تراكم الرموز المميزة في الثانية | عدد الرموز المميزة في قائمة الانتظار × وقت فك التشفير المقدر | أحمال عمل الطلبات ذات الأطوال المختلطة |
الأداة الأمثل لربط هذا النظام بـ Kubernetes هي KEDA (Kubernetes Event-Driven Autoscaling)، والتي يمكنها معالجة استعلامات Prometheus مباشرةً وإرسالها إلى HPA. تتضمن حزمة vLLM الإنتاجية تكاملاً ممتازاً مع KEDA، ويعمل النمط نفسه مع KServe على OpenShift AI.
كائن ScaledObject يعمل على تغيير حجم قائمة الانتظار:
apiVersion: keda.sh/v1alpha1
kind: ScaledObject
metadata:
name: vllm-llama70b
spec:
scaleTargetRef:
name: vllm-llama70b
minReplicaCount: 2 # always-warm floor
maxReplicaCount: 6 # cap before cloud overflow
pollingInterval: 15
cooldownPeriod: 300 # don't thrash on noisy queue
triggers:
- type: prometheus
metadata:
serverAddress: http://prometheus:9090
query: avg(vllm:num_requests_waiting)
threshold: '5' # avg 5 waiting per replica → scale up
درسين في الإنتاج تعلمناهما من خلال التجربة والخطأ:
-
cooldownPeriodالأمر لا يقل أهمية عن المحفز. يؤدي الازدحام في قائمة الانتظار إلى تقلبات حادة في عمليات التوسع والتقليص، وكل عملية توسع تُكلف وقت بدء التشغيل البارد. 5 دقائق هي الحد الأدنى المعقول. -
minReplicaCountينبغي تحديد حجمها بناءً على الحوض، وليس الصفر. الوحدتان اللتان كانتا في وضع الخمول عند الساعة 03:00 هما الوحدتان اللتان تعاملتا مع ذروة الساعة 09:00 دون انتهاء المهلة.
المقياس الأفقي مقابل المقياس الرأسي
خيار معماري دقيق عند تحديد الحجم: هل تشتري المزيد من الصناديق (أفقية) أم المزيد من وحدات معالجة الرسومات لكل صندوق (رأسية)؟
| محور | أفقيًا: صندوقان يحتوي كل منهما على 4 وحدات معالجة رسومات | عمودي: صندوق واحد يحتوي على 8 وحدات معالجة رسومات |
|---|---|---|
| الإنفاق الرأسمالي | أعلى (الهيكل × 2) | الجزء السفلي (هيكل واحد) |
| نصف قطر انفجار الفشل | نصف الأسطول | كله |
| خطوة التوسع | صندوق واحد في كل مرة | وحدة معالجة رسومية واحدة في كل مرة (داخل الصندوق) |
| توسيع نطاق TP | TP=4 كحد أقصى لكل عقدة | TP=8 ممكن (مع ضريبة PCIe - انظر كيه03 ) |
| الدائرة الكهربائية | دائرتان كهربائيتان ثلاثيتا الأطوار بقدرة 16 أمبير | دائرة كهربائية ثلاثية الأطوار 32 أمبير |
| أفضل ل | خدمة حساسة للتأخير مع عزل النسخ المتماثلة | التدريب المكثف على نموذج واحد أو الاستدلال على فئة 405B |
بالنسبة لأحمال عمل الاستدلال ذات حركة البيانات المتقطعة، يُعد التوزيع الأفقي الخيار الأمثل في أغلب الأحيان. إذ يمكن تشغيل جهازين مزودين بأربع وحدات معالجة رسومية كأربع نسخ متماثلة (DP=2)، مع تحمل أحدهما ضغطًا إضافيًا دون انقطاع الخدمة، كما يتيح لك توسيع السعة بمقدار النصف بدلًا من الوحدات الكاملة. أما التوزيع الرأسي فهو الخيار الأنسب للتدريب وللاستدلال على نماذج أحادية ضخمة جدًا حيث يتطلب TP وجود وحدات المعالجة الرسومية في نطاق كهربائي واحد.
الفخ النفسي "وحدة معالجة الرسومات خاملة لكنني أدفع ثمنها"
غالباً ما يقوم العملاء الذين يزورون موقع التثبيت لأول مرة بفتح لوحة تحكم Grafana، ويرون أن استخدام وحدة معالجة الرسومات يبلغ 18% في الساعة 14:30 مساءً يوم الثلاثاء، ويتساءلون عن سبب دفعهم ثمن أجهزة لا تفعل شيئاً 80% من الوقت.
بصراحة، في أي عبء عمل حساس للتأخير، يُعدّ بعض الخمول ثمنًا تدفعه مقابل استجابة سريعة. فالخادم الذي يعمل بنسبة 95% من طاقته باستمرار يُعاني من تأخير في الاستجابة، وهذا يعني تأخيرًا في الاستجابة. العميل الذي يرغب في زمن استجابة 300 مللي ثانية لا يحصل على نفس نسبة استخدام الخادم. اختر أحد الخيارين.
إن المقايضة التي يمكن تحسينها هي نقل العمل الثابت إلى فترات الخمول :
- يتم جدولة مهام الدفعات (التصنيف التلقائي، واستخراج المستندات، وإنشاء التضمين للمحتوى الجديد) طوال الليل عندما يكون برنامج الدردشة الآلي هادئًا.
- تُجرى عمليات الضبط الدقيق في عطلات نهاية الأسبوع عندما لا يكون هناك مستخدمون متصلون بالإنترنت.
- إعادة فهرسة دورية لمخازن المتجهات خلال ساعات الصباح الباكر.
هذا هو جوهر التعامل مع الخادم المحلي كأصل ذي غرضين : خدمة تفاعلية حساسة للتأخير خلال النهار، ومعالجة دفعية ليلاً. عند تطبيق ذلك بشكل صحيح، فإن نفس الجهاز الذي يُظهر نسبة استخدام 25% على لوحة التحكم التفاعلية، يُظهر نسبة استخدام 65% على لوحة تحكم جميع أحمال العمل. ويرى المدير المالي هذه النسبة الأخيرة.
ما ليس حلاً: زيادة معدل الطلبات بشكل مصطنع لإظهار انشغال الشبكة. يلجأ العملاء أحيانًا إلى هذه الطريقة. إنها تزيد من تأخير الاستجابة، وتجعل المراقبة عديمة الجدوى، ولا تُغير من قيمة الفاتورة.
مصفوفة القرار
يُحدد شكل عبء العمل، أكثر من حجمه، البنية المناسبة. حدد وضعك في الصف الأقرب:
| شكل عبء العمل | الرموز الشهرية | مزيج المنصات الموصى بها |
|---|---|---|
| تفاعلي مستدام، يومي متوقع | <100 م | واجهات برمجة التطبيقات السحابية فقط؛ لن يتم استرداد التكاليف في البنية التحتية المحلية |
| تفاعلي مستدام، يومي متوقع | 100 م – 1 ب | صندوق L40 / 5090 واحد بأربعة معالجات رسوميات، أساسي فقط؛ تجاوز سعة السحابة |
| تفاعلي مستدام، يومي متوقع | 1 ب – 10 ب | صندوق Pro 6000 BW رباعي وحدات معالجة الرسومات يعمل بنسبة استخدام تتراوح بين 50 و70%؛ تجاوز سعة التخزين السحابي أعلى من ذلك |
| تفاعل مستمر، حركة مرور عالية على مدار الساعة طوال أيام الأسبوع | > 10 ب | صندوق Pro 6000 بثمانية معالجات رسوميات، وربما اثنين؛ مصمم ليناسب النسبة المئوية السبعين بالإضافة إلى فائض. |
| يهيمن عليها نظام الدفعات، وتعتمد على وتيرة قائمة الانتظار | أي وقت | الحل الأمثل هو الحلول المحلية؛ حجم البيانات بناءً على الحجم الإجمالي / 30 يومًا × عامل الأمان |
| اندفاع متواصل، أقل من 6 ساعات شهريًا | أي وقت | خدمة سحابية فقط؛ لا تشتري أجهزة |
| انفجار هجين فوق خط أساس مستدام | أي وقت | البنية التحتية المحلية كخط أساسي عند هدف استخدام 60%؛ فائض الحوسبة السحابية |
| خاضع للتنظيم / لا يمكن مغادرة البيانات | أي وقت | التواجد في الموقع إلزامي؛ حدد الحجم بدقة وفقًا لأوقات الذروة، واقبل انخفاض معدل الاستخدام. |
هناك أمران تُصيب فيهما هذه المصفوفة بينما يُخطئ فيهما التخطيط المخصص:
- أحمال العمل ذات التدفقات المفاجئة فقط تناسب الحوسبة السحابية. شراء أجهزة لحجم عمل لا يتجاوز أربع ساعات شهرياً هو سوء ممارسة.
- إن الهجين "المستدام + الانفجاري" يحتاج دائمًا تقريبًا إلى كليهما. محاولة اختيار أحدهما أو الآخر عادة ما تؤدي إلى اختيار خاطئ.
الرأي الصريح
ينبغي على معظم عملاء كينتينو التخطيط لاستخدام مستدام يتراوح بين 30% و50% من مواردهم المحلية ، واستخدام الحوسبة السحابية لتلبية الاحتياجات التي تتجاوز ذلك. أما العملاء الذين يصل استخدامهم لمواردهم المحلية إلى 60% أو 80%، فهم من يقومون بتشغيل عمليات معالجة الدفعات إلى جانب العمليات التفاعلية، مثل وضع العلامات التلقائية ليلاً، والضبط الدقيق في عطلات نهاية الأسبوع، وتضمين عمليات الإنتاج في ساعات الذروة. بينما العملاء الذين يتراوح استخدامهم لمواردهم المحلية بين 10% و15%، فهم من قاموا بتجهيز النظام لمواجهة أوقات الذروة.
أكثر الأخطاء تكلفةً هو شراء حلول تحسبًا لأسوأ سيناريو بعد ظهر يوم الثلاثاء. ثاني أكثرها تكلفةً هو الاعتماد الكامل على الحوسبة السحابية في حين أن الأحمال المستدامة ستغطي التكاليف الرأسمالية خلال 14 شهرًا. الحل الأمثل غالبًا ما يكون وسطًا: خادم محلي أصغر من المواصفات التي حددها العميل في البداية، مع توفير مسار تخزين سحابي إضافي لاستيعاب الزيادات المفاجئة في الطلب.
راجع الحسابات: بافتراض أسعار سحابية تبلغ 0.50 يورو/ميغا توكا، وتكلفة جهاز Pro 6000 رباعي المعالجات الرسومية 58 ألف يورو على مدى 3 سنوات، فإن الجهاز يُغطي تكلفته عند معالجة حوالي 14 مليار توكا. وبتوزيع متساوٍ، يُحقق الجهاز معدل 150 توكا/ثانية إجمالي مستدام، وهو معدل في متناول الجهاز عند استخدام 25-35% من طاقته. أقل من هذا المعدل، يُفضل استئجاره. وأكثر منه، يُفضل امتلاكه. وهذه هي نقطة التعادل نفسها التي تصل إليها T01 و T02 من حيث تكلفة البطاقة والرمز.
ماذا تفعل بعد ذلك
فيما يخص عملية تخطيط القدرات لعملية نشر جديدة، اتبع الخطوات التالية بالترتيب:
- قم بقياس أو تقدير حجم الرموز المميزة الشهرية الخاصة بك خلال الأشهر الستة إلى الاثني عشر القادمة. لنكن صريحين؛ عادةً ما تكون توقعات النمو مبالغًا فيها بمقدار ضعفين إلى ثلاثة أضعاف.
- ارسم توزيع معدل الرموز بالساعة. ليس المتوسط، بل النسبة المئوية الخمسين والخامسة والسبعين والخامسة والتسعين والتاسعة والتسعين من الأجور بالساعة خلال الثلاثين يومًا الماضية (أو أفضل تقدير لديك). يحدد الشكل كل ما يلي.
- حدد حجم الهدف المحلي. استهدف معالجة الساعات التي تتراوح بين 70 و80 بالمئة من الاستخدام في البنية التحتية المحلية؛ ودع الحوسبة السحابية تتولى معالجة الساعات التي تتراوح بين 20 و30 بالمئة الأعلى. هذا سيحقق لك استخدامًا فعالًا بنسبة 50-60%، وهو ما يُحقق النتائج المرجوة.
- تحديد أعمال الدفعات لملء الأحواض. التصنيف التلقائي، وتحديث المحتوى المضمن، والتلخيص، والضبط الدقيق - أي شيء يمكن جدولته في الساعة 03:00 صباحًا ولا يهم متى ينتهي. بدون ذلك، سيقتصر استخدامك الفعلي على المتوسط التفاعلي.
- صمم مسار تجاوز السعة قبل شراء الأجهزة. اختر مزود الخدمة السحابية، واحصل على مفتاح API، واكتب منطق التوجيه. لا تُضفه لاحقًا كإجراء احترازي عند انتشار الإطلاق على نطاق واسع.
- اضبط الحد الأدنى للتحجيم التلقائي على "الحد الأدنى" لتجاوز بدء التشغيل البارد. يُعدّ وجود نسختين احتياطيتين دافئتين الوضع الافتراضي الآمن. يبلغ زمن استجابة بدء التشغيل البارد على طرازات الفئة 70B من 30 إلى 60 ثانية؛ لذا تحتاج إلى وحدات دافئة لامتصاص ذروة الطلب أثناء تحميل الوحدات الجديدة.
- قم بمراقبة الاستخدام الفعلي لليورو/الميتوك شهريًا، وليس استخدام وحدة معالجة الرسومات. إجمالي تكلفة الملكية ÷ عدد الرموز المميزة المُخدّمة. إذا ارتفع هذا الرقم بمرور الوقت، فهذا يعني أن حجم الصندوق غير كافٍ للنمو أو أن حجم العمل قد تغير؛ أما إذا ظل ثابتًا أو انخفض، فقد اخترت الحجم المناسب.
تتناول الدراسات اللاحقة في هذا المسار نفس الأرقام من زوايا مختلفة: اقتصاديات كل بطاقة في T01 ، ومقارنة تكلفة الرمز المميز بين الحوسبة المحلية والسحابية في T02 . أما جانب البنية التحتية فيُغطى في K03 (التجميع والتوازي)، وI04 (حدود الطاقة والتبريد التي لا يمكن تجاوزها)، و I06 (أسطول الروبوتات المتعددة الذي يدعم أحمال الاستدلال المستدامة).
الجملة الوحيدة التي يجب تذكرها: حدد حجم البنية التحتية المحلية بناءً على الأحمال الثابتة، واستخدم الحوسبة السحابية للأحمال غير الثابتة. محاولة القيام بأي من المهمتين باستخدام الأداة الخاطئة هي ما يُهدر الميزانية.
هذا جزء من موسوعة كينتينو، وهي سلسلة مرجعية حول الحوسبة الذكية، والروبوتات، والأنظمة التي تربط بينهما. نرحب بالتعليقات والتصويبات على البريد الإلكتروني info@kentino.com.