يوفر هذا الجدول نظرة عامة على أحجام النماذج التقريبية (بمليارات المعلمات) التي يمكن تشغيلها على تكوينات VRAM المختلفة، بالإضافة إلى أمثلة للنماذج المعروفة. لاحظ أن هذه تقديرات وقد تختلف بناءً على التنفيذات والهندسة المعمارية والتحسينات المحددة.

الملاحظات:

1. يمكن تشغيله بدقة كاملة (FP32)
2. يتطلب التكميم أو تقنيات التحسين الأخرى

اعتبارات إضافية:

• تفترض هذه التقديرات أن ذاكرة VRAM بأكملها متاحة للنموذج، وهو ما لا يحدث غالبًا في الممارسة العملية بسبب الذاكرة المستخدمة بواسطة الإطار ونظام التشغيل والعمليات الأخرى.
• يمكن أن تسمح التوازي النموذجي والتقنيات المتقدمة الأخرى بتشغيل نماذج أكبر من خلال توزيعها عبر وحدات معالجة الرسوميات المتعددة.
• تتطلب عملية الاستدلال عادةً ذاكرة أقل من عملية التدريب، لذا يمكن تشغيل نماذج أكبر في كثير من الأحيان للاستدلال على تكوينات VRAM الأصغر.
• يمكن أن تختلف الأحجام الدقيقة وفقًا لهندسة النموذج وتفاصيل التنفيذ والتحسينات المحددة المستخدمة.

الوجبات الرئيسية:

1. 16-24 جيجابايت من ذاكرة VRAM: مناسبة لمعظم مهام الذكاء الاصطناعي الموجهة للمستهلكين ونماذج البحث الأصغر حجمًا.
2. 48-96 جيجابايت VRAM: تتيح العمل مع النماذج متوسطة إلى كبيرة الحجم، والتي تُستخدم غالبًا في الإعدادات المهنية والبحثية.
3. 128-256 جيجابايت VRAM: تسمح بتشغيل بعض من أكبر النماذج المتاحة للجمهور مع تحسينات مختلفة.
4. 320-512 جيجابايت VRAM: توفر سعة لأكبر النماذج الحالية والتطورات المستقبلية، والتي غالبًا ما يتم تحقيقها من خلال إعدادات وحدة معالجة الرسومات المتعددة.

يوضح هذا الجدول التأثير الكبير للتكميم وتقنيات التحسين الأخرى في تمكين النماذج الأكبر من العمل على ذاكرة وصول عشوائي محدودة. ومع استمرار تقدم الذكاء الاصطناعي، يمكننا أن نتوقع المزيد من الابتكارات في ضغط النماذج والهندسة المعمارية الموفرة للذاكرة لدفع هذه الحدود إلى أبعد من ذلك.

وإنتظروا... الأمر لا ينتهي عند المحولات...