تمكن أحد المستخدمين من تشغيل نماذج لغة 27B عن طريق تعديل بطاقة الرسومات NVIDIA Tesla V100 إلى كمبيوتر ألعاب

تمكن أحد المستخدمين من تشغيل نماذج لغة 27B عن طريق تعديل بطاقة الرسومات NVIDIA Tesla V100 إلى كمبيوتر ألعاب. التفاصيل في أخبارنا. يتطلب تشغيل نماذج لغة عالية الجودة أن تحتوي بطاقة الرسومات على ذاكرة فيديو كبيرة (VRAM).

أدرك أحد مالكي جهاز RTX 4080 أن نظامه، الذي يمكنه تشغيل الألعاب الحديثة بسهولة، لم يكن كافيًا لنماذج اللغات الكبيرة (LLM) وقام بإجراء تعديل مثير للاهتمام. وتمكن المستخدم من تحقيق أداء الألعاب والذكاء الاصطناعي على حد سواء من خلال دمج بطاقة الرسومات NVIDIA Tesla V100 في كمبيوتر الألعاب الخاص به. تم التغلب على الصعوبات التقنية التي تمت مواجهتها في هذه العملية باستخدام محولات خاصة وحلول تبريد.

يتطلب توصيل لوحة Tesla V100 باللوحة الأم القياسية لسطح المكتب استخدام محول محول SXM2-PCIe. أدى هذا التثبيت، الذي كلف حوالي 266 دولارًا أمريكيًا، إلى تمكين البطاقة المزودة بذاكرة HBM2 بسعة 16 جيجابايت من تضمينها في النظام. تتميز Tesla V100 بـ 5,120 نواة CUDA وناقل 4,096 بت يوفر عرض نطاق ترددي يبلغ 900 جيجابايت/ثانية.

يتطلب عدم وجود مخرج فيديو أو اتصال طاقة PCIe قياسي على البطاقة جهدًا إضافيًا للموديل أثناء مرحلة التثبيت. تم التحكم في مستوى الضوضاء العالي البالغ 82 ديسيبل الناتج عن نظام التبريد باستخدام بطارية 9 فولت ووصلة PWM. تم تخفيض سرعة المروحة إلى 10 بالمائة من قيمتها القصوى الأصلية، مما يضمن تشغيل النظام بشكل أكثر هدوءًا. وقد وفرت ذاكرة VRAM التي تبلغ سعتها 32 جيجابايت والتي تمت إضافتها إلى النظام المساحة اللازمة لتشغيل طرز مثل Qwen3.6 27B. يمكن تشغيل النموذج، الذي يشغل 19 جيجابايت على مستوى التكميم Q5_K_M، بسرعة 32 رمزًا مميزًا في الثانية بحجم سياق يبلغ 128 ألف رمزًا مميزًا. ويتراوح معدل معالجة المعاملات بين 133 و160 رمزًا في الثانية. يوفر هذا الإعداد بيئة عمل محلية تعمل بالذكاء الاصطناعي ولا تتطلب اتصالاً بالإنترنت مقابل أقل من 300 دولار.