اشترى RTX 5090 هربًا من رسوم API فبنى مركز بيانات صغير
قصة منشور على Reddit تختصر أزمة كل من يفكّر في تشغيل النماذج على جهازه: العتاد يكبر، والحاجة الحقيقية تبقى صغيرة.
مستخدم اشترى بطاقة RTX 5090 لتشغيل النماذج محليًا والتخلص من رسوم الواجهات البرمجية، ثم أضاف بطاقتين من فئة RTX 6000 Pro، وفكّر في عنقود بذاكرة 512 غيغابايت. في النهاية اكتشف أن كل مهامه اليومية تعمل على البطاقة الأولى وحدها، فصار يعير القدرة الفائضة لأصدقائه. الدرس: قِس حاجتك قبل أن تشتري.
أبرز النقاط
- صاحب المنشور اشترى RTX 5090 لتشغيل نماذج بحجم 27 مليار معامِل محليًا، وأجرى عليها ضبطًا دقيقًا بتقنية LoRA وبنى أنظمة استرجاع.
- المشكلة لم تكن سرعة المعالجة بل الذاكرة: تكميم Q8 مع سياق 130 ألف توكن كان بالكاد يمرّ.
- توسّع إلى بطاقتين من فئة RTX 6000 Pro، ثم شعر أن نماذج 100 مليار معامِل تجاوزته أيضًا.
- الخلاصة التي وصل إليها بنفسه: كل مهامه الفعلية تعمل على بطاقة واحدة، والباقي فائض يعيره لأصدقائه.
- الحساب الصحيح للتشغيل المحلي يشمل الكهرباء والصيانة والوقت، لا سعر البطاقة فقط.
من بطاقة واحدة إلى رفّ عتاد كامل
نشر مستخدم على منتدى LocalLLaMA المخصص لتشغيل النماذج محليًا قصته باختصار قاسٍ. اشترى بطاقة RTX 5090 العام الماضي لسبب واحد: تشغيل نماذج بحجم 27 مليار معامِل على جهازه بدل الدفع مقابل كل استدعاء سحابي.
ولم يتوقف عند التشغيل. أجرى ضبطًا دقيقًا على النموذج ببياناته الخاصة عبر تقنية LoRA (طريقة تدريب اقتصادية تعدّل جزءًا صغيرًا من النموذج بدل إعادة تدريبه كاملًا)، وبنى أنظمة توليد معزّز بالاسترجاع تربط النموذج بمستنداته. ويقول إنه كان سعيدًا بالنتائج في البداية.
ثم بدأ التوسّع. اشترى بطاقتين من فئة RTX 6000 Pro، وصار ينتظر الجيل التالي. المنشور نفسه عنوانه يلخّص المشهد: اشتريت 5090 هربًا من رسوم API، فانتهيت ببناء مركز بيانات مصغّر.
لماذا يهمّك
لأن هذه القصة ليست عن هاوٍ واحد، بل عن حسبة يجريها اليوم آلاف المستخدمين وأصحاب المشاريع الصغيرة: هل أدفع اشتراكًا شهريًا ورسوم استخدام إلى الأبد، أم أشتري عتادًا مرة واحدة وأرتاح؟
الإجابة الشائعة هي "العتاد أرخص على المدى الطويل"، وهي إجابة ناقصة. الحسبة الحقيقية تبدأ من سؤال مختلف: ما أكبر نموذج أحتاجه فعلًا، وكم مرة في اليوم؟
من يجيب عن هذا السؤال قبل الشراء يوفّر مالًا. ومن يجيب عنه بعد الشراء ينتهي بعتاد فائض يعيره لأصدقائه، وهو ما حصل هنا بالضبط.
العدو ليس السرعة، بل الذاكرة
أكثر تفصيل عملي في المنشور هو سبب شعوره بالضيق. لم تكن البطاقة بطيئة، لكن تكميم Q8 مع نافذة سياق بطول 130 ألف توكن كان بالكاد يمرّ.
لنفكّ هذا: التكميم هو ضغط أوزان النموذج لتشغل ذاكرة أقل، وQ8 مستوى ضغط معتدل يحافظ على الجودة نسبيًا. أما نافذة السياق فهي كمية النص التي يستطيع النموذج تذكّرها في الجلسة الواحدة، و130 ألف توكن رقم كبير يعادل كتابًا متوسطًا.
القاعدة التي يتعلمها كل من يجرّب: ذاكرة البطاقة تُستهلك مرتين، مرة لحمل النموذج نفسه، ومرة لحمل السياق. وكلما طال النص الذي تعالجه، امتلأت الذاكرة أسرع مهما كانت البطاقة قوية.
سباق لا تصل فيه إلى خط النهاية أبدًا
بعد أن جهّز عتادًا أقوى، اصطدم بواقع جديد: نماذج من فئة 100 مليار معامِل صارت تنزل من كل اتجاه، فبدا ما اشتراه غير كافٍ من جديد.
ووصل تفكيره إلى الرغبة في عنقود بذاكرة 512 غيغابايت. هنا تحديدًا تظهر المشكلة البنيوية: النماذج مفتوحة المصدر تكبر أسرع مما يكبر عتادك، ومهما اشتريت سيصدر بعد أسابيع نموذج لا يتسع في جهازك.
من يشتري ليلاحق أكبر نموذج متاح سيشتري إلى الأبد. ومن يشتري لينجز مهمة محددة سيتوقف عند حدّ معقول.
الجملة التي أنهت القصة
الاعتراف جاء في آخر المنشور: كل مهمة يحتاجها فعليًا تعمل بلا مشكلة على البطاقة الأولى وحدها. أما القدرة الإضافية فصار يعيرها لأصدقائه.
هذه هي العبرة كلها. الفجوة لم تكن بين ما يملكه وما يحتاجه، بل بين ما يحتاجه وما ظنّ أنه يحتاجه.
ولاحظ أنه ختم منشوره بسؤال المجتمع عن النموذج الذي يستخدمونه يوميًا، وكأنه يبحث عن تأكيد أن الآخرين وقعوا في الفخ نفسه.
الفاتورة التي لا تظهر في إيصال الشراء
سعر البطاقة هو أوضح بند في الحسبة وأقلها إزعاجًا. البنود الأخرى تتراكم بهدوء:
- الكهرباء: بطاقات الفئة العليا تستهلك طاقة عالية عند التشغيل المتواصل، والفاتورة شهرية لا لمرة واحدة.
- بقية الجهاز: البطاقة وحدها لا تكفي. تحتاج مزوّد طاقة مناسبًا وتبريدًا وذاكرة نظام وتخزينًا سريعًا.
- وقتك: التحديثات، التوافق بين الإصدارات، حلّ الأعطال، إعادة التهيئة بعد كل ترقية. هذه ساعات حقيقية لها كلفة.
- تراجع القيمة: العتاد يشيخ، والنماذج الجديدة تتطلب مواصفات أعلى.
في المقابل، التسعير بالاستخدام في الخدمات السحابية يبدو أغلى في الظاهر، لكنه يعفيك من كل ما سبق ويتوقف حين تتوقف.
إذن ما الذي يشتريه العتاد فعلًا؟
ليس التوفير بالضرورة. ما يشتريه العتاد المحلي شيئان محددان:
الخصوصية. بياناتك لا تغادر جهازك. لمن يعمل بعقود أو ملفات طبية أو بيانات عملاء، هذه ليست رفاهية بل شرط. والقصة تذكر أنه بنى أنظمة استرجاع على مستنداته الخاصة، وهو استخدام تكون فيه الخصوصية مبررًا كافيًا وحده.
الاستقلال. لا أحد يغيّر شروط الخدمة عليك، ولا يرفع السعر، ولا يوقف النموذج الذي اعتدت عليه. النموذج الذي حمّلته اليوم سيعمل بعد سنتين كما هو.
من يقدّر هذين الأمرين سيجد الشراء منطقيًا. ومن يريد فقط توفير رسوم الاشتراك قد يكتشف أنه دفع أكثر.
بالنسبة للمنطقة العربية
الحسبة عندنا مختلفة قليلًا، والفروق ليست في صالح الشراء دائمًا.
أولًا سعر العتاد. بطاقات الفئة العليا تصل إلى الأسواق العربية بأسعار تشمل الشحن والجمارك، وغالبًا ما تكون أعلى من سعرها في سوقها الأصلي. والضمان وخدمة ما بعد البيع ليسا بنفس السهولة في كل دولة.
ثانيًا الكهرباء والتبريد. جهاز يعمل ساعات طويلة في غرفة بدرجة حرارة مرتفعة صيفًا يعني تكلفة تبريد إضافية فوق تكلفة التشغيل نفسه. هذا بند حقيقي في الخليج وشمال إفريقيا، ولا يظهر في أي مقارنة أسعار أجنبية.
ثالثًا اللغة. النص العربي يستهلك عادة عددًا أكبر من التوكنات مقارنة بالإنجليزية لنفس المعنى، بسبب طريقة الترميز في أغلب النماذج. هذا يعني أمرين: فاتورة أعلى في الخدمات السحابية، وامتلاء أسرع لنافذة السياق في التشغيل المحلي. من يعمل بالعربية يصطدم بحدّ الذاكرة قبل غيره.
من يستفيد فعلًا؟ المكتب القانوني أو العيادة أو الشركة التي لا تريد رفع ملفات عملائها إلى خادم خارجي. والمطوّر الذي يجرّب الضبط الدقيق على بيانات محلية. أما الموظف الذي يستخدم النموذج لصياغة رسائل وتلخيص تقارير، فالاشتراك السحابي أرخص له بفارق كبير.
ماذا تفعل اليوم؟ سجّل استخدامك شهرًا كاملًا قبل أي شراء: كم طلبًا في اليوم، وما أطول نص تعالجه، وهل تحتاج نموذجًا كبيرًا أم يكفيك متوسط. ثم قارن الرقم الناتج بتكلفة عتاد يعمل سنوات. أغلب الناس سيكتشفون أن حاجتهم أصغر مما تخيلوا، تمامًا كما اكتشف صاحب المنشور.
الخلاصة
القصة ليست ضد التشغيل المحلي، بل ضد الشراء بلا قياس. صاحب المنشور انتقل من بطاقة واحدة إلى ثلاث، وفكّر في عنقود بذاكرة 512 غيغابايت، ليكتشف أن البطاقة الأولى كانت تكفيه.
اشترِ إن كانت الخصوصية شرطًا في عملك، أو إن كان الاستقلال عن مزوّد خارجي يستحق الثمن عندك. أما إن كان دافعك الوحيد هو الهروب من فاتورة شهرية، فاحسب الفاتورة الأخرى أولًا: الكهرباء والتبريد والصيانة ووقتك.
والقاعدة الأبسط: ابدأ بأصغر إعداد يفي بالغرض، ووسّع فقط حين تصطدم بحدّ حقيقي، لا حين ترى نموذجًا جديدًا لا يتسع في جهازك.
أسئلة شائعة
هل تشغيل النماذج محليًا أرخص فعلًا من الدفع مقابل الاستخدام؟
ما الذي يحدّد قدرة بطاقة الرسوميات على تشغيل نموذج معيّن؟
ما هو التكميم ولماذا يذكره الجميع؟
هل أحتاج فعلًا نموذجًا بحجم 100 مليار معامِل؟
متى يكون التشغيل المحلي هو الخيار الصحيح رغم كلفته؟
هل يؤثر العمل باللغة العربية على هذه الحسبة؟
ما أفضل خطوة عملية قبل شراء عتاد للذكاء الاصطناعي؟
المصادر
- فريق الراصد إعداد وتحرير بالعربية
- Reddit r/LocalLLaMA المصدر الأصلي
مراجع إضافية
أعدّ فريق الراصد هذا التقرير بالعربية اعتمادًا على ما نشرته Reddit r/LocalLLaMA، مع تحقّق مستقل وإضافة السياق العربي. الرابط الأصلي مذكور أعلاه.
النقاش (0)
لا توجد تعليقات بعد. كن أول من يشارك برأيه.
كل ما يهمّك في الذكاء الاصطناعي، في 60 ثانية يوميًا
نرصد المئات من المصادر ونرسل لك الخلاصة فقط. بلا حشو، وبلا رسائل مزعجة.