AR ▾

LLM بدون رقابة: محليًا أم عبر API، أيهما تختار

يمكن تشغيل LLM بدون رقابة على جهازك الشخصي أو عبر API. هنا تجد الأجهزة، التكاليف والصيانة لكلا الخيارين، مع أرقام قابلة للتحقق.

LLM بدون رقابة: تحليل الخيارات المتاحة

آخر تحديث:

ميزان متساوي الأذرع: من جهة محطة عمل مع GPU محلي، ومن جهة أخرى خادم سحابي متصل بكابل.

نقاط رئيسية

  • محليًا تدفع للأجهزة فورًا وللصيانة دائمًا؛ عبر API تدفع فقط مقابل الرموز المستخدمة.
  • بـ $0.15 لكل مليون رمز (token) وارد و $0.50 لكل مليون رمز (token) صادر، يكفي الرصيد البالغ $20 لعشرات الملايين من الرموز (token).
  • الحل المحلي يفوز للاستخدام المكثف المستمر، والعمل دون اتصال بالإنترنت، والتحكم الكامل في أوزان النموذج.
  • الـ API يفوز لمن يبدأ اليوم، لديه موارد GPU محدودة، أو يريد نقطة النهاية متوافقة مع OpenAI.

الإجابة المختصرة

إذا كنت تبحث عن llm بدون رقابة ولا تملك بالفعل بطاقة GPU ذات ذاكرة كبيرة، فإن الـ API هو عادةً نقطة البداية الأكثر منطقية. أما إذا كنت تولّد النصوص طوال اليوم، أو تعمل دون اتصال بالإنترنت، أو تريد اختيار أوزان النموذج وتعديلها، فإن الحل المحلي يبرر الاستثمار. إليك المقارنة في جدول.

الجانبمحلياًعبر الـ API
التكلفة الأوليةGPU، مزود الطاقة، التبريدلا يوجد حدّ، الشحن يبدأ من $20
التكلفة المتكررةالكهرباء، الاستهلاك، وقتكالرموز (token) المستخدمة فقط
الوقت اللازم للبدءساعات أو أيام بين التحميل والاختباربضع دقائق
اختيار النموذجحر، يمكنك الاحتفاظ بالعديد منهاواحد فقط، يختاره المزود
السياق الأقصىيعتمد على ذاكرتك المتاحة100.000 رمز (token)
يعمل دون اتصالنعملا
الطلبات المتزامنةما تتحمّله وحدة معالجة الرسومات لديك8 مع مفتاح API كامل

لا يوجد خيار صحيح مطلقًا. تساعدك الأقسام أدناه على فهم أي جانب تقف منه.

ما الذي تحتاجه حقاً لتشغيله محلياً

عنق الزجاجة هو ذاكرة الفيديو. يجب أن تتسع أوزان النموذج في ذاكرة الفيديو (VRAM)، وإلا ستنتقل إلى ذاكرة النظام العشوائية (RAM) وتنخفض السرعة بشكل كبير. كتقدير تقريبي، النموذج الصغير المُكمّم بـ 4 بت يشغل عادةً بضع غيغابايت، بينما قد يتطلب النموذج الكبير عشرات الغيغابايت. تعتمد القيم الدقيقة على النموذج وطريقة التكميم، لذا تحقق دائماً من بطاقة النموذج وتوثيق الأداة.

إلى ذلك تضاف ذاكرة التخزين المؤقت للسياق: كلما كانت المحادثة أطول، استهلكت ذاكرة أكثر بالإضافة إلى الأوزان. قد يتطلب سياق بحجم عشرات الآلاف من الرموز على نموذج كبير غيغابايت إضافية.

البرمجيات

للاستنتاج المحلي توجد أدوات معروفة مثل llama.cpp و Ollama و vLLM. تعرض Ollama و vLLM أيضاً نقطة النهاية متوافقة مع تنسيق OpenAI، لذا فإن الكود الذي تكتبه اليوم لخادم محلي ينتقل إلى API عن بُعد بتغيير سطرين فقط. لمزيد من التفاصيل، راجع توثيق كل مشروع.

العثور على النموذج

النماذج مفتوحة الأوزان قليلة الرفض تُنشر من قبل مجتمعات مختلفة، لكن الجودة متفاوتة جداً. بعضها يفقد الاتساق بعد التعديل، وبعضها يستجيب جيداً فقط بتنسيق موجّه دقيق. توقع تجربة عدة نماذج قبل العثور على ما يناسبك.

كم يكلف الـ API بعد الحساب

السعر هو $0.15 لكل مليون رمز إدخال و $0.50 لكل مليون رمز إخراج، في الرصيد المسبق الدفع، بدون اشتراك. الطلبات الفاشلة أو المرفوضة لا تُحسب، والرصيد لا ينتهي. دعنا نرى ثلاثة سيناريوهات.

  • استخدام خفيف. 2 مليون رمز إدخال و 500.000 رمز إخراج شهرياً: 2 × $0.15 = $0.30 بالإضافة إلى 0.5 × $0.50 = $0.25، المجموع $0.55.
  • استخدام متوسط. 50 مليون رمز إدخال و 10 مليون رمز إخراج: 50 × $0.15 = $7.50 بالإضافة إلى 10 × $0.50 = $5.00، المجموع $12.50.
  • استخدام ثقيل. 400 مليون رمز إدخال و 80 مليون رمز إخراج: 400 × $0.15 = $60 بالإضافة إلى 80 × $0.50 = $40، المجموع $100.

الحد الأدنى للإضافة إلى الرصيد هو $20، لذا في الحالة المتوسطة يكفي إيداع واحد لتغطية أكثر من شهر. فوق عتبات معينة يوجد مكافأة: +5% من $50، +10% من $100، +15% من $200. على سبيل المثال، تتحول $100 إلى رصيد بقيمة $110. قائمة الأسعار الكاملة موجودة في صفحة أسعار الـ API.

بالنسبة للحل المحلي، الحساب أقل مباشرة. ابدأ بسعر وحدة معالجة الرسومات، اقسمه على الأشهر التي تخطط لاستخدامها، وأضف تكلفة الكهرباء: القدرة بالكيلوواط مضروبة في ساعات الاستخدام مضروبة في سعر عقدك. النتيجة، مقسومة على عدد الرموز التي تولدها فعلياً، هي تكلفتك لكل مليون. قم بذلك بأرقامك وقارنها مع $0.50 لكل مليون رمز في الرد.

الصيانة التي تُنسى عادة

من يختار الحل المحلي يعتني بكل شيء آخر. برامج التشغيل ومكتبات CUDA التي تتعطل بعد التحديث، إصدارات جديدة من محرك الاستنتاج، تنسيقات تكميم تتغير، نماذج تحتاج لإعادة التحميل. إذا كان الخدمة مخصصة لآخرين، أضف المراقبة، إعادة التشغيل التلقائي، وإدارة الطوابير عندما تصل طلبات أكثر مما تتحمله وحدة معالجة الرسومات.

لا شيء من هذا صعب، لكنه يتطلب وقتاً متكرراً. إذا كان وقتك ذا قيمة، أضفه إلى الحساب: ساعات قليلة شهرياً تزن أكثر من $12.50 للسيناريو المتوسط المذكور أعلاه.

مع الـ API، تقل الصيانة من جانبك إلى مفتاح، URL أساسي، وإدارة أخطاء 429، الموصوفة في التوثيق. في المقابل، تعتمد على المزود: إذا كان لديه مشكلة، لا يمكنك التدخل.

متى يكون الحل المحلي أفضل ومتى يكون الـ API أفضل

اختر الحل المحلي إذا

  • لديك بالفعل وحدة معالجة رسومات مناسبة والتكلفة الهامشية هي الكهرباء فقط;
  • توليد النص بشكل مستمر، لساعات، كل يوم؛
  • تحتاج للعمل بدون شبكة أو مع بيانات لا يمكنها مغادرة جهازك؛
  • تريد تغيير النموذج غالباً، إجراء ضبط دقيق أو تجربة الأوزان.

اختر API إذا

  • تريد نقطة نهاية تعمل اليوم، دون شراء أي شيء؛
  • استخدامك يتسم بالذروات: بوت، نص برمجي ليلي، نموذج أولي؛
  • تحتاج إلى سياق طويل (هنا 100.000 رمز) دون الحاجة لتكييف الذاكرة؛
  • تريد التوسع إلى 8 طلبات متزامنة دون التفكير في الأجهزة.

تستخدم العديد من الفرق الطريقتين: API للبدء ولذروات الاستخدام، والمحلي للأحمال المستقرة. نظراً لأن التنسيق نفسه، فإن الانتقال من أحدهما إلى الآخر لا يتطلب إعادة كتابة التطبيق.

طريقة بسيطة لاتخاذ القرار

قبل شراء أي شيء، قس. لمدة أسبوع، سجل عدد الرموز التي تستهلكها، مستخرجاً إياها من حقل usage في الردود أو من عداد الأداة الخاصة بك. ثم قم بثلاثة حسابات.

  1. اضرب الرموز الداخلة أسبوعياً في 4 ثم اضرب الناتج في $0.15 مقسوماً على مليون.
  2. افعل الشيء نفسه مع الرموز الخارجة و $0.50.
  3. اجمع النتيجتين وقارنهما بقسط الأجهزة الشهري بالإضافة إلى الكهرباء.

إذا بقي مجموع API تحت بضعة عشرات من الدولارات شهرياً، فإن شراء GPU لهذا الغرض نادراً ما يكون منطقياً. إذا تجاوزت المبلغ بكثير، يبدأ الخيار المحلي في أن يصبح مثيراً للاهتمام. حالة خاصة هي زمن الاستجابة: على جهازك لا تعبر الشبكة، لكن GPU منزلي مع نموذج كبير قد يكون أبطأ من الخدمة المستضافة. جرب كلا الخيارين على حملك، لأن الاختلافات تعتمد على النموذج وطول الموجّهات.

خذ في الاعتبار أيضاً النمو. نموذج يستهلك القليل اليوم قد يتضاعف عندما يستخدمه الآخرون. تدير الـ API ما يصل إلى 8 طلبات متزامنة بالمفتاح الكامل، بينما في البيئة المحلية كل مستخدم إضافي يبطئ الجميع حتى تضيف عتاداً.

جرب API في خمس دقائق

للتجربة تحتاج إلى مفتاح. بعد التسجيل عبر Google أو عبر البريد الإلكتروني وكلمة المرور، يمكنك في صفحة المفتاح طلب $0.50 رصيد تجريبي، ساري لمدة 7 أيام ودون الحاجة للدفع. اذهب إلى احصل على مفتاح API. مفتاح التجربة محدود بـ 2 طلبات متزامنة و 60 في الدقيقة.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.apiiasenzacensura.com/v1",
    api_key=os.environ["API_KEY"],
)

risposta = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Spiega in tre frasi cos'è la quantizzazione di un modello."}],
)
print(risposta.choices[0].message.content)

إذا أردت مستقبلاً الانتقال إلى خادم محلي بنقطة نهاية متوافقة، فسيكون تغيير base_url واسم النموذج كافياً.

ما لا يفعله

هو نموذج واحد مفتوح الأوزان، يديره مزود مستقل ودُرب على الرد دون رفض المحتوى للاستخدام البالغ المشروع. ليس API الرسمي لأي مختبر كبير، ولا يولد صوراً أو صوتاً أو فيديو ولا يوفر تضميناً أو ضبطاً دقيقاً. يبقى قيداً مطلقاً: لا محتوى جنسي يتضمن قاصرين. لمحة أوسع راجع صفحة ذكاء اصطناعي بدون رقابة. لا تُستخدم الموجّهات في التدريب.

أدلة أخرى

الأسئلة الشائعة

هل الـ LLM المحلي أكثر خصوصية حقًا؟

مع التشغيل المحلي تبقى البيانات على جهازك، لذا نعم، بشرط حمايته. مع الـ API تنتقل الموجّهات إلى المزود؛ ولا تُستخدم هنا للتدريب.

كم رمزًا يمكنني استخدامه مقابل $20؟

إذا كان كل شيء إدخالًا، 133,3 مليون رمز ($20 مقسومة على $0.15 لكل مليون). وإذا كان كل شيء إخراجًا، 40 مليون ($20 مقسومة على $0.50). عمليًا يقع في المنتصف، اعتمادًا على النسبة بين الاثنين.

هل يمكنني استخدام كود OpenAI الموجود لديّ؟

نعم. الـ API متوافق مع SDKs الخاصة بـ OpenAI: غيّر Base URL والمفتاح واستخدم النموذج uncensored. تدعم الـ chat completions و responses و streaming و tool calling.

هل نافذة السياق نفسها محليًا و عبر الـ API؟

لا. عبر الـ API، الحد هو 100.000 رمز بين الموجّه والاستجابة. في البيئة المحلية يعتمد ذلك على النموذج وذاكرة وحدة معالجة الرسومات (GPU) الخاصة بك، لأن ذاكرة التخزين المؤقت للسياق تنمو مع الطول.

مفتاحك على بعد استمارة واحدة

أنشئ حسابًا، انسخ المفتاح، عدّل Base URL. هذه هي كل التكوين.