نقاط رئيسية
- محليًا تدفع للأجهزة فورًا وللصيانة دائمًا؛ عبر API تدفع فقط مقابل الرموز المستخدمة.
- بـ $0.15 لكل مليون رمز (token) وارد و $0.50 لكل مليون رمز (token) صادر، يكفي الرصيد البالغ $20 لعشرات الملايين من الرموز (token).
- الحل المحلي يفوز للاستخدام المكثف المستمر، والعمل دون اتصال بالإنترنت، والتحكم الكامل في أوزان النموذج.
- الـ API يفوز لمن يبدأ اليوم، لديه موارد GPU محدودة، أو يريد نقطة النهاية متوافقة مع OpenAI.
الإجابة المختصرة
إذا كنت تبحث عن llm بدون رقابة ولا تملك بالفعل بطاقة GPU ذات ذاكرة كبيرة، فإن الـ API هو عادةً نقطة البداية الأكثر منطقية. أما إذا كنت تولّد النصوص طوال اليوم، أو تعمل دون اتصال بالإنترنت، أو تريد اختيار أوزان النموذج وتعديلها، فإن الحل المحلي يبرر الاستثمار. إليك المقارنة في جدول.
| الجانب | محلياً | عبر الـ API |
|---|---|---|
| التكلفة الأولية | GPU، مزود الطاقة، التبريد | لا يوجد حدّ، الشحن يبدأ من $20 |
| التكلفة المتكررة | الكهرباء، الاستهلاك، وقتك | الرموز (token) المستخدمة فقط |
| الوقت اللازم للبدء | ساعات أو أيام بين التحميل والاختبار | بضع دقائق |
| اختيار النموذج | حر، يمكنك الاحتفاظ بالعديد منها | واحد فقط، يختاره المزود |
| السياق الأقصى | يعتمد على ذاكرتك المتاحة | 100.000 رمز (token) |
| يعمل دون اتصال | نعم | لا |
| الطلبات المتزامنة | ما تتحمّله وحدة معالجة الرسومات لديك | 8 مع مفتاح API كامل |
لا يوجد خيار صحيح مطلقًا. تساعدك الأقسام أدناه على فهم أي جانب تقف منه.
ما الذي تحتاجه حقاً لتشغيله محلياً
عنق الزجاجة هو ذاكرة الفيديو. يجب أن تتسع أوزان النموذج في ذاكرة الفيديو (VRAM)، وإلا ستنتقل إلى ذاكرة النظام العشوائية (RAM) وتنخفض السرعة بشكل كبير. كتقدير تقريبي، النموذج الصغير المُكمّم بـ 4 بت يشغل عادةً بضع غيغابايت، بينما قد يتطلب النموذج الكبير عشرات الغيغابايت. تعتمد القيم الدقيقة على النموذج وطريقة التكميم، لذا تحقق دائماً من بطاقة النموذج وتوثيق الأداة.
إلى ذلك تضاف ذاكرة التخزين المؤقت للسياق: كلما كانت المحادثة أطول، استهلكت ذاكرة أكثر بالإضافة إلى الأوزان. قد يتطلب سياق بحجم عشرات الآلاف من الرموز على نموذج كبير غيغابايت إضافية.
البرمجيات
للاستنتاج المحلي توجد أدوات معروفة مثل llama.cpp و Ollama و vLLM. تعرض Ollama و vLLM أيضاً نقطة النهاية متوافقة مع تنسيق OpenAI، لذا فإن الكود الذي تكتبه اليوم لخادم محلي ينتقل إلى API عن بُعد بتغيير سطرين فقط. لمزيد من التفاصيل، راجع توثيق كل مشروع.
العثور على النموذج
النماذج مفتوحة الأوزان قليلة الرفض تُنشر من قبل مجتمعات مختلفة، لكن الجودة متفاوتة جداً. بعضها يفقد الاتساق بعد التعديل، وبعضها يستجيب جيداً فقط بتنسيق موجّه دقيق. توقع تجربة عدة نماذج قبل العثور على ما يناسبك.
كم يكلف الـ API بعد الحساب
السعر هو $0.15 لكل مليون رمز إدخال و $0.50 لكل مليون رمز إخراج، في الرصيد المسبق الدفع، بدون اشتراك. الطلبات الفاشلة أو المرفوضة لا تُحسب، والرصيد لا ينتهي. دعنا نرى ثلاثة سيناريوهات.
- استخدام خفيف. 2 مليون رمز إدخال و 500.000 رمز إخراج شهرياً: 2 × $0.15 = $0.30 بالإضافة إلى 0.5 × $0.50 = $0.25، المجموع $0.55.
- استخدام متوسط. 50 مليون رمز إدخال و 10 مليون رمز إخراج: 50 × $0.15 = $7.50 بالإضافة إلى 10 × $0.50 = $5.00، المجموع $12.50.
- استخدام ثقيل. 400 مليون رمز إدخال و 80 مليون رمز إخراج: 400 × $0.15 = $60 بالإضافة إلى 80 × $0.50 = $40، المجموع $100.
الحد الأدنى للإضافة إلى الرصيد هو $20، لذا في الحالة المتوسطة يكفي إيداع واحد لتغطية أكثر من شهر. فوق عتبات معينة يوجد مكافأة: +5% من $50، +10% من $100، +15% من $200. على سبيل المثال، تتحول $100 إلى رصيد بقيمة $110. قائمة الأسعار الكاملة موجودة في صفحة أسعار الـ API.
بالنسبة للحل المحلي، الحساب أقل مباشرة. ابدأ بسعر وحدة معالجة الرسومات، اقسمه على الأشهر التي تخطط لاستخدامها، وأضف تكلفة الكهرباء: القدرة بالكيلوواط مضروبة في ساعات الاستخدام مضروبة في سعر عقدك. النتيجة، مقسومة على عدد الرموز التي تولدها فعلياً، هي تكلفتك لكل مليون. قم بذلك بأرقامك وقارنها مع $0.50 لكل مليون رمز في الرد.
الصيانة التي تُنسى عادة
من يختار الحل المحلي يعتني بكل شيء آخر. برامج التشغيل ومكتبات CUDA التي تتعطل بعد التحديث، إصدارات جديدة من محرك الاستنتاج، تنسيقات تكميم تتغير، نماذج تحتاج لإعادة التحميل. إذا كان الخدمة مخصصة لآخرين، أضف المراقبة، إعادة التشغيل التلقائي، وإدارة الطوابير عندما تصل طلبات أكثر مما تتحمله وحدة معالجة الرسومات.
لا شيء من هذا صعب، لكنه يتطلب وقتاً متكرراً. إذا كان وقتك ذا قيمة، أضفه إلى الحساب: ساعات قليلة شهرياً تزن أكثر من $12.50 للسيناريو المتوسط المذكور أعلاه.
مع الـ API، تقل الصيانة من جانبك إلى مفتاح، URL أساسي، وإدارة أخطاء 429، الموصوفة في التوثيق. في المقابل، تعتمد على المزود: إذا كان لديه مشكلة، لا يمكنك التدخل.
متى يكون الحل المحلي أفضل ومتى يكون الـ API أفضل
اختر الحل المحلي إذا
- لديك بالفعل وحدة معالجة رسومات مناسبة والتكلفة الهامشية هي الكهرباء فقط;
- توليد النص بشكل مستمر، لساعات، كل يوم؛
- تحتاج للعمل بدون شبكة أو مع بيانات لا يمكنها مغادرة جهازك؛
- تريد تغيير النموذج غالباً، إجراء ضبط دقيق أو تجربة الأوزان.
اختر API إذا
- تريد نقطة نهاية تعمل اليوم، دون شراء أي شيء؛
- استخدامك يتسم بالذروات: بوت، نص برمجي ليلي، نموذج أولي؛
- تحتاج إلى سياق طويل (هنا 100.000 رمز) دون الحاجة لتكييف الذاكرة؛
- تريد التوسع إلى 8 طلبات متزامنة دون التفكير في الأجهزة.
تستخدم العديد من الفرق الطريقتين: API للبدء ولذروات الاستخدام، والمحلي للأحمال المستقرة. نظراً لأن التنسيق نفسه، فإن الانتقال من أحدهما إلى الآخر لا يتطلب إعادة كتابة التطبيق.
طريقة بسيطة لاتخاذ القرار
قبل شراء أي شيء، قس. لمدة أسبوع، سجل عدد الرموز التي تستهلكها، مستخرجاً إياها من حقل usage في الردود أو من عداد الأداة الخاصة بك. ثم قم بثلاثة حسابات.
- اضرب الرموز الداخلة أسبوعياً في 4 ثم اضرب الناتج في $0.15 مقسوماً على مليون.
- افعل الشيء نفسه مع الرموز الخارجة و $0.50.
- اجمع النتيجتين وقارنهما بقسط الأجهزة الشهري بالإضافة إلى الكهرباء.
إذا بقي مجموع API تحت بضعة عشرات من الدولارات شهرياً، فإن شراء GPU لهذا الغرض نادراً ما يكون منطقياً. إذا تجاوزت المبلغ بكثير، يبدأ الخيار المحلي في أن يصبح مثيراً للاهتمام. حالة خاصة هي زمن الاستجابة: على جهازك لا تعبر الشبكة، لكن GPU منزلي مع نموذج كبير قد يكون أبطأ من الخدمة المستضافة. جرب كلا الخيارين على حملك، لأن الاختلافات تعتمد على النموذج وطول الموجّهات.
خذ في الاعتبار أيضاً النمو. نموذج يستهلك القليل اليوم قد يتضاعف عندما يستخدمه الآخرون. تدير الـ API ما يصل إلى 8 طلبات متزامنة بالمفتاح الكامل، بينما في البيئة المحلية كل مستخدم إضافي يبطئ الجميع حتى تضيف عتاداً.
جرب API في خمس دقائق
للتجربة تحتاج إلى مفتاح. بعد التسجيل عبر Google أو عبر البريد الإلكتروني وكلمة المرور، يمكنك في صفحة المفتاح طلب $0.50 رصيد تجريبي، ساري لمدة 7 أيام ودون الحاجة للدفع. اذهب إلى احصل على مفتاح API. مفتاح التجربة محدود بـ 2 طلبات متزامنة و 60 في الدقيقة.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.apiiasenzacensura.com/v1",
api_key=os.environ["API_KEY"],
)
risposta = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Spiega in tre frasi cos'è la quantizzazione di un modello."}],
)
print(risposta.choices[0].message.content)
إذا أردت مستقبلاً الانتقال إلى خادم محلي بنقطة نهاية متوافقة، فسيكون تغيير base_url واسم النموذج كافياً.
ما لا يفعله
هو نموذج واحد مفتوح الأوزان، يديره مزود مستقل ودُرب على الرد دون رفض المحتوى للاستخدام البالغ المشروع. ليس API الرسمي لأي مختبر كبير، ولا يولد صوراً أو صوتاً أو فيديو ولا يوفر تضميناً أو ضبطاً دقيقاً. يبقى قيداً مطلقاً: لا محتوى جنسي يتضمن قاصرين. لمحة أوسع راجع صفحة ذكاء اصطناعي بدون رقابة. لا تُستخدم الموجّهات في التدريب.

