मुख्य बिंदु
- बिना सेंसर का अर्थ बिना सीमा नहीं है: प्रति मिनट अनुरोध, समानांतर अनुरोध और संदर्भ पर सीमाएँ मौजूद हैं।
- पूर्ण कुंजी: 8 समानांतर अनुरोध और प्रति मिनट 300। परीक्षण कुंजी: 2 और 60।
- संदर्भ 100,000 टोकन का है, प्रॉम्प्ट और उत्तर सहित; क्रेडिट कभी समाप्त नहीं होता।
- 429 त्रुटि को प्रतीक्षा और पुनः प्रयास के साथ संभाला जाता है, और असफल अनुरोधों के लिए भुगतान नहीं करना पड़ता।
दो अलग-अलग बातें: कोई रिफ्यूज नहीं और कोई रेट लिमिट नहीं
जब आप उपयोग की सीमाओं के बिना AI की तलाश करते हैं, तो दो अवधारणाएँ मिल जाती हैं। पहली है सामग्री अस्वीकृति की अनुपस्थिति: यहाँ उपयोग किया जाने वाला मॉडल वैध वयस्कों के उपयोग के लिए बिना अवरोध के उत्तर देने के लिए प्रशिक्षित है। दूसरी तकनीकी ऊपरी सीमाओं की अनुपस्थिति होगी, और यह किसी भी गंभीर सेवा में मौजूद नहीं है। अनुरोधों की दर, समानांतर अनुरोधों की संख्या, संदर्भ की लंबाई और अनुरोध बॉडी के आकार पर सीमाएँ हैं।
कुछ बनाने से पहले इन्हें जान लेना फायदेमंद है, क्योंकि ये अनुमानित हैं और थोड़े कोड से नियंत्रित किए जा सकते हैं। एक सीमा निरपेक्ष होती है और किसी सेटिंग पर निर्भर नहीं करती: नाबालिगों से संबंधित यौन सामग्री नहीं।
सीमाओं की तालिका
| सीमा | पूर्ण कुंजी | परीक्षण कुंजी |
|---|---|---|
| समानांतर अनुरोध | 8 | 2 |
| अनुरोध प्रति मिनट | 300 | 60 |
| कॉन्टेक्स्ट (प्रॉम्प्ट + उत्तर) | 100,000 टोकन | 100,000 टोकन |
| अधिकतम बॉडी आकार | 8 MB | 8 MB |
| समाप्ति | क्रेडिट समाप्त नहीं होता | 7 दिन |
प्रतिक्रिया में X-RateLimit-Limit-Requests और X-RateLimit-Limit-Concurrency शीर्षक शामिल हैं, ताकि आपका कोड उन्हें पढ़ सके और उन्हें हाथ से लिखे बिना ही उपयोग कर सके। आप X-Request-Id भी पाएंगे, जो सहायता टीम को संपर्क करने पर उपयोगी है, और X-Balance-USD जिसमें शेष क्रेडिट है।
max_tokens पैरामीटर वैकल्पिक है: प्रतिक्रिया विंडो में बचे स्थान का उपयोग कर सकती है। यदि प्रॉम्प्ट और प्रतिक्रिया के लिए स्थान विंडो से अधिक है, तो max_tokens शेष पर कम हो जाता है; 400 त्रुटि केवल तब आती है जब प्रॉम्प्ट अकेले 100,000 टोकन में न आए। व्यावहारिक रूप से, लंबी चैट इतिहास के पुराने हिस्से को सारांशित या हटाना बेहतर है, ताकि प्रतिक्रिया के लिए स्थान बचे।
सीमाओं के भीतर रहने की लागत
दर इनपुट के लिए 1M टोकन पर $0.15 और आउटपुट के लिए 1M पर $0.50 है। कुछ ठोस गणनाएँ, सभी सत्यापनीय।
एक सामान्य अनुरोध
3,000 टोकन का प्रॉम्प्ट और 800 का उत्तर:
- इनपुट: 3,000 × $0.15 / 1,000,000 = $0.00045;
- आउटपुट: 800 × $0.50 / 1,000,000 = $0.0004;
- कुल: $0.00085 प्रति अनुरोध, अर्थात $0.85 हर 1,000 अनुरोधों पर।
चरम मामला
एक अनुरोध जो विंडो को भर देता है, उदाहरण के लिए 90,000 टोकन प्रॉम्प्ट और 10,000 टोकन उत्तर, की लागत 90,000 × $0.15 / 1M = $0.0135 जमा 10,000 × $0.50 / 1M = $0.005, यानी $0.0185 होती है। ऐसे 1,000 अनुरोधों की लागत $18.50 होगी। 100,000 टोकन वाले प्रॉम्प्ट के साथ नगण्य उत्तर की लागत लगभग $0.015 होगी।
टॉप-अप से क्या मिलता है
$20 की न्यूनतम टॉप-अप पर, $0.00085 प्रति अनुरोध पर आपको लगभग 23,529 अनुरोध मिलते हैं ($20 / $0.00085 = 23,529.4)। $0.50 का मुफ़्त ट्रायल क्रेडिट उसी प्रकार के लगभग 588 अनुरोधों के लिए पर्याप्त है। यदि आप $100 टॉप-अप करते हैं तो आपको $110 क्रेडिट मिलता है, और $200 पर आपको $230 मिलते हैं। टॉप-अप $20 से $500 तक होते हैं और USDT (TRC20) या USDC (Base) क्रिप्टो के माध्यम से भुगतान किए जाते हैं। विवरण के लिए मूल्य देखें।
वास्तव में गति को क्या सीमित करता है
आमतौर पर 300 प्रति मिनट की संख्या से अधिक महत्वपूर्ण 8 समानांतर अनुरोध होते हैं। एक अनुमान: आप 10,000 दस्तावेज़ प्रोसेस कर रहे हैं, प्रत्येक में 2,000 इनपुट टोकन और 300 आउटपुट टोकन हैं, और प्रत्येक अनुरोध औसतन 10 सेकंड लेता है (वास्तविक समय लोड और लंबाई पर निर्भर करता है, इसे मापें)।
- 8 समानांतर अनुरोधों के साथ आप प्रति सेकंड 0.8 अनुरोध पूरे करते हैं, यानी प्रति मिनट 48, जो 300 की सीमा से काफी नीचे है।
- 10,000 / 0.8 = 12,500 सेकंड, लगभग 3.5 घंटे।
- लागत: 20M इनपुट टोकन = $3.00, 3M आउटपुट = $1.50, कुल $4.50।
तो बाधा कन्करेंसी है, न कि रेट। समय कम करने के लिए छोटे अनुरोधों की आवश्यकता है, उच्च रेट की नहीं। एक आश्चर्यजनक बात: स्ट्रीमिंग अनुरोध अंत तक अपने स्थान पर बना रहता है, इसलिए यदि आप एक भूल गए स्ट्रीम को खुला छोड़ देते हैं तो आप 8 स्लॉट में से एक ब्लॉक कर देते हैं।
429 त्रुटियों का प्रबंधन
एक सीमा पार होने पर API HTTP 429 उत्तर देता है। त्रुटि कोड बताता है कि कौन सी: rate_limited प्रति मिनट अनुरोधों के लिए, concurrency समानांतर अनुरोधों के लिए। अस्थायी ओवरलोड पर हमेशा एक 429 आता है, Retry-After: 5 हेडर के साथ। तीनों मामलों में नियम एक ही है: प्रतीक्षा करें और पुनः प्रयास करें। विफल अनुरोधों का शुल्क नहीं लिया जाता है।
यह उदाहरण एक सीमांक (semaphore) का उपयोग करके कन्करेंसी को 8 तक सीमित करता है और बढ़ती प्रतीक्षा के साथ पुनः प्रयास करता है।
import asyncio, os
from openai import AsyncOpenAI, RateLimitError
client = AsyncOpenAI(
base_url="https://api.apiiasenzacensura.com/v1",
api_key=os.environ["API_KEY"],
max_retries=0,
)
slot = asyncio.Semaphore(8) # usa 2 con la chiave di prova
async def chiedi(testo, tentativi=5):
for n in range(tentativi):
async with slot:
try:
r = await client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": testo}],
)
return r.choices[0].message.content
except RateLimitError:
pass
await asyncio.sleep(5 * (n + 1))
raise RuntimeError("troppi tentativi")
async def main():
testi = [f"Riassumi in una frase il documento {i}" for i in range(20)]
risultati = await asyncio.gather(*(chiedi(t) for t in testi))
print(len(risultati), "risposte")
asyncio.run(main())
प्रतीक्षा सीमांक के बाहर होती है, ताकि एक स्लॉट की प्रतीक्षा अन्य ब्लॉक न करे। त्रुटि प्रारूप के विवरणों के लिए प्रलेखन देखें।
काम करते समय क्रेडिट की जाँच
चूंकि लागत टोकन के आधार पर है, एक खराब लिखा गया लूप क्रेडिट को अपेक्षा से तेज़ी से खत्म कर सकता है। दो किफ़ायती उपाय: शेष राशि पढ़ें और स्वयं एक सीमा सेट करें।
curl -i https://api.apiiasenzacensura.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Ciao"}],"max_tokens":20}'
आप उत्तर हेडर में X-Balance-USD पाते हैं। आप उसी कुंजी के साथ GET /v1/balance को क्वेरी कर सकते हैं, या OpenAI-शैली एंडपॉइंट /v1/dashboard/billing/credit_grants का उपयोग कर सकते हैं। हर कुछ अनुरोधों पर जाँच करने से आप एक बैच को उस समय रोक सकते हैं जब शेष राशि आपकी सीमा से नीचे चली जाए। श्रृंखला में चल रहे कार्यों के लिए max_tokens सेट करें, ताकि अनावश्यक लंबे उत्तर न मिलें।
क्रेडिट को कैसे लंबा चलाएं
चूंकि लागत टोकन पर निर्भर करती है, कम खर्च करने का सबसे प्रभावी तरीका कम टोकन भेजना है। तीन आदतें जो लगभग हमेशा काम करती हैं।
- इतिहास छोटा करें। एक चैट में हर टर्न मॉडल को पूरा इतिहास भेजता है। 350 टोकन वाले 20 टर्न्स के बाद, केवल इतिहास हर नए प्रश्न पर 7.000 इनपुट टोकन का वजन रखता है, यानी केवल उसे फिर से पढ़ने के लिए $0.00105 (7.000 × $0.15 / 1M)। पुराने टर्न्स को कुछ पंक्तियों में सारांशित करने से यह लागत कम हो जाती है।
- सिस्टम प्रॉम्प्ट को छोटा रखें। 10,000 अनुरोधों में दोहराए गए 1,500 टोकन का सिस्टम प्रॉम्प्ट 15M इनपुट टोकन के बराबर है, यानी $2.25। इसे 500 टोकन तक कम करने पर लागत $0.75 हो जाती है।
- जवाबों पर सीमा लगाएं। आउटपुट टोकन इनपुट टोकन से तीन गुना से अधिक महंगे होते हैं ($0.50 बनाम $0.15)। संक्षिप्त जवाब मांगना या
max_tokensसेट करना उन कार्यों के लिए सबसे सीधा बचत तरीका है जिनमें दो पंक्तियाँ पर्याप्त हैं।
तापमान और top_p या seed जैसे अन्य सैंपलिंग पैरामीटर भी मॉडल को पारित किए जाते हैं। seed पैरामीटर तब उपयोगी होता है जब आप किसी परीक्षण को दोहराना चाहते हैं और दो प्रॉम्प्ट को अधिक स्पष्ट रूप से तुलना करना चाहते हैं।
अनंत वादे करने वालों से क्या कहें
जब कोई सेवा बिना सीमा बताए अनंत अनुरोध का वादा करती है, तो हमेशा पूछें कि सीमा क्या है। टोकन के आधार पर मूल्य और स्पष्ट सीमाओं वाला मॉडल योजना बनाने में आसान है। यहाँ आप बिना सदस्यता और क्रेडिट की समाप्ति के, पहले से जान सकते हैं कि आप कितने अनुरोध कर सकते हैं और कितना खर्च करेंगे। यदि आप शुरू करना चाहते हैं, अपनी API कुंजी प्राप्त करें और $0.50 का मुफ़्त ट्रायल क्रेडिट उपयोग करें, जो पंजीकरण के बाद एक क्लिक से प्राप्त होता है और भुगतान की आवश्यकता नहीं होती।

