Önemli noktalar
- Sansürsüz olmak, limitsiz olmak anlamına gelmez: dakikada istek, eşzamanlı istekler ve bağlam için tavanlar vardır.
- Tam anahtar: 8 eşzamanlı ve dakikada 300 istek. Deneme anahtarı: 2 ve 60.
- Bağlam, istem ve yanıt dahil 100.000 token'dır; kredi süresi dolmaz.
- 429 hatası bekleme ve yeniden deneme ile yönetilir; başarısız istekler ücretlendirilmez.
İki farklı şey: reddedilenler yok ve limitler yok
kullanım sınırı olmayan AI arandığında iki kavram karıştırılır. İlki içerik filtrelerinin olmamasıdır: burada kullanılan model, yasal yetişkin kullanımı için engeller olmadan yanıt vermeye eğitilmiştir. İkincisi teknik tavanların olmamasıdır ve bu ciddi hiçbir hizmette yoktur. İstek hızı, paralel çağrı sayısı, bağlam uzunluğu ve istek gövdesi boyutu için sınırlar vardır.
Bir şey oluşturmadan önce bunları bilmek değerlidir, çünkü öngörülebilirler ve neredeyse hepsi biraz kodla aşılabilir. Mutlak bir sınır vardır ve hiçbir ayara bağlı değildir: reşit olmayanları içeren cinsel içerik yasaktır.
Limitler tablosu
| Limit | Tam anahtar | Deneme anahtarı |
|---|---|---|
| Eşzamanlı istekler | 8 | 2 |
| Dakikada istekler | 300 | 60 |
| Bağlam (istem + yanıt) | 100.000 token | 100.000 token |
| Maksimum gövde boyutu | 8 MB | 8 MB |
| Son kullanma tarihi | Kredi süresi dolmaz | 7 gün |
Yanıt, X-RateLimit-Limit-Requests ve X-RateLimit-Limit-Concurrency başlıklarını içerir, böylece kodunuz limitleri elle yazmak yerine okuyabilir. Destek yazarken faydalı olan X-Request-Id ve kalan krediyi gösteren X-Balance-USD de bulunur.
max_tokens parametresi isteğe bağlıdır: yanıt, pencerede kalan tüm alanı kullanabilir. İstem ve yanıt alanı pencereyi aşarsa, max_tokens kalan değere düşürülür; 400 hatası yalnızca istem tek başına 100.000 token'a sığmadığında oluşur. Pratikte, uzun bir geçmişin eski kısmını özetlemek veya kaldırmak, yanıt için alan bırakmak için önerilir.
Limitler içinde kalmak ne kadar maliyetli
Fiyatlandırma $0,15/giren 1M token ve $0,50/çıkan 1M token'dır. Bazı somut hesaplar, hepsi doğrulanabilir.
Tipik bir istek
3.000 token istem ve 800 token yanıt:
- giriş: 3.000 × $0,15 / 1.000.000 = $0,00045;
- çıkış: 800 × $0,50 / 1.000.000 = $0,0004;
- toplam: istek başına $0,00085, yani 1.000 istek için $0,85.
En kötü durum
Pencereyi dolduran bir istek (örneğin 90.000 token istem ve 10.000 yanıt) 90.000 × $0,15 / 1M = $0,0135 artı 10.000 × $0,50 / 1M = $0,005, yani $0,0185 tutarındadır. Böyle 1.000 istek $18,50 eder. 100.000 token istem ve küçük bir yanıt yaklaşık $0,015 tutarındadır.
Yüklemelerle ne satın alıyorsunuz
20 $ ile, minimum yükleme miktarı olan 0,00085 $/istek ile yaklaşık 23.529 istek alırsınız (20 $ / 0,00085 $ = 23.529,4). 0,50 $'lık deneme kredisi aynı türde yaklaşık 588 istek için yeterlidir. 100 $ yüklerseniz 110 $ kredi alırsınız, 200 $ yüklerseniz 230 $ alırsınız. Yüklemeler 20 $ ile 500 $ arasında değişir ve USDT (TRC20) veya USDC (Base) ile kripto para birimiyle ödenir. Ayrıntılar için fiyatlar sayfasına bakın.
Hızı gerçekten ne sınırlıyor
Genellikle önemli sayı dakikada 300 değil, 8 eşzamanlı istektir. Bir varsayım: 10.000 belge işliyorsunuz, her biri 2.000 giriş ve 300 çıkış token ile ve her istek ortalama 10 saniye sürüyor (gerçek süre yük ve uzunluğa bağlıdır, kendiniz ölçün).
- 8 eşzamanlı istekle saniyede 0,8 istek tamamlarsınız, yani dakikada 48; bu 300 tavanının çok altındadır.
- 10.000 / 0,8 = 12.500 saniye, yaklaşık 3,5 saat.
- Maliyet: 20M giriş token = $3,00, 3M çıkış token = $1,50, toplam $4,50.
Yani kısıtlayıcı faktör hız değil, eşzamanlılıktır. Süreyi kısaltmak için daha kısa istekler gerekir, daha yüksek hız değil. Sürpriz bir detay: akıştaki bir istek, akış bitene kadar yerini işgal eder; bu yüzden unutulan bir akışı açık bırakırsanız 8 slotun birini bloke edersiniz.
429 hatalarını yönetme
Bir limit aşıldığında API HTTP 429 döner. Hata kodu hangisi olduğunu söyler: dakikada istekler için rate_limited, eşzamanlı istekler için concurrency. Geçici aşırı yüklenmelerde her zaman Retry-After: 5 başlığıyla bir 429 gelir. Üç durumda da kural aynıdır: bekleyin ve tekrar deneyin. Başarısız istekler ücretlendirilmez.
Bu örnek, bir semafor ile eşzamanlılığı 8'e sınırlandırır ve artan bekleme ile yeniden dener.
import asyncio, os
from openai import AsyncOpenAI, RateLimitError
client = AsyncOpenAI(
base_url="https://api.apiiasenzacensura.com/v1",
api_key=os.environ["API_KEY"],
max_retries=0,
)
slot = asyncio.Semaphore(8) # usa 2 con la chiave di prova
async def chiedi(testo, tentativi=5):
for n in range(tentativi):
async with slot:
try:
r = await client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": testo}],
)
return r.choices[0].message.content
except RateLimitError:
pass
await asyncio.sleep(5 * (n + 1))
raise RuntimeError("troppi tentativi")
async def main():
testi = [f"Riassumi in una frase il documento {i}" for i in range(20)]
risultati = await asyncio.gather(*(chiedi(t) for t in testi))
print(len(risultati), "risposte")
asyncio.run(main())
Bekleme semafor dışında gerçekleşir, böylece bekleyen bir slot diğerlerini bloke etmez. Hata formatı hakkında detaylar için dokümantasyon sayfasına bakın.
Çalışırken krediyi kontrol etme
Maliyet token başına olduğundan, kötü yazılmış bir döngü krediyi beklenenden daha hızlı tüketebilir. İki ekonomik önlem: bakiyeyi okuyun ve kendi tavanınızı ayarlayın.
curl -i https://api.apiiasenzacensura.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Ciao"}],"max_tokens":20}'
Yanıt başlıklarında X-Balance-USD bulursunuz. Aynı anahtarla GET /v1/balance sorgulayabilir veya OpenAI tarzı /v1/dashboard/billing/credit_grants uç noktasını kullanabilirsiniz. Her belirli sayıda istekte bir kontrol, bakiye bir eşik altına düştüğünde bir toplu işlemi durdurmanızı sağlar. Seri işler için max_tokens ayarlayın, böylece ihtiyacınız olmayan çok uzun yanıtlardan kaçının.
Krediyi daha uzun süre nasıl kullanırsınız
Maliyet tokenlara bağlı olduğundan, daha az harcamanın en etkili yolu daha az göndermektir. Neredeyse her zaman işe yarayan üç alışkanlık.
- Geçmişi kısaltın. Bir sohbette her tur modele geçmişin tamamını yeniden gönderir. 350 token'lık 20 turdan sonra, her yeni soruda sadece geçmiş giren 7.000 token ağırlığındadır, yani sadece okumak için $0,00105 eder (7.000 × $0,15 / 1M). Eski turları birkaç satırda özetlemek bu kalemi keser.
- Sistem istemini kısa tutun. 10.000 istekte tekrarlanan 1.500 tokenlık bir sistem istemi, 15M giriş tokenı anlamına gelir; bu da $2,25 eder. Bunu 500 tokena düşürürseniz, $0,75'e düşersiniz.
- Cevaplara sınır koyun. Çıkış tokenları, giriş tokenlarından üç kat daha pahalıdır ($0.50'ye karşılık $0.15). Kısa yanıtlar istemek veya yalnızca iki satır yeterli olan görevlerde
max_tokensayarlamak en doğrudan tasarruf yöntemidir.
Sıcaklık ve top_p veya seed gibi diğer örnekleme parametreleri modele iletilir. seed parametresi, bir testi tekrarlayıp iki istemi daha temiz bir şekilde karşılaştırmak istediğinizde kullanışlıdır.
Sınırsız vaat edenlere ne söylemek gerekir
Bir hizmet, limitleri açıklamadan sınırsız istek vaat ettiğinde, limitlerin ne olduğunu her zaman sorun. Belirtilmiş limitleri ve token başına fiyatı olan bir model planlaması daha kolaydır. Burada abonelik olmadan ve kredi süresi dolmadan, kaç istek yapabileceğinizi ve ne kadar harcayacağınızı önceden bilirsiniz. Başlamak için anahtarınızı alın ve kayıt sonrası tek tıkla talep edilen, ödeme gerektirmeyen $0,50'lik deneme kredisi kullanın.

