TR ▾

Kullanım sınırı olmayan AI: Gerçekte ne anlama gelir

Kelimenin tam anlamıyla kullanım sınırı olmayan bir AI yoktur: her hizmetin teknik bir üst limiti vardır. Burada bu API'nin gerçek sınırlarını ve bunların içinde kalmanın maliyetini görürsünüz.

Sansürsüz AI: Mevcut Seçeneklerin Analizi

Güncelleme:

Trafik ışaklı ve aydınlık sekiz şeritli bir rampa, istek limitlerinin sembolü olarak bir yola birleşiyor.

Önemli noktalar

  • Sansürsüz olmak, limitsiz olmak anlamına gelmez: dakikada istek, eşzamanlı istekler ve bağlam için tavanlar vardır.
  • Tam anahtar: 8 eşzamanlı ve dakikada 300 istek. Deneme anahtarı: 2 ve 60.
  • Bağlam, istem ve yanıt dahil 100.000 token'dır; kredi süresi dolmaz.
  • 429 hatası bekleme ve yeniden deneme ile yönetilir; başarısız istekler ücretlendirilmez.

İki farklı şey: reddedilenler yok ve limitler yok

kullanım sınırı olmayan AI arandığında iki kavram karıştırılır. İlki içerik filtrelerinin olmamasıdır: burada kullanılan model, yasal yetişkin kullanımı için engeller olmadan yanıt vermeye eğitilmiştir. İkincisi teknik tavanların olmamasıdır ve bu ciddi hiçbir hizmette yoktur. İstek hızı, paralel çağrı sayısı, bağlam uzunluğu ve istek gövdesi boyutu için sınırlar vardır.

Bir şey oluşturmadan önce bunları bilmek değerlidir, çünkü öngörülebilirler ve neredeyse hepsi biraz kodla aşılabilir. Mutlak bir sınır vardır ve hiçbir ayara bağlı değildir: reşit olmayanları içeren cinsel içerik yasaktır.

Limitler tablosu

LimitTam anahtarDeneme anahtarı
Eşzamanlı istekler82
Dakikada istekler30060
Bağlam (istem + yanıt)100.000 token100.000 token
Maksimum gövde boyutu8 MB8 MB
Son kullanma tarihiKredi süresi dolmaz7 gün

Yanıt, X-RateLimit-Limit-Requests ve X-RateLimit-Limit-Concurrency başlıklarını içerir, böylece kodunuz limitleri elle yazmak yerine okuyabilir. Destek yazarken faydalı olan X-Request-Id ve kalan krediyi gösteren X-Balance-USD de bulunur.

max_tokens parametresi isteğe bağlıdır: yanıt, pencerede kalan tüm alanı kullanabilir. İstem ve yanıt alanı pencereyi aşarsa, max_tokens kalan değere düşürülür; 400 hatası yalnızca istem tek başına 100.000 token'a sığmadığında oluşur. Pratikte, uzun bir geçmişin eski kısmını özetlemek veya kaldırmak, yanıt için alan bırakmak için önerilir.

Limitler içinde kalmak ne kadar maliyetli

Fiyatlandırma $0,15/giren 1M token ve $0,50/çıkan 1M token'dır. Bazı somut hesaplar, hepsi doğrulanabilir.

Tipik bir istek

3.000 token istem ve 800 token yanıt:

  • giriş: 3.000 × $0,15 / 1.000.000 = $0,00045;
  • çıkış: 800 × $0,50 / 1.000.000 = $0,0004;
  • toplam: istek başına $0,00085, yani 1.000 istek için $0,85.

En kötü durum

Pencereyi dolduran bir istek (örneğin 90.000 token istem ve 10.000 yanıt) 90.000 × $0,15 / 1M = $0,0135 artı 10.000 × $0,50 / 1M = $0,005, yani $0,0185 tutarındadır. Böyle 1.000 istek $18,50 eder. 100.000 token istem ve küçük bir yanıt yaklaşık $0,015 tutarındadır.

Yüklemelerle ne satın alıyorsunuz

20 $ ile, minimum yükleme miktarı olan 0,00085 $/istek ile yaklaşık 23.529 istek alırsınız (20 $ / 0,00085 $ = 23.529,4). 0,50 $'lık deneme kredisi aynı türde yaklaşık 588 istek için yeterlidir. 100 $ yüklerseniz 110 $ kredi alırsınız, 200 $ yüklerseniz 230 $ alırsınız. Yüklemeler 20 $ ile 500 $ arasında değişir ve USDT (TRC20) veya USDC (Base) ile kripto para birimiyle ödenir. Ayrıntılar için fiyatlar sayfasına bakın.

Hızı gerçekten ne sınırlıyor

Genellikle önemli sayı dakikada 300 değil, 8 eşzamanlı istektir. Bir varsayım: 10.000 belge işliyorsunuz, her biri 2.000 giriş ve 300 çıkış token ile ve her istek ortalama 10 saniye sürüyor (gerçek süre yük ve uzunluğa bağlıdır, kendiniz ölçün).

  • 8 eşzamanlı istekle saniyede 0,8 istek tamamlarsınız, yani dakikada 48; bu 300 tavanının çok altındadır.
  • 10.000 / 0,8 = 12.500 saniye, yaklaşık 3,5 saat.
  • Maliyet: 20M giriş token = $3,00, 3M çıkış token = $1,50, toplam $4,50.

Yani kısıtlayıcı faktör hız değil, eşzamanlılıktır. Süreyi kısaltmak için daha kısa istekler gerekir, daha yüksek hız değil. Sürpriz bir detay: akıştaki bir istek, akış bitene kadar yerini işgal eder; bu yüzden unutulan bir akışı açık bırakırsanız 8 slotun birini bloke edersiniz.

429 hatalarını yönetme

Bir limit aşıldığında API HTTP 429 döner. Hata kodu hangisi olduğunu söyler: dakikada istekler için rate_limited, eşzamanlı istekler için concurrency. Geçici aşırı yüklenmelerde her zaman Retry-After: 5 başlığıyla bir 429 gelir. Üç durumda da kural aynıdır: bekleyin ve tekrar deneyin. Başarısız istekler ücretlendirilmez.

Bu örnek, bir semafor ile eşzamanlılığı 8'e sınırlandırır ve artan bekleme ile yeniden dener.

import asyncio, os
from openai import AsyncOpenAI, RateLimitError

client = AsyncOpenAI(
    base_url="https://api.apiiasenzacensura.com/v1",
    api_key=os.environ["API_KEY"],
    max_retries=0,
)
slot = asyncio.Semaphore(8)  # usa 2 con la chiave di prova

async def chiedi(testo, tentativi=5):
    for n in range(tentativi):
        async with slot:
            try:
                r = await client.chat.completions.create(
                    model="uncensored",
                    messages=[{"role": "user", "content": testo}],
                )
                return r.choices[0].message.content
            except RateLimitError:
                pass
        await asyncio.sleep(5 * (n + 1))
    raise RuntimeError("troppi tentativi")

async def main():
    testi = [f"Riassumi in una frase il documento {i}" for i in range(20)]
    risultati = await asyncio.gather(*(chiedi(t) for t in testi))
    print(len(risultati), "risposte")

asyncio.run(main())

Bekleme semafor dışında gerçekleşir, böylece bekleyen bir slot diğerlerini bloke etmez. Hata formatı hakkında detaylar için dokümantasyon sayfasına bakın.

Çalışırken krediyi kontrol etme

Maliyet token başına olduğundan, kötü yazılmış bir döngü krediyi beklenenden daha hızlı tüketebilir. İki ekonomik önlem: bakiyeyi okuyun ve kendi tavanınızı ayarlayın.

curl -i https://api.apiiasenzacensura.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Ciao"}],"max_tokens":20}'

Yanıt başlıklarında X-Balance-USD bulursunuz. Aynı anahtarla GET /v1/balance sorgulayabilir veya OpenAI tarzı /v1/dashboard/billing/credit_grants uç noktasını kullanabilirsiniz. Her belirli sayıda istekte bir kontrol, bakiye bir eşik altına düştüğünde bir toplu işlemi durdurmanızı sağlar. Seri işler için max_tokens ayarlayın, böylece ihtiyacınız olmayan çok uzun yanıtlardan kaçının.

Krediyi daha uzun süre nasıl kullanırsınız

Maliyet tokenlara bağlı olduğundan, daha az harcamanın en etkili yolu daha az göndermektir. Neredeyse her zaman işe yarayan üç alışkanlık.

  1. Geçmişi kısaltın. Bir sohbette her tur modele geçmişin tamamını yeniden gönderir. 350 token'lık 20 turdan sonra, her yeni soruda sadece geçmiş giren 7.000 token ağırlığındadır, yani sadece okumak için $0,00105 eder (7.000 × $0,15 / 1M). Eski turları birkaç satırda özetlemek bu kalemi keser.
  2. Sistem istemini kısa tutun. 10.000 istekte tekrarlanan 1.500 tokenlık bir sistem istemi, 15M giriş tokenı anlamına gelir; bu da $2,25 eder. Bunu 500 tokena düşürürseniz, $0,75'e düşersiniz.
  3. Cevaplara sınır koyun. Çıkış tokenları, giriş tokenlarından üç kat daha pahalıdır ($0.50'ye karşılık $0.15). Kısa yanıtlar istemek veya yalnızca iki satır yeterli olan görevlerde max_tokens ayarlamak en doğrudan tasarruf yöntemidir.

Sıcaklık ve top_p veya seed gibi diğer örnekleme parametreleri modele iletilir. seed parametresi, bir testi tekrarlayıp iki istemi daha temiz bir şekilde karşılaştırmak istediğinizde kullanışlıdır.

Sınırsız vaat edenlere ne söylemek gerekir

Bir hizmet, limitleri açıklamadan sınırsız istek vaat ettiğinde, limitlerin ne olduğunu her zaman sorun. Belirtilmiş limitleri ve token başına fiyatı olan bir model planlaması daha kolaydır. Burada abonelik olmadan ve kredi süresi dolmadan, kaç istek yapabileceğinizi ve ne kadar harcayacağınızı önceden bilirsiniz. Başlamak için anahtarınızı alın ve kayıt sonrası tek tıkla talep edilen, ödeme gerektirmeyen $0,50'lik deneme kredisi kullanın.

Diğer kılavuzlar

Sıkça sorulan sorular

Günlük mesaj sayısı için bir limit var mı?

Belgelenmiş limitler tam anahtar için dakikada 300 istek ve 8 eşzamanlı, deneme anahtarı için dakikada 60 istek ve 2 eşzamanlıdır.

Limiti aşarsam ne olur?

API, HTTP 429 ve rate_limited veya concurrency koduyla yanıt verir. Birkaç saniye bekleyip tekrar deneyin; reddedilen istek ücretlendirilmez.

Maksimum bağlam penceresi ne kadar uzun?

İstem ve yanıt dahil toplam 100.000 token. Konuşma büyürse, özetleyin veya daha eski mesajları silin.

Kredinin süresi doluyor mu?

Ön ödemeli kredi süresi dolmaz. Tek istisna, 7 gün süren $0,50'lik ücretsiz deneme kredisidir.

Anahtarınız bir modül uzaktadır

Bir hesap oluşturun, anahtarı kopyalayın, temel URL'yi düzenleyin. Yapılacak tek şey bu.