繁中 ▾

AI 無使用限制:到底意味著什麼

嚴格來說,不存在無使用限制的 AI:每個服務都有技術上限。這裡顯示此 API 的實際限制,以及維持在限制內的成本。

無審查 AI:可用選項分析

更新時間:

帶有號誌與八條明亮車道的匝道匯入道路,象徵請求限制。

重點摘要

  • 無審查不等於無限制:存在每分鐘請求數、並行請求數與上下文的限制。
  • 完整金鑰:8 個並行請求與每分鐘 300 次。試用金鑰:2 個與 60 次。
  • 上下文包含提示詞與回應共 100,000 token;額度永不過期。
  • 429 錯誤透過等待與重試處理,失敗的請求不會計費。

兩件不同的事:沒有拒絕,也沒有上限

搜尋 無審查 AI 時會混淆兩種概念。第一種是無內容審查:此處使用的模型經過訓練,可在合法成人用途下無阻礙地回應。第二種是無技術上限,這在任何嚴謹的服務中都不存在。存在請求速率、並行呼叫數、上下文長度與請求主體大小的限制。

在建立專案前建議先了解這些限制,因為它們是可預測的,且幾乎都能用一點程式碼來處理。有一個限制是絕對的,不取決於任何設定:禁止涉及未成年人的性內容。

限制條件表

限制完整金鑰試用金鑰
並行請求82
每分鐘請求數30060
上下文(提示詞 + 回應)100.000 token100.000 token
主體最大大小8 MB8 MB
過期額度不過期7 天

回應包含標頭 X-RateLimit-Limit-Requests 與 X-RateLimit-Limit-Concurrency,讓你的程式碼能讀取限制而非手動記錄。你也會找到 X-Request-Id,在聯繫支援時很有用,以及顯示剩餘額度的 X-Balance-USD。

max_tokens 參數是選填的:回應可以使用上下文視窗中剩餘的所有空間。如果提示詞加上回應空間超過視窗,max_tokens 會縮減至剩餘空間;只有當提示詞單獨超過 100,000 token 時才會出現 400 錯誤。實務上建議摘要或移除長歷史記錄中的舊內容,以保留回應空間。

維持在限制內的成本

費率為輸入每 1M token $0.15,輸出每 1M token $0.50。以下是一些具體的計算,均可驗證。

一般請求

3.000 token 的提示詞與 800 token 的回應:

  • 輸入:3.000 × $0.15 / 1.000.000 = $0.00045;
  • 輸出:800 × $0.50 / 1.000.000 = $0.0004;
  • 總計:每次請求 $0.00085,即每 1.000 次請求 $0.85。

極端情況

一次填滿視窗的請求(例如 90,000 token 提示詞與 10,000 token 回應)成本為 90,000 × $0.15 / 1M = $0.0135 加上 10,000 × $0.50 / 1M = $0.005,即 $0.0185。一千次此類請求成本為 $18.50。一個 100,000 token 的提示詞搭配極小回應的成本約為 $0.015。

儲值購買什麼

以 $20 最低儲值額,每請求 $0.00085,你可獲得約 23,529 次請求($20 / $0.00085 = 23,529.4)。$0.50 的免費試用額度足夠約 588 次同類請求。若儲值 $100 可獲 $110 額度,儲值 $200 則獲 $230。儲值金額介於 $20 至 $500,支援以 USDT (TRC20) 或 USDC (Base) 加密貨幣支付。詳情請見 價格。

真正限制速度的是什麼

通常重要的數字不是每分鐘 300 次,而是 8 個並行請求。假設:你處理 10.000 份文件,每份文件輸入 2.000 token 並輸出 300 token,每次請求平均耗時 10 秒(實際時間取決於負載與長度,請自行測量)。

  • 使用 8 個並行請求,每秒可完成 0.8 次請求,即每分鐘 48 次,遠低於 300 的上限。
  • 10,000 / 0.8 = 12,500 秒,約 3.5 小時。
  • 成本:20M 輸入 token = $3.00,3M 輸出 token = $1.50,總計 $4.50。

因此限制來自並行度而非速率。要縮短時間需要更短的請求,而非更高的速率。一個令人驚訝的細節:串流輸出的請求會佔用其位置直到流程結束,因此若遺留開啟的串流會佔用 8 個槽位之一。

處理 429 錯誤

超過限制時 API 回傳 HTTP 429。錯誤程式碼會指出類型:rate_limited 代表每分鐘請求限制,concurrency 代表並行限制。臨時超載時總是會收到 429,並帶有標頭 Retry-After: 5。所有三種情況的規則相同:等待並重試。失敗的請求不會計費。

此範例透過訊號量將並行請求限制為 8 次,並使用指數退避進行重試。

import asyncio, os
from openai import AsyncOpenAI, RateLimitError

client = AsyncOpenAI(
    base_url="https://api.apiiasenzacensura.com/v1",
    api_key=os.environ["API_KEY"],
    max_retries=0,
)
slot = asyncio.Semaphore(8)  # usa 2 con la chiave di prova

async def chiedi(testo, tentativi=5):
    for n in range(tentativi):
        async with slot:
            try:
                r = await client.chat.completions.create(
                    model="uncensored",
                    messages=[{"role": "user", "content": testo}],
                )
                return r.choices[0].message.content
            except RateLimitError:
                pass
        await asyncio.sleep(5 * (n + 1))
    raise RuntimeError("troppi tentativi")

async def main():
    testi = [f"Riassumi in una frase il documento {i}" for i in range(20)]
    risultati = await asyncio.gather(*(chiedi(t) for t in testi))
    print(len(risultati), "risposte")

asyncio.run(main())

等待發生在訊號量之外,因此暫停的槽位不會阻塞其他槽位。有關錯誤格式的詳細資訊,請參閱 文件。

工作時檢查額度

由於成本按 token 計算,寫得不當的迴圈可能會比預期更快地消耗額度。兩個節省成本的建議:讀取餘額並自行設定上限。

curl -i https://api.apiiasenzacensura.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Ciao"}],"max_tokens":20}'

在回應標頭中,你可以找到 X-Balance-USD。你也可以使用相同的金鑰查詢 GET /v1/balance,或是 OpenAI 風格的端點 /v1/dashboard/billing/credit_grants。每經過一定數量的請求進行檢查,可以讓你當餘額低於自訂閾值時停止批次處理。在串行工作中設定 max_tokens,以避免產生過長且非必要的回應。

如何讓額度更耐用

由於費用取決於 token 數量,最省錢的方式就是少用 token。以下三個習慣幾乎總是有效。

  1. 縮短歷史記錄。 在聊天中,每個回合都會將所有過去內容傳給模型。經過 20 次每次 350 token 的交談後,僅歷史記錄就會在每次新問題時佔用 7,000 個輸入 token,僅重讀它們的成本就為 $0.00105(7,000 × $0.15 / 1M)。將舊回合摘要為幾行文字可削減此項支出。
  2. 保持系統提示詞簡短。 一個 1,500 token 的提示詞在 10,000 次請求中重複,等於 15M 輸入 token,成本為 $2.25。將其縮減至 500 token 後,成本降至 $0.75。
  3. 限制回應長度。 輸出 token 的成本是輸入 token 的三倍多($0.50 對比 $0.15)。要求簡潔的回應,或在只需兩行即可完成的任務中設定 max_tokens,是最直接的節省方式。

溫度和其他採樣參數(如 top_p 或 seed)也會傳送至模型。如果你希望重複測試並更乾淨地比較兩個提示詞,seed 參數很有用。

如何應對承諾無限制的說法

當服務宣稱請求無上限卻不說明限制時,務必詢問具體細節。擁有明確限制且按 token 計費的模型更利於規劃。在這裡,你可以預先知道能執行多少請求以及花費多少,沒有訂閱費,額度也不會過期。若想開始使用,取得你的金鑰,並使用註冊後一鍵申請且無需付款的 $0.50 免費試用額度。

其他指南

常見問題

每天的消息數量有限制嗎?

文件記載的上限為完整金鑰每分鐘 300 次請求與 8 個並行請求,試用金鑰為每分鐘 60 次請求與 2 個並行請求。

超過限制會發生什麼事?

API 會回應 HTTP 429 與 rate_limited 或 concurrency 錯誤碼。等待幾秒後重試;被拒絕的請求不會計費。

最大上下文長度是多少?

提示詞與回應合計共 100000 個 token。若對話變長,請進行摘要或刪除較舊的消息。

額度有過期時間嗎?

預付額度不會過期。唯一的例外是金額為 $0.50 的試用額度,有效期為 7 天。

你的金鑰只需填寫一個表單即可取得

建立帳戶、複製金鑰、修改 Base URL。設定就是這麼簡單。