JA ▾

制限なしAI:真の意味とは

文字通り制限なしのAIは存在しません。すべてのサービスには技術的な上限があります。ここではこのAPIの実際の制限と、その範囲内で利用する場合のコストを確認できます。

無検閲AI:利用可能なオプションの分析

更新日:

信号機と8車線のランプウェイが1つの道路に合流する図。リクエスト制限の象徴です。

主要ポイント

  • 検閲なしは制限なしを意味しません。1分あたりのリクエスト数、同時リクエスト数、コンテキストには上限があります。
  • 完全キー:同時リクエスト8件、1分あたり300件。試用キー:同時リクエスト2件、1分あたり60件。
  • コンテキストはプロンプトと回答を合わせて100000トークンです。クレジットは期限切れしません。
  • 429エラーは待機と再試行で処理でき、失敗したリクエストは課金されません。

2つの異なる概念:フィルタなしと上限なし

制限なしAIを検索すると、2つの概念が混同されがちです。1つ目はコンテンツの拒否がないこと:ここで使用するモデルは、合法的な大人向け用途でもブロックなしで回答するように訓練されています。2つ目は技術的な上限がないことで、これは信頼できるサービスでは存在しません。リクエストのペース、並列呼び出しの数、コンテキストの長さ、リクエストボディのサイズに制限があります。

構築する前に知っておく価値があります。これらは予測可能で、わずかなコードでほぼ回避できるためです。ただし、設定に依存しない絶対的な制限が1つあります。それは、未成年者が関与する性的コンテンツの禁止です。

制限の表

制限完全キー試用キー
並列リクエスト82
1分あたりのリクエスト30060
コンテキスト(プロンプト+回答)100,000トークン100,000トークン
最大ボディサイズ8 MB8 MB
期限クレジットの有効期限はありません7日間

レスポンスにはX-RateLimit-Limit-RequestsおよびX-RateLimit-Limit-Concurrencyのヘッダーが含まれます。これにより、コードで手動で値を保持するのではなく、制限値を読み取ることができます。サポートに連絡する際に有用なX-Request-Idや、残高を示すX-Balance-USDも返されます。

パラメータmax_tokensはオプションです。レスポンスはウィンドウの残りのスペースをすべて使用できます。プロンプトとレスポンスのスペースがウィンドウを超えた場合、max_tokensは残りに削減されます。400エラーは、プロンプトのみが100,000トークンに収まらない場合にのみ発生します。実際には、長い履歴の古い部分を要約または削除して、レスポンスにスペースを残すことをお勧めします。

制限内に収まるコスト

料金は入力トークン1Mあたり$0.15、出力トークン1Mあたり$0.50です。いくつかの具体的な計算例を、すべて検証可能にお見せします。

典型的なリクエスト

3,000トークンのプロンプトと800トークンの回答:

  • インバウンド:3,000 × $0.15 / 1,000,000 = $0.00045;
  • アウトバウンド:800 × $0.50 / 1,000,000 = $0.0004;
  • 合計:リクエストあたり$0.00085、つまり1,000リクエストで$0.85。

極端なケース

ウィンドウを埋めるリクエスト、例えば 90,000 トークンのプロンプトと 10,000 トークンのレスポンスの場合、コストは 90,000 × $0.15 / 1M = $0.0135 に 10,000 × $0.50 / 1M = $0,005 を加えた $0.0185 です。このようなリクエストを 1,000 回実行すると $18.50 かかります。100,000 トークンのプロンプトと最小限の回答では約 $0,015 です。

チャージで何を購入するか

最小チャージ額は$20で、1リクエストあたり$0.00085の場合、約23,529リクエスト($20 / $0.00085 = 23,529.4)が利用できます。$0.50の無料トライアルクレジットでは、同様のタイプのリクエストが約588回分使用できます。$100チャージすると$110のクレジット、$200チャージすると$230のクレジットが得られます。チャージ額は$20から$500までで、USDT(TRC20)またはUSDC(Base)による暗号通貨で支払います。詳細は価格をご覧ください。

速度を本当に制限するのは何か

重要なのは通常、1 分あたりの 300 件ではなく、同時 8 件のリクエスト数です。例として、各入力が 2,000 トークン、各出力が 300 トークンの 10,000 文書を処理する場合を考えます。リクエストあたりの平均所要時間は 10 秒ですが、実際の時間は負荷と長さに依存するため、測定してください。

  • 8つの並列リクエストで、1秒あたり0.8リクエスト、つまり1分あたり48リクエストを完了できます。これは300の上限を大幅に下回ります。
  • 10,000 / 0.8 = 12,500秒、約3.5時間。
  • コスト:インバウンド20Mトークン = $3.00、アウトバウンド3Mトークン = $1.50、合計$4.50。

つまり、制約は速度ではなく並列性です。時間を短縮するには、より高い速度ではなく、より短いリクエストが必要です。驚くべき事実:ストリーミングリクエストはフローが終了するまでスロットを占有するため、忘れられたストリームを開いたままにしておくと、8つのスロットの1つがブロックされます。

429エラーの処理

制限を超えるとAPIはHTTP 429を返します。エラーコードは、1分あたりのリクエスト数の場合はrate_limited、同時実行数の場合はconcurrencyを示します。一時的な過負荷の場合も常に429が返され、ヘッダーRetry-After: 5が含まれます。いずれのケースでもルールは同じです:待機してから再試行してください。失敗したリクエストは課金されません。

この例では、セマフォで並列性を8に制限し、指数バックオフで再試行します。

import asyncio, os
from openai import AsyncOpenAI, RateLimitError

client = AsyncOpenAI(
    base_url="https://api.apiiasenzacensura.com/v1",
    api_key=os.environ["API_KEY"],
    max_retries=0,
)
slot = asyncio.Semaphore(8)  # usa 2 con la chiave di prova

async def chiedi(testo, tentativi=5):
    for n in range(tentativi):
        async with slot:
            try:
                r = await client.chat.completions.create(
                    model="uncensored",
                    messages=[{"role": "user", "content": testo}],
                )
                return r.choices[0].message.content
            except RateLimitError:
                pass
        await asyncio.sleep(5 * (n + 1))
    raise RuntimeError("troppi tentativi")

async def main():
    testi = [f"Riassumi in una frase il documento {i}" for i in range(20)]
    risultati = await asyncio.gather(*(chiedi(t) for t in testi))
    print(len(risultati), "risposte")

asyncio.run(main())

待機はセマフォの外で行われるため、一時停止中のスロットが他のスロットをブロックしません。エラー形式の詳細については、ドキュメントを参照してください。

作業中のクレジット確認

コストはトークン単位のため、誤ったループは予想より早くクレジットを消費する可能性があります。コストを抑えるための2つの方法:残高を読み取り、独自の上限を設定します。

curl -i https://api.apiiasenzacensura.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Ciao"}],"max_tokens":20}'

レスポンスヘッダーにX-Balance-USDが含まれます。同じキーでGET /v1/balanceをクエリするか、OpenAIスタイルの/v1/dashboard/billing/credit_grantsエンドポイントを使用できます。一定数のリクエストごとにチェックすることで、残高がしきい値を下回ったときにバッチを停止できます。バッチ処理にはmax_tokensを設定し、不要な長いレスポンスを避けてください。

クレジットを長持ちさせる方法

コストはトークン数に依存するため、最も効果的な節約方法はトークン数を減らすことです。ほぼ常に機能する3つの習慣をご紹介します。

  1. 履歴を短くする。 チャットでは、各ターンでモデルに過去の会話全体が送られます。350トークンずつの20回のやり取りの後、履歴だけで新しい質問ごとに7,000トークンの入力が発生し、読み直すだけで$0.00105(7,000 × $0.15 / 1M)かかります。古い会話を数行に要約することで、このコストを削減できます。
  2. システムプロンプトを短く保つ。 1,500トークンのプロンプトが10,000回繰り返されると、入力は15Mトークンに達し、コストは$2.25になります。これを500トークンに減らすと、コストは$0.75に下がります。
  3. 回答の上限を設定する。 出力トークンは入力トークンの3倍以上の料金がかかります($0.50対$0.15)。簡潔な回答を求めたり、2行で済むタスクにmax_tokensを設定したりすることで、最も直接的な節約が可能です。

温度やtop_p、seedなどのサンプリングパラメータもモデルに渡されます。seedパラメータは、テストを再現し、2つのプロンプトをより明確に比較したい場合に役立ちます。

「無制限」と約束する人への返し

制限を明示せずに無制限のリクエストを約束するサービスでは、常に上限を確認してください。明示された制限とトークン単位の価格を持つモデルは、計画を立てやすいです。ここでは、サブスクリプションやクレジットの期限なしで、何回リクエストを送れ、いくらかかるかを事前に知ることができます。始めたい場合は、APIキーを取得し、登録後にワンクリックで入手でき、支払いを必要としない$0.50の無料トライアルクレジットを使用してください。

その他のガイド

よくある質問

1 日のメッセージ数に制限はありますか?

文書化された制限は、完全なAPIキーを使用する場合で1分あたり300リクエスト、同時8件、テストキーを使用する場合で1分あたり60リクエスト、同時2件です。

制限を超えた場合どうなりますか?

API は HTTP 429 とともに、rate_limited または concurrency のコードを返します。数秒待ってから再試行してください。拒否されたリクエストは課金されません。

最大コンテキストウィンドウの長さは?

プロンプトと回答を合わせて合計 100,000 トークンです。会話が長くなる場合は、要約するか、古いメッセージを削除してください。

クレジットの有効期限はありますか?

前払いクレジットの有効期限はありません。唯一の例外は、7日間有効な$0.50のテストクレジットです。

あなたのキーはフォーム一つで入手できます

アカウントを作成し、キーをコピーし、Base URLを編集します。設定はこれだけです。