จุดสำคัญ
- ไม่เซ็นเซอร์ไม่ได้หมายความว่าไม่มีขีดจำกัด: มีขีดจำกัดคำขอต่อนาที คำขอพร้อมกัน และบริบท
- คีย์แบบเต็ม: คำขอพร้อมกัน 8 รายการและ 300 รายการต่อนาที คีย์ทดลอง: 2 และ 60
- หน้าต่างบริบทคือ 100,000 โทเคนระหว่างพรอมต์และคำตอบ; เครดิตไม่หมดอายุ
- ข้อผิดพลาด 429 จัดการด้วยการรอและลองใหม่ และคำขอที่ล้มเหลวจะไม่คิดเงิน
สองสิ่งที่แตกต่างกัน: ไม่มีการปฏิเสธและไม่มีขีดจำกัด
เมื่อค้นหา AI โดยไม่จำกัดการใช้งาน จะมีการผสมผสานสองแนวคิดเข้าด้วยกัน ประการแรกคือการไม่มีข้อจำกัดเนื้อหา: โมเดลที่ใช้ที่นี่ได้รับการฝึกฝนให้ตอบโดยไม่มีการปิดกั้นสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ประการที่สองคือความไม่มีข้อจำกัดทางเทคนิค ซึ่งไม่มีบริการใดที่จริงจังที่ไม่มีสิ่งนี้ มีข้อจำกัดเกี่ยวกับอัตราคำขอ จำนวนการเรียกใช้แบบขนาน ความยาวของหน้าต่างบริบท และขนาดของบอดี้ในคำขอ
ควรทราบข้อจำกัดเหล่านี้ก่อนสร้างสิ่งใดสิ่งหนึ่ง เนื่องจากสามารถคาดการณ์ได้และเกือบทั้งหมดสามารถจัดการได้ด้วยโค้ดเล็กน้อย ข้อจำกัดหนึ่งยังคงเป็นค่าคงที่และไม่ขึ้นอยู่กับค่ากำหนดใดๆ: ไม่มีเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์
ขีดจำกัดในตาราง
| ขีดจำกัด | คีย์เต็ม | คีย์ทดสอบ |
|---|---|---|
| คำขอพร้อมกัน | 8 | 2 |
| คำขอต่อนาที | 300 | 60 |
| หน้าต่างบริบท (พรอมต์ + คำตอบ) | 100,000 โทเคน | 100,000 โทเคน |
| ขนาดสูงสุดของบอดี้ | 8 MB | 8 MB |
| วันหมดอายุ | เครดิตไม่หมดอายุ | 7 วัน |
การตอบกลับจะระบุหัวข้อความ X-RateLimit-Limit-Requests และ X-RateLimit-Limit-Concurrency เพื่อให้โค้ดของคุณสามารถอ่านค่าขีดจำกัดได้แทนที่จะกำหนดค่าตายตัว (hardcode) ไว้ในโค้ด นอกจากนี้ยังมี X-Request-Id ซึ่งมีประโยชน์หากคุณติดต่อฝ่ายสนับสนุน และ X-Balance-USD ที่แสดงเครดิตคงเหลือ
พารามิเตอร์ max_tokens เป็นตัวเลือก: การตอบกลับสามารถใช้พื้นที่ที่เหลือทั้งหมดในหน้าต่างได้ หากพรอมต์และพื้นที่สำหรับการตอบกลับเกินหน้าต่าง max_tokens จะถูกปรับลดเหลือสิ่งที่เหลืออยู่; ข้อผิดพลาด 400 จะเกิดขึ้นเฉพาะเมื่อพรอมต์เพียงอย่างเดียวไม่อยู่ใน 100,000 โทเคน โดยทั่วไปแล้วควรสรุปหรือลบส่วนเก่าของประวัติที่ยาวออก เพื่อให้การตอบกลับมีพื้นที่เหลือ
ค่าใช้จ่ายในการอยู่ภายในขีดจำกัด
อัตราค่าบริการคือ $0.15 ต่อ 1M โทเคนขาเข้า และ $0.50 ต่อ 1M โทเคนขาออก ตัวอย่างตัวเลขที่ตรวจสอบได้ทั้งหมด
คำขอทั่วไป
พรอมต์ 3,000 โทเคนและคำตอบ 800:
- นำเข้า: 3,000 × $0.15 / 1,000,000 = $0.00045;
- ส่งออก: 800 × $0.50 / 1,000,000 = $0.0004;
- รวม: $0.00085 ต่อคำขอ ดังนั้น $0.85 ต่อ 1,000 คำขอ
กรณีสุดขั้ว
คำขอที่เติมหน้าต่างบริบท เช่น พรอมต์ 90,000 โทเคนและคำตอบ 10,000 โทเคน มีค่าใช้จ่าย 90,000 × $0.15 / 1M = $0.0135 บวก 10,000 × $0.50 / 1M = $0.005 รวมเป็น $0.0185 คำขอ 1,000 แบบนี้จะมีค่าใช้จ่าย $18.50 พรอมต์ 100,000 โทเคนพร้อมคำตอบเล็กน้อยมีค่าใช้จ่ายประมาณ $0.015
สิ่งที่คุณได้รับจากการเติมเงิน
ด้วยเงิน $20 ซึ่งเป็นจำนวนเติมเงินขั้นต่ำ ในอัตรา $0.00085 ต่อคำขอ คุณจะได้รับประมาณ 23,529 คำขอ ($20 / $0.00085 = 23,529.4) เครดิตทดลองใช้ $0.50 เพียงพอสำหรับคำขอประเภทเดียวกันประมาณ 588 คำขอ หากเติมเงิน $100 คุณจะได้รับเครดิต $110 หากเติมเงิน $200 จะได้รับเครดิต $230 การเติมเงินมีตั้งแต่ $20 ถึง $500 และชำระด้วยคริปโตผ่าน USDT บน TRC20 หรือ USDC บน Base ดูรายละเอียดใน ราคา
สิ่งที่จำกัดความเร็วจริงๆ
ตัวเลขที่สำคัญมักไม่ใช่ 300 ต่อนาที แต่เป็น 8 คำขอพร้อมกัน สมมติฐาน: คุณประมวลผลเอกสาร 10,000 ฉบับ แต่ละฉบับมีข้อมูลนำเข้า 2,000 โทเคนและข้อมูลส่งออก 300 โทเคน และแต่ละคำขอใช้เวลาเฉลี่ย 10 วินาที (เวลาจริงขึ้นอยู่กับภาระงานและความยาว โปรดวัดด้วยตนเอง)
- ด้วย 8 คำขอพร้อมกัน คุณจะประมวลผลได้ 0.8 คำขอต่อวินาที หรือ 48 คำขอต่อนาที ซึ่งต่ำกว่าขีดจำกัด 300 มาก
- 10,000 / 0.8 = 12,500 วินาที หรือประมาณ 3.5 ชั่วโมง
- ค่าใช้จ่าย: ข้อมูลนำเข้า 20M โทเคน = $3.00 ข้อมูลส่งออก 3M โทเคน = $1.50 รวม $4.50
ดังนั้นข้อจำกัดคือความพร้อมกัน (concurrency) ไม่ใช่อัตรา การลดเวลาให้สั้นลงต้องใช้คำขอที่สั้นลง ไม่ใช่อัตราที่สูงขึ้น ข้อเท็จจริงที่น่าประหลาดใจคือ: คำขอแบบสตรีมมิงจะครอบครองสล็อตจนกว่าการสตรีมจะสิ้นสุด ดังนั้นหากคุณปล่อยสตรีมที่ลืมปิดไว้ คุณจะบล็อกสล็อตหนึ่งใน 8 สล็อต
การจัดการข้อผิดพลาด 429
เมื่อเกินขีดจำกัด API จะตอบกลับด้วย HTTP 429 รหัสข้อผิดพลาดจะระบุประเภท: rate_limited สำหรับคำขอต่อนาที และ concurrency สำหรับคำขอพร้อมกัน ในกรณีภาระงานชั่วคราวจะส่ง 429 เสมอ พร้อมส่วนหัว Retry-After: 5 ในทั้งสามกรณี กฎเดียวกันคือรอแล้วลองใหม่ คำขอที่ล้มเหลวจะไม่ถูกเรียกเก็บเงิน
ตัวอย่างนี้จำกัดความพร้อมกันไว้ที่ 8 โดยใช้เซมาโฟร์และลองใหม่ด้วยการรอที่เพิ่มขึ้น
import asyncio, os
from openai import AsyncOpenAI, RateLimitError
client = AsyncOpenAI(
base_url="https://api.apiiasenzacensura.com/v1",
api_key=os.environ["API_KEY"],
max_retries=0,
)
slot = asyncio.Semaphore(8) # usa 2 con la chiave di prova
async def chiedi(testo, tentativi=5):
for n in range(tentativi):
async with slot:
try:
r = await client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": testo}],
)
return r.choices[0].message.content
except RateLimitError:
pass
await asyncio.sleep(5 * (n + 1))
raise RuntimeError("troppi tentativi")
async def main():
testi = [f"Riassumi in una frase il documento {i}" for i in range(20)]
risultati = await asyncio.gather(*(chiedi(t) for t in testi))
print(len(risultati), "risposte")
asyncio.run(main())
การรอเกิดขึ้นนอกระบบเซมาโฟร์ ทำให้สล็อตที่หยุดชั่วคราวไม่บล็อกสล็อตอื่น สำหรับรายละเอียดเกี่ยวกับรูปแบบข้อผิดพลาด โปรดดูที่ เอกสารประกอบ
ตรวจสอบเครดิตขณะทำงาน
เนื่องจากค่าใช้จ่ายคำนวณตามโทเคน วงจรที่เขียนไม่ดีอาจใช้เครดิตได้เร็วกว่าที่คาด สองวิธีประหยัด: อ่านยอดคงเหลือและกำหนดขีดจำกัดของคุณเอง
curl -i https://api.apiiasenzacensura.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Ciao"}],"max_tokens":20}'
ในส่วนหัวของคำตอบคุณจะพบ X-Balance-USD คุณยังสามารถเรียกใช้ GET /v1/balance ด้วยคีย์ API เดียวกัน หรือใช้เอนด์พอยต์สไตล์ OpenAI /v1/dashboard/billing/credit_grants การตรวจสอบทุกๆ คำขอจำนวนหนึ่งช่วยให้คุณหยุดชุดงานเมื่อยอดคงเหลือต่ำกว่าเกณฑ์ที่กำหนด ตั้งค่า max_tokens สำหรับงานแบบลำดับ เพื่อหลีกเลี่ยงคำตอบที่ยาวเกินความจำเป็น
วิธีทำให้เครดิตอยู่ได้นานขึ้น
เนื่องจากค่าใช้จ่ายขึ้นอยู่กับโทเคน วิธีที่มีประสิทธิภาพที่สุดในการใช้จ่ายให้น้อยลงคือการส่งโทเคนให้น้อยลง สามนิสัยที่ใช้งานได้ผลเกือบทุกครั้ง
- ลดความยาวของประวัติการสนทนา ในการแชทแต่ละรอบ โมเดลจะรับข้อมูลย้อนหลังทั้งหมด หลังจากการสนทนา 20 รอบ รอบละ 350 โทเคน ประวัติการสนทนาเพียงอย่างเดียวจะหนักถึง 7,000 โทเคนสำหรับข้อมูลนำเข้าในทุกคำถามใหม่ ซึ่งคิดเป็น $0.00105 เพียงสำหรับการอ่านข้อมูลนั้นซ้ำ (7,000 × $0.15 / 1M) การสรุปบทสนทนาเก่าให้เหลือเพียงไม่กี่บรรทัดจะตัดค่าใช้จ่ายส่วนนี้
- ทำให้พรอมต์ระบบสั้นลง พรอมต์ขนาด 1,500 โทเคนที่ส่งซ้ำใน 10,000 คำขอ มีค่าเท่ากับข้อมูลนำเข้า 15M โทเคน หรือ $2.25 การลดขนาดเหลือ 500 โทเคนจะลดค่าใช้จ่ายเหลือ $0.75
- กำหนดขีดจำกัดให้คำตอบ โทเคนข้อมูลส่งออกมีค่าใช้จ่ายสูงกว่าข้อมูลนำเข้ามากกว่าสามเท่า ($0.50 เทียบกับ $0.15) การขอคำตอบที่กระชับหรือตั้งค่า
max_tokensสำหรับงานที่ต้องการเพียงสองบรรทัด เป็นการประหยัดที่ตรงที่สุด
อุณหภูมิและพารามิเตอร์การสุ่มตัวอย่างอื่นๆ เช่น top_p หรือ seed จะถูกส่งไปยังโมเดลเช่นกัน พารามิเตอร์ seed มีประโยชน์หากคุณต้องการทำซ้ำการทดสอบและเปรียบเทียบพรอมต์สองรายการให้ชัดเจนยิ่งขึ้น
จะตอบโต้ผู้ที่ยืนยันเรื่องไม่มีขีดจำกัดอย่างไร
เมื่อบริการใดสัญญาคำขอแบบไม่มีขีดจำกัดโดยไม่อธิบายเพดาน ให้ถามเสมอว่าขีดจำกัดนั้นคืออะไร โมเดลที่มีขีดจำกัดที่ประกาศชัดเจนและราคาต่อโทเคนจะวางแผนได้ง่ายกว่า ที่นี่คุณรู้ล่วงหน้าว่าจะทำคำขอได้กี่รายการและใช้จ่ายเท่าไร โดยไม่ต้องสมัครสมาชิกและเครดิตไม่หมดอายุ หากต้องการเริ่มต้น รับคีย์ของคุณ และใช้เครดิตทดลองใช้ $0.50 ซึ่งสมัครได้ด้วยการคลิกหลังการลงทะเบียนและไม่ต้องชำระเงิน

