KO ▾

무검열 챗봇: Python API로 만들기

무검열 챗봇을 구축하려면 키, Base URL 및 대화 기록이 있는 입력 루프만 있으면 됩니다. 여기에서 전체 코드, 스트리밍 및 사용 규칙을 확인하세요.

무검열 AI: 사용 가능한 옵션 분석

업데이트:

빛나는 만화 배경과 극장 가면, 챗봇과의 대화 장면.

핵심 사항

  • OpenAI SDK만으로도 https://api.apiiasenzacensura.com/v1의 Base URL과 uncensored 모델을 사용할 수 있습니다.
  • 대화 기록은 직접 관리합니다: 각 요청마다 이전 메시지를 전달합니다.
  • 스트리밍은 텍스트가 도착하는 대로 표시하여 인지된 대기 시간을 줄입니다.
  • 모델에 필터가 없다는 것은 규칙이 없다는 뜻이 아닙니다: 연령 제한, 자체 중재 및 미성년자 콘텐츠 금지가 유지됩니다.

필요한 항목

무검열 챗봇은 기술적으로 합법적인 성인 용도로 요청을 거부하지 않는 모델을 가진 일반 챗봇입니다. 나머지는 항상 동일한 작업입니다: 입력을 읽고 API를 호출하여 응답을 출력하는 루프입니다. Python 3.9 이상, openai 패키지 및 키가 필요합니다.

  1. Google 또는 이메일과 비밀번호로 등록하고 API 키 페이지를 엽니다.
  2. 클릭 한 번으로 $0.50 무료 체험 크레딧을 요청하세요: 7일 동안 유효하며 결제가 필요하지 않습니다.
  3. pip install openai로 SDK를 설치하세요.
  4. API 키를 코드에 직접 작성하는 대신 API_KEY와 같은 환경 변수에 저장하세요.

API는 OpenAI와 호환됩니다: Base URL은 https://api.apiiasenzacensura.com/v1, 모델 이름은 uncensored이며, 인증은 Authorization: Bearer 헤더를 사용합니다. 사용 가능한 메서드의 전체 목록이 필요하면 문서를 참조하세요.

curl로 첫 번째 호출

본격적인 코드 작성 전에 키가 작동하는지 확인하세요.

curl https://api.apiiasenzacensura.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "Sei un assistente diretto e conciso."},
      {"role": "user", "content": "Presentati in due frasi."}
    ]
  }'

choices[0].message.content이 포함된 JSON을 받으면 성공입니다. 401 오류는 키가 잘못되었거나 누락되었음을 의미하며, 429는 속도 제한을 초과했음을 의미합니다(무료 체험 키의 경우 동시 요청 2개, 분당 60개 제한). 몇 초만 기다리면 됩니다.

대화 기록 및 스트리밍이 있는 터미널 챗봇

모델은 호출 간에 아무것도 기억하지 않습니다. 대화 메모리는 당신이 업데이트하고 매번 전달하는 메시지 목록입니다. 아래 스크립트는 이를 관리하고 텍스트가 도착하는 대로 응답을 출력합니다.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.apiiasenzacensura.com/v1",
    api_key=os.environ["API_KEY"],
)

SISTEMA = "Sei un compagno di conversazione per adulti. Rispondi in italiano, con tono naturale."
storia = [{"role": "system", "content": SISTEMA}]

while True:
    try:
        utente = input("Tu: ").strip()
    except (EOFError, KeyboardInterrupt):
        break
    if not utente:
        continue
    storia.append({"role": "user", "content": utente})

    flusso = client.chat.completions.create(
        model="uncensored",
        messages=storia,
        stream=True,
        temperature=0.8,
    )
    risposta = ""
    print("Bot: ", end="", flush=True)
    for pezzo in flusso:
        if pezzo.choices and pezzo.choices[0].delta.content:
            testo = pezzo.choices[0].delta.content
            risposta += testo
            print(testo, end="", flush=True)
    print()
    storia.append({"role": "assistant", "content": risposta})

세 가지 세부 사항이 중요합니다. 첫째, pezzo.choices 확인: 스트리밍의 마지막 이벤트에는 텍스트 없이 사용량 데이터만 포함될 수 있습니다. 둘째, 전체 응답은 assistant 역할로 대화 기록에 추가해야 합니다. 그렇지 않으면 다음 턴에서 봇이 자신이 말한 내용을 기억하지 못합니다. 셋째, 스트리밍 중에는 스트리밍이 끝날 때까지 스크립트가 동시 요청 슬롯을 차지합니다.

대화 기록 관리

대화가 길어질수록 각 턴에 전달하는 토큰이 많아지고 비용도 증가합니다. 프롬프트와 응답을 합쳐 최대 100,000 토큰의 컨텍스트 창이 있으므로 결국 잘라야 합니다. 간단한 전략은 시스템 프롬프트와 마지막 N 메시지를 유지하는 것입니다.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.apiiasenzacensura.com/v1",
    api_key=os.environ["API_KEY"],
)

def ridotta(storia, massimo=24):
    # tiene il messaggio di sistema e gli ultimi N messaggi
    return storia[:1] + storia[1:][-massimo:]

def riassumi(vecchi):
    testo = "\n".join(f"{m['role']}: {m['content']}" for m in vecchi)
    r = client.chat.completions.create(
        model="uncensored",
        messages=[{"role": "user", "content": "Riassumi in 5 righe questa conversazione:\n" + testo}],
        max_tokens=300,
    )
    return r.choices[0].message.content

두 번째 함수는 더 세분화된 변형을 위한 것입니다: 오래된 메시지를 버리는 대신 별도의 호출로 요약하고 요약을 시스템 프롬프트 바로 뒤에 배치합니다. 일부 세부 정보가 손실되지만 캐릭터나 컨텍스트는 일관성을 유지합니다. 대화 상대나 역할극의 경우 시스템 프롬프트에 고정된 메모에 중요한 사실을 유지하는 것이 일반적으로 가치가 있습니다.

대화당 비용

현실적인 계산을 해봅시다. 시스템 프롬프트 300 토큰, 사용자 메시지당 100 토큰, 응답당 250 토큰. 턴 k에서 입력은 400 + 350 × (k − 1) 토큰이며, 이전 턴이 누적되기 때문입니다.

  • 20턴 입력: 20 × 400 + 350 × (0 + 1 + … + 19) = 8,000 + 350 × 190 = 74,500 토큰입니다.
  • 20 턴 출력: 20 × 250 = 5,000 토큰.
  • 비용: 74,500 × $0.15 / 1M = $0.011175, 더하기 5,000 × $0.50 / 1M = $0.0025. 총계 약 $0.0137입니다.

따라서 $0.50의 무료 체험 크레딧으로 해당 유형의 대화 약 36회를 수행할 수 있습니다($0.50 / $0.013675 = 36.6). 월 1,000회의 동일한 대화를 처리하는 봇은 약 $13.68을 지출합니다. 가격표는 가격 페이지에서 확인할 수 있으며, 충전은 암호화폐(USDT TRC20 또는 USDC Base)로 $20부터 가능합니다. 크레딧은 만료되지 않으며 실패한 요청에는 요금이 부과되지 않습니다.

시스템 프롬프트 및 캐릭터를 변경하는 매개변수

봇의 성격 대부분은 시스템 프롬프트에 있습니다. "유쾌하게 행동하세요"와 같은 모호한 메시지는 일반적인 응답을 생성하는 반면, 구체적인 메시지는 더 나은 결과를 제공합니다. 캐릭터, 말투, 작성량 및 수행하지 말아야 할 사항을 지정하세요. 예: "당신은 항구 도시를 배경으로 한 역할극 게임의 가이드 마르타입니다. 응답당 최대 5문장으로 작성하세요. 사용자가 STOP을 입력하기 전까지 절대 캐릭터를 벗어나지 마세요."

매개변수에 대해 세 가지 실용적인 규칙:

  • 창의적인 대화의 경우 temperature을 0,7에서 1 사이로, 안정적인 응답이 필요한 경우 더 낮은 값(0,2 또는 0,3)으로 설정합니다.
  • top_p은 온도의 대안입니다: 둘 다 함께 변경하지 마십시오. 그렇지 않으면 두 파라미터 중 어느 것이 효과를 냈는지 알 수 없습니다.
  • presence_penalty 및 frequency_penalty은 반복을 줄여주며, 봇이 같은 문장을 반복하는 경향이 있을 때 유용합니다.

매개변수를 하나씩 변경하고 동일한 메시지에 대해 응답을 비교하세요. 고정된 seed을 사용하면 비교가 더 깨끗합니다. 봇이 지시를 무시하는 경우 솔루션은 시스템 프롬프트에서 더 위에 배치하거나 마지막 메시지에서 짧은 형식으로 반복하는 것입니다. 보장된 공식은 없지만 이러한 유형의 몇 가지 시도는 많은 이론 시간보다 가치가 있습니다.

터미널에서 웹 앱으로

스크립트에서 서비스로 전환할 때 규칙은 하나뿐입니다: 키는 서버에 유지됩니다. 브라우저는 백엔드와 통신하고 백엔드는 다시 API를 호출합니다. 클라이언트 측 JavaScript에 키를 넣으면 개발자 도구를 여는 누구나 키를 복사하여 크레딧을 소모합니다.

인터페이스를 위해 코드를 작성할 필요가 없습니다. 많은 채팅 클라이언트는 OpenAI 호환 엔드포인트를 지원하며 Base URL, 키 및 uncensored 모델만 입력하면 됩니다. 필드 이름은 앱마다 다르므로 선택한 도구의 문서를 참조하세요.

봇이 날씨나 데이터베이스와 같은 외부 함수를 호출해야 하는 경우 API는 tools 및 tool_choice로 tool calling을 지원합니다. response_format을 json_object로 설정하면 코드가 자유 텍스트를 해석하지 않고 읽을 수 있는 구조화된 응답을 얻습니다.

사용 규칙 및 책임

무검열 모델은 책임을 당신에게 이전시킵니다. 모델은 거부하지 않도록 훈련되었지만, 누가 봇을 사용할 수 있는지와 무엇을 할 수 있는지에 대한 결정은 게시자에게 달려 있습니다. 몇 가지 상식적인 규칙:

  • 성인만 가능. 봇을 대중에게 공개하는 경우 연령 확인을 설정하고 합법적인 성인 용도에 전용임을 명확히 선언하세요.
  • 미성년자: 절대적 제한. 미성년자가 관련된 성적인 콘텐츠는 어떤 경우에도, 프롬프트를 어떻게 표현하더라도 허용되지 않습니다.
  • 자체 중재. 다른 사용자를 호스팅하는 경우 대화 로그, 신고 방법 및 계정 차단을 고려하세요.
  • 텍스트 전용. API는 이미지, 오디오 또는 비디오를 생성하지 않습니다. 이러한 기능에는 다른 도구가 필요합니다.
  • 데이터. 프롬프트는 학습에 사용되지 않지만 여전히 외부 서비스를 통과하는 텍스트이므로 사용자에게 불필요한 데이터를 요청하지 마세요.

서비스의 전체적인 개요는 무검열 AI 페이지를 참조하세요.

다른 가이드

자주 묻는 질문

내 컴퓨터에 모델을 설치해야 하나요?

아니요. 모델은 제공업체 측에서 실행되며 HTTP를 통해 호출합니다. Python, openai 패키지 및 API 키만 있으면 됩니다.

채팅봇은 과거 대화를 기억합니까?

사용자가 기억하게 할 경우에만 가능합니다. 각 요청에서 이력을 다시 전달합니다. 긴 세션의 경우 파일이나 데이터베이스에 저장하고 오래된 부분을 요약하세요.

다른 OpenAI 클라이언트와 동일한 코드를 사용할 수 있나요?

네. Base URL과 키를 변경하고 uncensored 모델을 설정하세요. 채팅 완료, 응답 및 GET /v1/models을 통한 모델 목록이 제공됩니다.

봇이 이미지를 생성할 수 있나요?

아니요. API는 텍스트 전용입니다. 이미지, 오디오, 비디오, 임베딩 또는 파인튜닝은 제공되지 않습니다.

API 키는 한 번의 클릭으로 얻을 수 있습니다

계정을 생성하고 키를 복사한 후 Base URL을 수정하세요. 설정은 이것뿐입니다.