DE ▾

Unzensiertes LLM: Lokal oder über API – was ist besser?

Ein unzensiertes LLM lässt sich lokal auf dem eigenen PC ausführen oder über API aufrufen. Hier findest du Hardware, Kosten und Wartung beider Wege mit überprüfbaren Zahlen.

LLMs ohne Zensur: Analyse der verfügbaren Optionen

Aktualisiert:

Isometrische Waage: auf der einen Seite eine Workstation mit lokaler GPU, auf der anderen ein Cloud-Server über Kabel verbunden.

Wichtige Punkte

  • Lokal zahlst du Hardware sofort und Wartung dauerhaft; über API zahlst du nur die genutzten Token.
  • Mit $0,15 pro 1M Input-Token und $0,50 pro 1M Output-Token decken $20 mehrere Dutzend Millionen Token ab.
  • Lokal gewinnt bei intensiver Dauerlast, Offline-Arbeit und totaler Kontrolle über die Gewichte.
  • Die API gewinnt für alle, die heute starten, wenig GPU haben oder einen OpenAI-kompatiblen Endpunkt wollen.

Die kurze Antwort

Wenn du ein unzensiertes LLM suchst und keine GPU mit viel Speicher hast, ist die API fast immer der sinnvollste Startpunkt. Wenn du den ganzen Tag Text generierst, offline arbeitest oder Modelle auswählen und anpassen willst, zahlt sich die lokale Lösung aus. Hier der Vergleich in einer Tabelle.

AspektLokalÜber API
AnfangskostenGPU, Netzteil, KühlungKeine, Aufladung ab $20
Laufende KostenStrom, Verschleiß, deine ZeitNur genutzte Token
Zeit bis zum StartStunden oder Tage zwischen Download und TestsWenige Minuten
ModellauswahlFrei, du kannst mehrere behaltenNur eines, vom Anbieter gewählt
Maximales KontextfensterHängt von deinem Speicher ab100.000 Token
Offline-fähigJaNein
Parallele AnfragenWas deine GPU leistet8 mit vollständigem Schlüssel

Es gibt keine absolut richtige Wahl. Die folgenden Abschnitte helfen dir zu verstehen, auf welcher Seite du stehst.

Was du wirklich für den lokalen Betrieb brauchst

Der Flaschenhals ist der VRAM. Die Modellgewichte müssen in den VRAM passen, sonst wandern sie in den Systemspeicher und die Geschwindigkeit bricht ein. Als grobe Orientierung: Ein kleines, auf 4 Bit quantisiertes Modell belegt meist nur wenige Gigabyte, während ein sehr großes Modell Dutzende benötigen kann. Die genauen Werte hängen vom Modell und der Quantisierung ab, also prüfe immer die Modellkarte und die Dokumentation des Tools.

Hinzu kommt der Kontext-Cache: Je länger die Konversation ist, desto mehr Speicher verbraucht sie zusätzlich zu den Gewichten. Ein Kontext mit zehntausenden Token auf einem großen Modell kann weitere Gigabyte beanspruchen.

Die Software

Für lokale Inferenz gibt es bekannte Tools wie llama.cpp, Ollama und vLLM. Ollama und vLLM bieten auch einen Endpunkt, der mit dem OpenAI-Format kompatibel ist, sodass Code, den du heute für einen lokalen Server schreibst, sich mit zwei Zeilen Änderung auf eine Remote-API übertragen lässt. Details zur Installation findest du in der Dokumentation der jeweiligen Projekte.

Das Modell finden

Open-Weight-Modelle mit weniger Verweigerungen werden von verschiedenen Communities veröffentlicht, die Qualität ist jedoch sehr unterschiedlich. Einige verlieren nach der Modifikation die Kohärenz, andere reagieren nur gut mit einem bestimmten Prompt-Format. Erwarte, mehrere auszuprobieren, bis du eines findest, das passt.

Was die API kostet, ausgerechnet

Der Tarif beträgt $0,15 pro 1M Input-Token und $0,50 pro 1M Output-Token, im Prepaid-Modus, ohne Abonnement. Fehlgeschlagene oder abgelehnte Anfragen werden nicht berechnet, das Guthaben verfällt nie. Siehe drei Szenarien.

  • Leichte Nutzung. 2M Input-Token und 500.000 Output-Token pro Monat: 2 × $0,15 = $0,30 plus 0,5 × $0,50 = $0,25, insgesamt $0,55.
  • Durchschnittlicher Verbrauch. 50M Eingangsdaten und 10M Ausgangsdaten: 50 × $0,15 = $7,50 plus 10 × $0,50 = $5,00, insgesamt $12,50.
  • Schwere Nutzung. 400M Input und 80M Output: 400 × $0,15 = $60 plus 80 × $0,50 = $40, insgesamt $100.

Die Mindestaufladung beträgt $20, sodass im Durchschnitt eine einzige Aufladung mehr als einen Monat abdeckt. Ab bestimmten Schwellenwerten gibt es einen Bonus: +5 % ab $50, +10 % ab $100, +15 % ab $200. Beispiel: Aus $100 werden $110 Guthaben. Die vollständige Preisliste findest du auf der API-Preisseite.

Für den lokalen Betrieb ist die Rechnung weniger direkt. Starte mit dem GPU-Preis, teile ihn durch die Monate, in denen du ihn nutzen willst, und addiere Strom: Leistung in kW mal Nutzungsstunden mal Preis deines Stromvertrags. Das Ergebnis geteilt durch die Token, die du wirklich generierst, ist dein Kosten pro Million. Rechne das mit deinen Zahlen durch und vergleiche es mit $0,50 pro Million Output.

Die Wartung, die oft vergessen wird

Wer sich für lokal entscheidet, kümmert sich auch um den Rest. Treiber und CUDA-Bibliotheken, die nach einem Update kaputtgehen, neue Versionen des Inferenz-Engines, sich ändernde Quantisierungsformate, neu herunterzuladende Modelle. Wenn der Dienst für andere Personen verfügbar ist, füge Monitoring, automatische Neustarts und ein Queue-Management hinzu, wenn mehr Anfragen eintreffen, als die GPU aushält.

Das ist alles nicht schwer, erfordert aber wiederkehrende Zeit. Wenn deine Zeit etwas wert ist, rechne sie ein: Einige Stunden im Monat wiegen mehr als die $12,50 des oben gezeigten Durchschnittsszenarios.

Mit der API reduziert sich die Wartung auf deiner Seite auf einen Schlüssel, eine Base URL und das Handling von 429-Fehlern, wie in der Dokumentation beschrieben. Im Gegenzug bist du vom Anbieter abhängig: Wenn er ein Problem hat, kannst du nichts tun.

Wann lohnt sich Local und wann die API

Wähle Local, wenn

  • du bereits eine passende GPU hast und die Grenzkosten nur der Strom sind;
  • du Text kontinuierlich über Stunden, jeden Tag generierst;
  • du ohne Netzwerk oder mit Daten arbeiten musst, die nicht das Gerät verlassen dürfen;
  • du das Modell oft wechseln, Fine-Tuning durchführen oder mit den Gewichten experimentieren willst.

Wähle die API, wenn

  • du einen Endpunkt brauchst, der heute funktioniert, ohne etwas kaufen zu müssen;
  • dein Nutzungsmuster sprunghaft ist: ein Bot, ein Nacht-Skript, ein Prototyp;
  • du einen langen Kontext (hier 100.000 Token) brauchst, ohne die Speicherkapazität dimensionieren zu müssen;
  • du auf 8 parallele Anfragen skalieren willst, ohne an die Hardware denken zu müssen.

Viele Teams nutzen beide Wege: die API zum Starten und für Lastspitzen, Local für stabile Lasten. Da das Format gleich ist, erfordert der Wechsel von der einen zur anderen Methode nicht, die Anwendung neu zu schreiben.

Eine einfache Methode zur Entscheidung

Miss vor dem Kauf von irgendetwas. Protokolliere eine Woche lang, wie viele Token du verbrauchst, abgeleitet aus dem Feld usage der Antworten oder dem Zähler deines Tools. Dann rechne drei Dinge aus.

  1. Multipliziere die wöchentlichen Input-Token mit 4 und dividiere durch eine Million, multipliziert mit $0,15.
  2. Mache dasselbe mit den Output-Token und $0,50.
  3. Addiere die beiden Ergebnisse und vergleiche sie mit den monatlichen Hardwarekosten plus Strom.

Wenn die API-Summe unter einigen Dutzend Dollar im Monat liegt, macht es selten Sinn, nur dafür eine GPU zu kaufen. Wenn sie die Rate deutlich übersteigt, wird Local interessant. Ein Sonderfall ist die Latenz: Auf deiner Maschine durchläufst du das Netzwerk nicht, aber eine Heim-GPU mit einem großen Modell kann langsamer sein als ein gehosteter Dienst. Teste beide auf deiner Last, da die Unterschiede vom Modell und der Prompt-Länge abhängen.

Berücksichtige auch das Wachstum. Ein Prototyp, der heute wenig verbraucht, kann sich multiplizieren, wenn andere ihn nutzen. Die API verarbeitet bis zu 8 parallele Anfragen mit dem vollständigen Schlüssel, während Local bei jedem weiteren Nutzer langsamer wird, bis du Hardware hinzufügst.

Die API in fünf Minuten testen

Zum Testen brauchst du einen Schlüssel. Nach der Registrierung mit Google oder E-Mail und Passwort kannst du auf der Schlüssel-Seite mit einem Klick $0,50 Testguthaben anfordern, gültig für 7 Tage und ohne Zahlungspflicht. Gehe zu API-Schlüssel erhalten. Der Testschlüssel hat ein Limit von 2 parallelen Anfragen und 60 pro Minute.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.apiiasenzacensura.com/v1",
    api_key=os.environ["API_KEY"],
)

risposta = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Spiega in tre frasi cos'è la quantizzazione di un modello."}],
)
print(risposta.choices[0].message.content)

Wenn du später auf einen lokalen Server mit kompatiblem Endpunkt wechseln willst, reicht es, die base_url und den Modellnamen zu ändern.

Was es nicht ist

Es ist ein einzelnes Open-Weight-Modell, betrieben von einem unabhängigen Anbieter und darauf trainiert, ohne inhaltliche Ablehnungen für legale Erwachsenennutzung zu antworten. Es ist nicht die offizielle API eines großen Labors, generiert keine Bilder, Audio oder Video und bietet keine Embeddings oder Fine-Tuning. Es bleibt eine absolute Grenze: Kein sexueller Inhalt, der Minderjährige betrifft. Für einen umfassenderen Überblick siehe die Seite Unzensierte KI. Prompts werden nicht zum Training verwendet.

Weitere Anleitungen

Häufig gestellte Fragen

Ist ein lokales LLM wirklich privater?

Mit Local bleiben die Daten auf deiner Maschine, also ja, vorausgesetzt, du schützt sie. Mit der API wandern Prompts zum Anbieter; hier werden sie nicht zum Training verwendet.

Wie viele Token kann ich für $20 verwenden?

Wenn alles Input wäre, 133,3 Millionen Token ($20 geteilt durch $0,15 pro Million). Wenn alles Output wäre, 40 Millionen ($20 geteilt durch $0,50). In der Praxis liegt es dazwischen, je nach Verhältnis der beiden.

Kann ich meinen vorhandenen OpenAI-Code verwenden?

Ja. Die API ist mit OpenAI-SDKs kompatibel: Du änderst die Base URL und den Schlüssel und verwendest das Modell uncensored. Vollständige Chat-Antworten, Responses, Streaming und Tool Calling werden unterstützt.

Ist der Kontext lokal und per API derselbe?

Nein. Über die API ist das Limit 100.000 Token zwischen Prompt und Antwort. Lokal hängt es vom Modell und dem Speicher deiner GPU ab, da der Context-Cache mit der Länge wächst.

Dein Schlüssel ist nur ein Formular entfernt

Erstelle ein Konto, kopiere den Schlüssel, ändere die Base URL. Das ist die gesamte Konfiguration.