Wichtige Punkte
- Lokal zahlst du Hardware sofort und Wartung dauerhaft; über API zahlst du nur die genutzten Token.
- Mit $0,15 pro 1M Input-Token und $0,50 pro 1M Output-Token decken $20 mehrere Dutzend Millionen Token ab.
- Lokal gewinnt bei intensiver Dauerlast, Offline-Arbeit und totaler Kontrolle über die Gewichte.
- Die API gewinnt für alle, die heute starten, wenig GPU haben oder einen OpenAI-kompatiblen Endpunkt wollen.
Die kurze Antwort
Wenn du ein unzensiertes LLM suchst und keine GPU mit viel Speicher hast, ist die API fast immer der sinnvollste Startpunkt. Wenn du den ganzen Tag Text generierst, offline arbeitest oder Modelle auswählen und anpassen willst, zahlt sich die lokale Lösung aus. Hier der Vergleich in einer Tabelle.
| Aspekt | Lokal | Über API |
|---|---|---|
| Anfangskosten | GPU, Netzteil, Kühlung | Keine, Aufladung ab $20 |
| Laufende Kosten | Strom, Verschleiß, deine Zeit | Nur genutzte Token |
| Zeit bis zum Start | Stunden oder Tage zwischen Download und Tests | Wenige Minuten |
| Modellauswahl | Frei, du kannst mehrere behalten | Nur eines, vom Anbieter gewählt |
| Maximales Kontextfenster | Hängt von deinem Speicher ab | 100.000 Token |
| Offline-fähig | Ja | Nein |
| Parallele Anfragen | Was deine GPU leistet | 8 mit vollständigem Schlüssel |
Es gibt keine absolut richtige Wahl. Die folgenden Abschnitte helfen dir zu verstehen, auf welcher Seite du stehst.
Was du wirklich für den lokalen Betrieb brauchst
Der Flaschenhals ist der VRAM. Die Modellgewichte müssen in den VRAM passen, sonst wandern sie in den Systemspeicher und die Geschwindigkeit bricht ein. Als grobe Orientierung: Ein kleines, auf 4 Bit quantisiertes Modell belegt meist nur wenige Gigabyte, während ein sehr großes Modell Dutzende benötigen kann. Die genauen Werte hängen vom Modell und der Quantisierung ab, also prüfe immer die Modellkarte und die Dokumentation des Tools.
Hinzu kommt der Kontext-Cache: Je länger die Konversation ist, desto mehr Speicher verbraucht sie zusätzlich zu den Gewichten. Ein Kontext mit zehntausenden Token auf einem großen Modell kann weitere Gigabyte beanspruchen.
Die Software
Für lokale Inferenz gibt es bekannte Tools wie llama.cpp, Ollama und vLLM. Ollama und vLLM bieten auch einen Endpunkt, der mit dem OpenAI-Format kompatibel ist, sodass Code, den du heute für einen lokalen Server schreibst, sich mit zwei Zeilen Änderung auf eine Remote-API übertragen lässt. Details zur Installation findest du in der Dokumentation der jeweiligen Projekte.
Das Modell finden
Open-Weight-Modelle mit weniger Verweigerungen werden von verschiedenen Communities veröffentlicht, die Qualität ist jedoch sehr unterschiedlich. Einige verlieren nach der Modifikation die Kohärenz, andere reagieren nur gut mit einem bestimmten Prompt-Format. Erwarte, mehrere auszuprobieren, bis du eines findest, das passt.
Was die API kostet, ausgerechnet
Der Tarif beträgt $0,15 pro 1M Input-Token und $0,50 pro 1M Output-Token, im Prepaid-Modus, ohne Abonnement. Fehlgeschlagene oder abgelehnte Anfragen werden nicht berechnet, das Guthaben verfällt nie. Siehe drei Szenarien.
- Leichte Nutzung. 2M Input-Token und 500.000 Output-Token pro Monat: 2 × $0,15 = $0,30 plus 0,5 × $0,50 = $0,25, insgesamt $0,55.
- Durchschnittlicher Verbrauch. 50M Eingangsdaten und 10M Ausgangsdaten: 50 × $0,15 = $7,50 plus 10 × $0,50 = $5,00, insgesamt $12,50.
- Schwere Nutzung. 400M Input und 80M Output: 400 × $0,15 = $60 plus 80 × $0,50 = $40, insgesamt $100.
Die Mindestaufladung beträgt $20, sodass im Durchschnitt eine einzige Aufladung mehr als einen Monat abdeckt. Ab bestimmten Schwellenwerten gibt es einen Bonus: +5 % ab $50, +10 % ab $100, +15 % ab $200. Beispiel: Aus $100 werden $110 Guthaben. Die vollständige Preisliste findest du auf der API-Preisseite.
Für den lokalen Betrieb ist die Rechnung weniger direkt. Starte mit dem GPU-Preis, teile ihn durch die Monate, in denen du ihn nutzen willst, und addiere Strom: Leistung in kW mal Nutzungsstunden mal Preis deines Stromvertrags. Das Ergebnis geteilt durch die Token, die du wirklich generierst, ist dein Kosten pro Million. Rechne das mit deinen Zahlen durch und vergleiche es mit $0,50 pro Million Output.
Die Wartung, die oft vergessen wird
Wer sich für lokal entscheidet, kümmert sich auch um den Rest. Treiber und CUDA-Bibliotheken, die nach einem Update kaputtgehen, neue Versionen des Inferenz-Engines, sich ändernde Quantisierungsformate, neu herunterzuladende Modelle. Wenn der Dienst für andere Personen verfügbar ist, füge Monitoring, automatische Neustarts und ein Queue-Management hinzu, wenn mehr Anfragen eintreffen, als die GPU aushält.
Das ist alles nicht schwer, erfordert aber wiederkehrende Zeit. Wenn deine Zeit etwas wert ist, rechne sie ein: Einige Stunden im Monat wiegen mehr als die $12,50 des oben gezeigten Durchschnittsszenarios.
Mit der API reduziert sich die Wartung auf deiner Seite auf einen Schlüssel, eine Base URL und das Handling von 429-Fehlern, wie in der Dokumentation beschrieben. Im Gegenzug bist du vom Anbieter abhängig: Wenn er ein Problem hat, kannst du nichts tun.
Wann lohnt sich Local und wann die API
Wähle Local, wenn
- du bereits eine passende GPU hast und die Grenzkosten nur der Strom sind;
- du Text kontinuierlich über Stunden, jeden Tag generierst;
- du ohne Netzwerk oder mit Daten arbeiten musst, die nicht das Gerät verlassen dürfen;
- du das Modell oft wechseln, Fine-Tuning durchführen oder mit den Gewichten experimentieren willst.
Wähle die API, wenn
- du einen Endpunkt brauchst, der heute funktioniert, ohne etwas kaufen zu müssen;
- dein Nutzungsmuster sprunghaft ist: ein Bot, ein Nacht-Skript, ein Prototyp;
- du einen langen Kontext (hier 100.000 Token) brauchst, ohne die Speicherkapazität dimensionieren zu müssen;
- du auf 8 parallele Anfragen skalieren willst, ohne an die Hardware denken zu müssen.
Viele Teams nutzen beide Wege: die API zum Starten und für Lastspitzen, Local für stabile Lasten. Da das Format gleich ist, erfordert der Wechsel von der einen zur anderen Methode nicht, die Anwendung neu zu schreiben.
Eine einfache Methode zur Entscheidung
Miss vor dem Kauf von irgendetwas. Protokolliere eine Woche lang, wie viele Token du verbrauchst, abgeleitet aus dem Feld usage der Antworten oder dem Zähler deines Tools. Dann rechne drei Dinge aus.
- Multipliziere die wöchentlichen Input-Token mit 4 und dividiere durch eine Million, multipliziert mit $0,15.
- Mache dasselbe mit den Output-Token und $0,50.
- Addiere die beiden Ergebnisse und vergleiche sie mit den monatlichen Hardwarekosten plus Strom.
Wenn die API-Summe unter einigen Dutzend Dollar im Monat liegt, macht es selten Sinn, nur dafür eine GPU zu kaufen. Wenn sie die Rate deutlich übersteigt, wird Local interessant. Ein Sonderfall ist die Latenz: Auf deiner Maschine durchläufst du das Netzwerk nicht, aber eine Heim-GPU mit einem großen Modell kann langsamer sein als ein gehosteter Dienst. Teste beide auf deiner Last, da die Unterschiede vom Modell und der Prompt-Länge abhängen.
Berücksichtige auch das Wachstum. Ein Prototyp, der heute wenig verbraucht, kann sich multiplizieren, wenn andere ihn nutzen. Die API verarbeitet bis zu 8 parallele Anfragen mit dem vollständigen Schlüssel, während Local bei jedem weiteren Nutzer langsamer wird, bis du Hardware hinzufügst.
Die API in fünf Minuten testen
Zum Testen brauchst du einen Schlüssel. Nach der Registrierung mit Google oder E-Mail und Passwort kannst du auf der Schlüssel-Seite mit einem Klick $0,50 Testguthaben anfordern, gültig für 7 Tage und ohne Zahlungspflicht. Gehe zu API-Schlüssel erhalten. Der Testschlüssel hat ein Limit von 2 parallelen Anfragen und 60 pro Minute.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.apiiasenzacensura.com/v1",
api_key=os.environ["API_KEY"],
)
risposta = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Spiega in tre frasi cos'è la quantizzazione di un modello."}],
)
print(risposta.choices[0].message.content)
Wenn du später auf einen lokalen Server mit kompatiblem Endpunkt wechseln willst, reicht es, die base_url und den Modellnamen zu ändern.
Was es nicht ist
Es ist ein einzelnes Open-Weight-Modell, betrieben von einem unabhängigen Anbieter und darauf trainiert, ohne inhaltliche Ablehnungen für legale Erwachsenennutzung zu antworten. Es ist nicht die offizielle API eines großen Labors, generiert keine Bilder, Audio oder Video und bietet keine Embeddings oder Fine-Tuning. Es bleibt eine absolute Grenze: Kein sexueller Inhalt, der Minderjährige betrifft. Für einen umfassenderen Überblick siehe die Seite Unzensierte KI. Prompts werden nicht zum Training verwendet.

