Points clés
- En local, vous payez le matériel immédiatement et la maintenance en permanence ; via API, vous ne payez que les tokens utilisés.
- Avec 0,15 $ pour 1 M de tokens en entrée et 0,50 $ pour 1 M en sortie, 20 $ couvrent des dizaines de millions de tokens.
- Le local gagne pour une utilisation intensive continue, le travail hors ligne et le contrôle total sur les poids.
- L'API gagne pour ceux qui commencent aujourd'hui, ont peu de GPU ou veulent un endpoint compatible OpenAI.
La réponse courte
Si vous cherchez un llm sans censure et que vous n'avez pas déjà un GPU avec beaucoup de mémoire, l'API est presque toujours le point de départ le plus sensé. Si vous générez du texte toute la journée, travaillez hors ligne ou voulez choisir et modifier les poids, le local rentabilise l'investissement. Voici la comparaison dans un tableau.
| Aspect | En local | Via API |
|---|---|---|
| Coût initial | GPU, alimentation, refroidissement | Aucune, rechargement à partir de 20 $ |
| Coût récurrent | Électricité, usure, votre temps | Seulement les tokens utilisés |
| Temps pour commencer | Heures ou jours entre le téléchargement et les tests | Quelques minutes |
| Choix du modèle | Libre, vous ne pouvez pas en garder beaucoup | Un seul, choisi par le fournisseur |
| Contexte maximum | Dépend de la mémoire dont vous disposez | 100 000 tokens |
| Fonctionne hors ligne | Oui | Non |
| Requêtes en parallèle | Celles que supporte votre GPU | 8 avec clé complète |
Il n'existe pas de choix absolument bon. Les sections ci-dessous vous aident à comprendre de quel côté vous vous situez.
Ce dont vous avez vraiment besoin pour le faire tourner chez vous
Le goulot d'étranglement est la mémoire vidéo. Les poids d'un modèle doivent tenir dans la VRAM, sinon ils passent dans la RAM système et la vitesse s'effondre. À titre indicatif, un petit modèle quantifié en 4 bits occupe généralement quelques gigaoctets, tandis qu'un très grand modèle peut en nécessiter des dizaines. Les valeurs exactes dépendent du modèle et de la quantification, donc vérifiez toujours la fiche du modèle individuel et la documentation de l'outil.
À cela s'ajoute le cache de contexte : plus la conversation est longue, plus la mémoire consommée dépasse celle des poids. Un contexte de plusieurs dizaines de milliers de tokens sur un grand modèle peut nécessiter d'autres gigaoctets.
Le logiciel
Pour l'inférence locale, il existe des outils connus comme llama.cpp, Ollama et vLLM. Ollama et vLLM exposent également un endpoint compatible avec le format OpenAI, donc le code que vous écrivez aujourd'hui pour un serveur local se déplace vers une API distante en changeant deux lignes. Pour les détails d'installation, reportez-vous à la documentation de chaque projet.
Trouver le modèle
Les modèles à poids ouverts avec moins de refus sont publiés par diverses communautés, mais la qualité est très hétérogène. Certains perdent en cohérence après modification, d'autres répondent bien uniquement avec un format de prompt précis. Attendez-vous à en essayer plusieurs avant d'en trouver un adapté.
Combien coûte l'API, comptes faits
Le tarif est de $0,15 pour 1 M de tokens en entrée et de $0,50 pour 1 M de tokens en sortie, en prépayé, sans abonnement. Les requêtes échouées ou refusées ne sont pas facturées et le crédit n'expire pas. Voyons trois scénarios.
- Usage léger. 2 M de tokens en entrée et 500 000 en sortie par mois : 2 × 0,15 $ = 0,30 $ plus 0,5 × 0,50 $ = 0,25 $, total 0,55 $.
- Usage moyen. 50 M en entrée et 10 M en sortie : 50 × 0,15 $ = 7,50 $ plus 10 × 0,50 $ = 5,00 $, total 12,50 $.
- Usage intensif. 400 M en entrée et 80 M en sortie : 400 × 0,15 $ = 60 $ plus 80 × 0,50 $ = 40 $, total 100 $.
Le rechargement minimum est de 20 $, donc dans le cas moyen, un seul versement couvre plus d'un mois. Au-dessus de certains seuils, il y a un bonus : +5 % à partir de 50 $, +10 % à partir de 100 $, +15 % à partir de 200 $. Par exemple, 100 $ deviennent 110 $ de crédit. Le tarif complet est sur la page tarifs de l'API.
Pour le local, le calcul est moins immédiat. Partez du prix du GPU, divisez-le par les mois pendant lesquels vous pensez l'utiliser et ajoutez l'électricité : puissance en kW multipliée par les heures d'utilisation multipliée par le prix de votre contrat. Le résultat, divisé par les tokens que vous générez réellement, est votre coût par million. Faites-le avec vos chiffres et comparez-le à 0,50 $ par million en sortie.
La maintenance que l'on oublie souvent
Qui choisit le local s'occupe aussi de tout le reste. Pilotes et bibliothèques CUDA qui cassent après une mise à jour, nouvelles versions du moteur d'inférence, formats de quantification qui changent, modèles à retélécharger. Si le service sert d'autres personnes, ajoutez la surveillance, les redémarrages automatiques et une gestion des files d'attente lorsque plus de requêtes arrivent que ce que le GPU ne peut supporter.
Tout cela n’est pas difficile, mais demande du temps récurrent. Si votre temps a de la valeur, comptez-le : quelques heures par mois pèsent plus que les 12,50 $ du scénario moyen vu ci-dessus.
Avec l’API, la maintenance de votre côté se réduit à une clé, une URL de base et la gestion des erreurs 429, décrite dans la documentation. En contrepartie, vous dépendez du fournisseur : en cas de problème chez lui, vous ne pouvez pas intervenir.
Quand choisir le local et quand choisir l’API
Choisissez le local si
- vous avez déjà un GPU adapté et que le coût marginal est uniquement l’électricité ;
- vous générez du texte en continu, pendant des heures, tous les jours ;
- vous devez travailler hors ligne ou avec des données qui ne peuvent pas quitter votre machine ;
- vous voulez changer souvent de modèle, faire du fine-tuning ou expérimenter avec les poids.
Choisissez l’API si
- vous voulez un endpoint fonctionnel dès aujourd’hui, sans rien acheter ;
- votre usage est par à-coups : un bot, un script nocturne, un prototype ;
- vous avez besoin d’une longue fenêtre de contexte (ici 100 000 tokens) sans devoir dimensionner la mémoire ;
- vous voulez passer à 8 requêtes simultanées sans vous soucier du matériel.
De nombreuses équipes utilisent les deux voies : l’API pour démarrer et pour les pics, le local pour les charges stables. Le format est le même, passer de l’un à l’autre ne nécessite pas de réécrire l’application.
Une méthode simple pour décider
Avant d’acheter quoi que ce soit, mesurez. Pendant une semaine, enregistrez le nombre de tokens que vous consommez, en les extrayant du champ usage des réponses ou du compteur de votre outil. Puis faites trois calculs.
- Multipliez les tokens d’entrée hebdomadaires par 4 et par 0,15 $ divisé par un million.
- Faites de même avec les tokens de sortie et 0,50 $.
- Additionnez les deux résultats et comparez-les à la mensualité du matériel plus l’électricité.
Si le total de l’API reste inférieur à quelques dizaines de dollars par mois, acheter un GPU uniquement pour cela n’a généralement pas de sens. Si au contraire il dépasse largement la mensualité, le local commence à devenir intéressant. Un cas à part est la latence : sur votre machine, vous ne traversez pas le réseau, mais un GPU domestique avec un grand modèle peut être plus lent qu’un service hébergé. Testez les deux sur votre charge, car les différences dépendent du modèle et de la longueur des prompts.
Pensez aussi à la croissance. Un prototype qui consomme peu aujourd'hui peut voir sa consommation multipliée lorsque d'autres personnes l'utilisent. L'API gère jusqu'à 8 requêtes simultanées avec la clé complète, tandis qu'en local, chaque utilisateur supplémentaire ralentit tous les autres jusqu'à ce que vous ajoutiez du matériel.
Tester l’API en cinq minutes
Pour tester, il faut une clé. Après la connexion avec Google ou avec un e-mail et un mot de passe, sur la page de la clé, vous pouvez demander en un clic $0,50 de crédit d'essai, valable 7 jours et sans besoin de payer. Allez à obtenir la clé API. La clé de test a une limite de 2 requêtes simultanées et 60 par minute.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.apiiasenzacensura.com/v1",
api_key=os.environ["API_KEY"],
)
risposta = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Spiega in tre frasi cos'è la quantizzazione di un modello."}],
)
print(risposta.choices[0].message.content)
Si vous voulez plus tard passer à un serveur local avec un endpoint compatible, il suffira de changer base_url et le nom du modèle.
Ce qu'il ne fait pas
C’est un seul modèle à poids ouverts, géré par un fournisseur indépendant et entraîné à répondre sans refus de contenu pour un usage adulte légitime. Ce n’est pas l’API officielle d’un grand laboratoire, il ne génère pas d’images, d’audio ou de vidéo et ne propose ni embedding ni fine-tuning. Il reste une limite absolue : aucun contenu sexuel impliquant des mineurs. Pour un aperçu plus large, voir la page IA sans censure. Les prompts ne sont pas utilisés pour l’entraînement.

