FR ▾

LLM sans censure : en local ou via API, que choisir

Un LLM sans censure peut s'exécuter sur votre propre PC ou être appelé via API. Vous trouverez ici le matériel, les coûts et la maintenance des deux options, avec des chiffres vérifiables.

IA Sans Censure : Analyse des Options Disponibles

Mis à jour :

Balance isométrique : d'un côté une station de travail avec GPU local, de l'autre un serveur cloud connecté par câble.

Points clés

  • En local, vous payez le matériel immédiatement et la maintenance en permanence ; via API, vous ne payez que les tokens utilisés.
  • Avec 0,15 $ pour 1 M de tokens en entrée et 0,50 $ pour 1 M en sortie, 20 $ couvrent des dizaines de millions de tokens.
  • Le local gagne pour une utilisation intensive continue, le travail hors ligne et le contrôle total sur les poids.
  • L'API gagne pour ceux qui commencent aujourd'hui, ont peu de GPU ou veulent un endpoint compatible OpenAI.

La réponse courte

Si vous cherchez un llm sans censure et que vous n'avez pas déjà un GPU avec beaucoup de mémoire, l'API est presque toujours le point de départ le plus sensé. Si vous générez du texte toute la journée, travaillez hors ligne ou voulez choisir et modifier les poids, le local rentabilise l'investissement. Voici la comparaison dans un tableau.

AspectEn localVia API
Coût initialGPU, alimentation, refroidissementAucune, rechargement à partir de 20 $
Coût récurrentÉlectricité, usure, votre tempsSeulement les tokens utilisés
Temps pour commencerHeures ou jours entre le téléchargement et les testsQuelques minutes
Choix du modèleLibre, vous ne pouvez pas en garder beaucoupUn seul, choisi par le fournisseur
Contexte maximumDépend de la mémoire dont vous disposez100 000 tokens
Fonctionne hors ligneOuiNon
Requêtes en parallèleCelles que supporte votre GPU8 avec clé complète

Il n'existe pas de choix absolument bon. Les sections ci-dessous vous aident à comprendre de quel côté vous vous situez.

Ce dont vous avez vraiment besoin pour le faire tourner chez vous

Le goulot d'étranglement est la mémoire vidéo. Les poids d'un modèle doivent tenir dans la VRAM, sinon ils passent dans la RAM système et la vitesse s'effondre. À titre indicatif, un petit modèle quantifié en 4 bits occupe généralement quelques gigaoctets, tandis qu'un très grand modèle peut en nécessiter des dizaines. Les valeurs exactes dépendent du modèle et de la quantification, donc vérifiez toujours la fiche du modèle individuel et la documentation de l'outil.

À cela s'ajoute le cache de contexte : plus la conversation est longue, plus la mémoire consommée dépasse celle des poids. Un contexte de plusieurs dizaines de milliers de tokens sur un grand modèle peut nécessiter d'autres gigaoctets.

Le logiciel

Pour l'inférence locale, il existe des outils connus comme llama.cpp, Ollama et vLLM. Ollama et vLLM exposent également un endpoint compatible avec le format OpenAI, donc le code que vous écrivez aujourd'hui pour un serveur local se déplace vers une API distante en changeant deux lignes. Pour les détails d'installation, reportez-vous à la documentation de chaque projet.

Trouver le modèle

Les modèles à poids ouverts avec moins de refus sont publiés par diverses communautés, mais la qualité est très hétérogène. Certains perdent en cohérence après modification, d'autres répondent bien uniquement avec un format de prompt précis. Attendez-vous à en essayer plusieurs avant d'en trouver un adapté.

Combien coûte l'API, comptes faits

Le tarif est de $0,15 pour 1 M de tokens en entrée et de $0,50 pour 1 M de tokens en sortie, en prépayé, sans abonnement. Les requêtes échouées ou refusées ne sont pas facturées et le crédit n'expire pas. Voyons trois scénarios.

  • Usage léger. 2 M de tokens en entrée et 500 000 en sortie par mois : 2 × 0,15 $ = 0,30 $ plus 0,5 × 0,50 $ = 0,25 $, total 0,55 $.
  • Usage moyen. 50 M en entrée et 10 M en sortie : 50 × 0,15 $ = 7,50 $ plus 10 × 0,50 $ = 5,00 $, total 12,50 $.
  • Usage intensif. 400 M en entrée et 80 M en sortie : 400 × 0,15 $ = 60 $ plus 80 × 0,50 $ = 40 $, total 100 $.

Le rechargement minimum est de 20 $, donc dans le cas moyen, un seul versement couvre plus d'un mois. Au-dessus de certains seuils, il y a un bonus : +5 % à partir de 50 $, +10 % à partir de 100 $, +15 % à partir de 200 $. Par exemple, 100 $ deviennent 110 $ de crédit. Le tarif complet est sur la page tarifs de l'API.

Pour le local, le calcul est moins immédiat. Partez du prix du GPU, divisez-le par les mois pendant lesquels vous pensez l'utiliser et ajoutez l'électricité : puissance en kW multipliée par les heures d'utilisation multipliée par le prix de votre contrat. Le résultat, divisé par les tokens que vous générez réellement, est votre coût par million. Faites-le avec vos chiffres et comparez-le à 0,50 $ par million en sortie.

La maintenance que l'on oublie souvent

Qui choisit le local s'occupe aussi de tout le reste. Pilotes et bibliothèques CUDA qui cassent après une mise à jour, nouvelles versions du moteur d'inférence, formats de quantification qui changent, modèles à retélécharger. Si le service sert d'autres personnes, ajoutez la surveillance, les redémarrages automatiques et une gestion des files d'attente lorsque plus de requêtes arrivent que ce que le GPU ne peut supporter.

Tout cela n’est pas difficile, mais demande du temps récurrent. Si votre temps a de la valeur, comptez-le : quelques heures par mois pèsent plus que les 12,50 $ du scénario moyen vu ci-dessus.

Avec l’API, la maintenance de votre côté se réduit à une clé, une URL de base et la gestion des erreurs 429, décrite dans la documentation. En contrepartie, vous dépendez du fournisseur : en cas de problème chez lui, vous ne pouvez pas intervenir.

Quand choisir le local et quand choisir l’API

Choisissez le local si

  • vous avez déjà un GPU adapté et que le coût marginal est uniquement l’électricité ;
  • vous générez du texte en continu, pendant des heures, tous les jours ;
  • vous devez travailler hors ligne ou avec des données qui ne peuvent pas quitter votre machine ;
  • vous voulez changer souvent de modèle, faire du fine-tuning ou expérimenter avec les poids.

Choisissez l’API si

  • vous voulez un endpoint fonctionnel dès aujourd’hui, sans rien acheter ;
  • votre usage est par à-coups : un bot, un script nocturne, un prototype ;
  • vous avez besoin d’une longue fenêtre de contexte (ici 100 000 tokens) sans devoir dimensionner la mémoire ;
  • vous voulez passer à 8 requêtes simultanées sans vous soucier du matériel.

De nombreuses équipes utilisent les deux voies : l’API pour démarrer et pour les pics, le local pour les charges stables. Le format est le même, passer de l’un à l’autre ne nécessite pas de réécrire l’application.

Une méthode simple pour décider

Avant d’acheter quoi que ce soit, mesurez. Pendant une semaine, enregistrez le nombre de tokens que vous consommez, en les extrayant du champ usage des réponses ou du compteur de votre outil. Puis faites trois calculs.

  1. Multipliez les tokens d’entrée hebdomadaires par 4 et par 0,15 $ divisé par un million.
  2. Faites de même avec les tokens de sortie et 0,50 $.
  3. Additionnez les deux résultats et comparez-les à la mensualité du matériel plus l’électricité.

Si le total de l’API reste inférieur à quelques dizaines de dollars par mois, acheter un GPU uniquement pour cela n’a généralement pas de sens. Si au contraire il dépasse largement la mensualité, le local commence à devenir intéressant. Un cas à part est la latence : sur votre machine, vous ne traversez pas le réseau, mais un GPU domestique avec un grand modèle peut être plus lent qu’un service hébergé. Testez les deux sur votre charge, car les différences dépendent du modèle et de la longueur des prompts.

Pensez aussi à la croissance. Un prototype qui consomme peu aujourd'hui peut voir sa consommation multipliée lorsque d'autres personnes l'utilisent. L'API gère jusqu'à 8 requêtes simultanées avec la clé complète, tandis qu'en local, chaque utilisateur supplémentaire ralentit tous les autres jusqu'à ce que vous ajoutiez du matériel.

Tester l’API en cinq minutes

Pour tester, il faut une clé. Après la connexion avec Google ou avec un e-mail et un mot de passe, sur la page de la clé, vous pouvez demander en un clic $0,50 de crédit d'essai, valable 7 jours et sans besoin de payer. Allez à obtenir la clé API. La clé de test a une limite de 2 requêtes simultanées et 60 par minute.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.apiiasenzacensura.com/v1",
    api_key=os.environ["API_KEY"],
)

risposta = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Spiega in tre frasi cos'è la quantizzazione di un modello."}],
)
print(risposta.choices[0].message.content)

Si vous voulez plus tard passer à un serveur local avec un endpoint compatible, il suffira de changer base_url et le nom du modèle.

Ce qu'il ne fait pas

C’est un seul modèle à poids ouverts, géré par un fournisseur indépendant et entraîné à répondre sans refus de contenu pour un usage adulte légitime. Ce n’est pas l’API officielle d’un grand laboratoire, il ne génère pas d’images, d’audio ou de vidéo et ne propose ni embedding ni fine-tuning. Il reste une limite absolue : aucun contenu sexuel impliquant des mineurs. Pour un aperçu plus large, voir la page IA sans censure. Les prompts ne sont pas utilisés pour l’entraînement.

Autres guides

Questions et réponses

Un LLM local est-il vraiment plus privé ?

En local, les données restent sur votre machine, donc oui, à condition de la protéger. Avec l’API, les prompts voyagent vers le fournisseur ; ici, ils ne sont pas utilisés pour l’entraînement.

Combien de tokens puis-je utiliser avec 20 $ ?

Si tout était en entrée, 133,3 millions de tokens (20 $ divisés par 0,15 $ par million). Si tout était en sortie, 40 millions (20 $ divisés par 0,50 $). En pratique, cela se situe entre les deux, selon le rapport entre les deux.

Puis-je utiliser le code OpenAI que j'ai déjà ?

Oui. L’API est compatible avec les SDK OpenAI : vous changez l’URL de base et la clé, et vous utilisez le modèle uncensored. Les chat completions, responses, streaming et tool calling sont pris en charge.

La fenêtre de contexte est-elle la même en local et via API ?

Non. Par API, la limite est de 100 000 tokens entre le prompt et la réponse. En local, cela dépend du modèle et de la mémoire de votre GPU, car la fenêtre de contexte augmente avec la longueur.

Votre clé est à une étape

Créez un compte, copiez la clé, modifiez l’URL de base. C’est toute la configuration.