ES ▾

LLM sin censura: ¿en local o por API, qué elegir?

Un LLM sin censura se puede ejecutar en tu PC o llamar por API. Aquí encuentras hardware, costos y mantenimiento de ambas opciones, con números verificables.

IA Sin Censura: Análisis de las Opciones Disponibles

Actualizado:

Balanza isométrica: de un lado una workstation con GPU local, del otro un servidor en la nube conectado por cable.

Puntos clave

  • En local pagas el hardware de inmediato y el mantenimiento siempre; por API pagas solo los tokens usados.
  • Con $0,15 por 1M de tokens de entrada y $0,50 por 1M de salida, $20 cubren decenas de millones de tokens.
  • El local gana para uso intensivo continuo, trabajo offline y control total sobre los pesos.
  • La API gana para quien empieza hoy, tiene poca GPU o quiere un endpoint compatible con OpenAI.

La respuesta corta

Si buscas un llm sin censura y no tienes ya una GPU con mucha memoria, la API es casi siempre el punto de partida más sensato. Si por el contrario generas texto todo el día, trabajas offline o quieres elegir y modificar los pesos, el local paga la inversión. Aquí tienes la comparación en una tabla.

AspectoEn localPor API
Costo inicialGPU, fuente de alimentación, refrigeraciónNinguno, recarga desde $20
Costo recurrenteElectricidad, desgaste, tu tiempoSolo tokens usados
Tiempo para empezarHoras o días entre descarga y pruebasPocos minutos
Elección del modeloLibre, puedes mantener variosUno solo, elegido por el proveedor
Contexto máximoDepende de la memoria que tengas100,000 token
Funciona offlineSíNo
Peticiones en paraleloLas que soporte tu GPU8 con clave completa

No hay una elección absolutamente correcta. Las secciones siguientes te ayudan a entender desde qué lado estás.

Qué se necesita realmente para ejecutarlo en casa

El cuello de botella es la memoria de video. Los pesos de un modelo deben caber en la VRAM; de lo contrario, pasan a la RAM del sistema y la velocidad se desploma. Como orden de magnitud aproximado, un modelo pequeño cuantificado a 4 bits ocupa generalmente unos pocos gigabytes, mientras que uno muy grande puede requerir decenas. Los valores exactos dependen del modelo y de la cuantización, así que consulta siempre la ficha del modelo individual y la documentación de la herramienta.

A esto se suma la caché de contexto: cuanto más larga sea la conversación, más memoria consume además de los pesos. Un contexto de decenas de miles de tokens en un modelo grande puede requerir otros gigabytes.

El software

Para la inferencia local existen herramientas conocidas como llama.cpp, Ollama y vLLM. Ollama y vLLM también exponen un endpoint compatible con el formato OpenAI, así que el código que escribes hoy para un servidor local se traslada a una API remota cambiando dos líneas. Para los detalles de instalación consulta la documentación de cada proyecto.

Encontrar el modelo

Los modelos de pesos abiertos con menos rechazos son publicados por varias comunidades, pero la calidad es muy heterogénea. Algunos pierden coherencia tras la modificación, otros responden bien solo con un formato de prompt preciso. Espera probar varios antes de encontrar uno adecuado.

¿Cuánto cuesta la API en la práctica?

La tarifa es $0,15 por 1M de tokens de entrada y $0,50 por 1M de tokens de salida, en crédito prepago, sin suscripción. Las peticiones fallidas o rechazadas no se facturan y el crédito no caduca. Veamos tres escenarios.

  • Uso ligero. 2M de tokens de entrada y 500,000 de salida al mes: 2 × $0,15 = $0,30 más 0,5 × $0,50 = $0,25, total $0,55.
  • Uso medio. 50M de entrada y 10M de salida: 50 × $0,15 = $7,50 más 10 × $0,50 = $5,00, total $12,50.
  • Uso intensivo. 400M de entrada y 80M de salida: 400 × $0,15 = $60 más 80 × $0,50 = $40, total $100.

La recarga mínima es de $20, por lo que en promedio un solo depósito cubre más de un mes. Por encima de ciertos umbrales hay un bono: +5% desde $50, +10% desde $100, +15% desde $200. Por ejemplo, $100 se convierten en $110 de crédito. La lista de precios completa está en la página precios de la API.

Para el despliegue local, el cálculo es menos inmediato. Parte del precio de la GPU, divídelo por los meses en que planeas usarla y añade la electricidad: potencia en kW por horas de uso por el precio de tu contrato. El resultado, dividido por los tokens que realmente generas, es tu costo por millón. Hazlo con tus números y compáralo con $0,50 por millón de tokens generados.

El mantenimiento que suele olvidarse

Quien elige el local se ocupa también de todo lo demás. Controladores y librerías CUDA que se rompen tras una actualización, nuevas versiones del motor de inferencia, formatos de cuantización que cambian, modelos que hay que volver a descargar. Si el servicio sirve para otras personas, añade monitorización, reinicios automáticos y una gestión de colas cuando lleguen más peticiones de las que la GPU soporte.

Nada de esto es difícil, pero requiere tiempo recurrente. Si tu tiempo vale algo, inclúyelo en el cálculo: unas horas al mes pesan más que los $12,50 del escenario medio visto anteriormente.

Con la API, el mantenimiento por tu parte se reduce a una clave, una URL base y la gestión de errores 429, descrita en la documentación. A cambio dependes del proveedor: si tiene un problema, no puedes intervenir.

Cuándo conviene el local y cuándo la API

Elige el local si

  • ya tienes una GPU adecuada y el costo marginal es solo la electricidad;
  • generas texto de forma continua, por horas, todos los días;
  • necesitas trabajar sin red o con datos que no pueden salir de tu máquina;
  • quieres cambiar de modelo a menudo, hacer fine-tuning o experimentar con los pesos.

Elige la API si

  • quieres un endpoint funcionando hoy, sin comprar nada;
  • tu uso es por picos: un bot, un script nocturno, un prototipo;
  • necesitas una ventana de contexto larga (aquí 100.000 tokens) sin tener que ajustar la memoria;
  • quieres escalar a 8 peticiones simultáneas sin pensar en el hardware.

Muchos equipos usan ambas vías: la API para empezar y para los picos, el local para las cargas estables. Dado que el formato es el mismo, pasar de una a otra no requiere reescribir la aplicación.

Un método sencillo para decidir

Antes de comprar cualquier cosa, mide. Durante una semana registra cuántos tokens consumes, obteniéndolos del campo usage de las respuestas o del contador de tu herramienta. Luego haz tres cálculos.

  1. Multiplica los tokens de entrada semanales por 4 y por $0,15 dividido por un millón.
  2. Haz lo mismo con los de salida y $0,50.
  3. Suma los dos resultados y compáralos con la cuota mensual del hardware más la electricidad.

Si la suma de la API se mantiene por debajo de unas decenas de dólares al mes, comprar una GPU solo para esto rara vez tiene sentido. Si en cambio supera con creces la cuota, el local empieza a ser interesante. Un caso aparte es la latencia: en tu máquina no atraviesas la red, pero una GPU doméstica con un modelo grande puede ser más lenta que un servicio alojado. Prueba ambos en tu carga, porque las diferencias dependen del modelo y de la longitud de los prompts.

Ten en cuenta también el crecimiento. Un prototipo que hoy consume poco puede multiplicarse cuando lo usen otras personas. La API gestiona hasta 8 peticiones simultáneas con la clave completa, mientras que en local cada usuario adicional ralentiza a los demás hasta que añadas hardware.

Probar la API en cinco minutos

Para probar necesitas una clave. Tras el registro con Google o con email y contraseña, en la página de la clave puedes solicitar con un clic $0,50 de crédito de prueba gratis, válido 7 días y sin necesidad de pagar. Ve a obtener la clave API. La clave de prueba tiene un límite de 2 peticiones simultáneas y 60 por minuto.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.apiiasenzacensura.com/v1",
    api_key=os.environ["API_KEY"],
)

risposta = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Spiega in tre frasi cos'è la quantizzazione di un modello."}],
)
print(risposta.choices[0].message.content)

Si en el futuro quieres moverte a un servidor local con endpoint compatible, solo tendrás que cambiar base_url y el nombre del modelo.

Lo que no hace

Es un solo modelo de pesos abiertos, gestionado por un proveedor independiente y entrenado para responder sin rechazo de contenido para uso adulto lícito. No es la API oficial de ningún gran laboratorio, no genera imágenes, audio o video y no ofrece embeddings ni fine-tuning. Se mantiene un límite absoluto: ningún contenido sexual que involucre menores de edad. Para un panorama más amplio ve a la página IA sin censura. Los prompts no se usan para el entrenamiento.

Otras guías

Preguntas y respuestas

¿Un LLM local es realmente más privado?

Con el local los datos permanecen en tu máquina, así que sí, siempre que la protejas. Con la API los prompts viajan hacia el proveedor; aquí no se usan para el entrenamiento.

¿Cuántos tokens puedo usar con $20?

Si todo fuera de entrada, 133,3 millones de tokens ($20 divididos por $0,15 por millón). Si todo fuera de salida, 40 millones ($20 divididos por $0,50). En la práctica está en medio, dependiendo de la proporción entre ambos.

¿Puedo usar el código OpenAI que ya tengo?

Sí. La API es compatible con los SDK de OpenAI: cambias URL base y clave y usas el modelo uncensored. Son compatibles chat completions, responses, streaming y tool calling.

¿El contexto es el mismo en local y vía API?

No. Vía API el límite es de 100,000 tokens entre prompt y respuesta. En local depende del modelo y de la memoria de tu GPU, porque la caché de contexto crece con la longitud.

Tu clave está a un clic de distancia

Crea una cuenta, copia la clave, modifica la URL base. Toda la configuración es esto.