PT ▾

LLM sem censura: local ou via API, qual escolher

Um LLM sem censura pode ser executado no seu PC ou chamado via API. Aqui você encontra hardware, custos e manutenção de ambos os caminhos, com números verificáveis.

LLM Sem Censura: Análise das Opções Disponíveis

Atualizado:

Balança isométrica: de um lado uma workstation com GPU local, do outro um servidor cloud conectado por cabo.

Pontos principais

  • Local você paga o hardware agora e a manutenção sempre; via API você paga apenas os tokens usados.
  • Com $0,15 por 1M de tokens de entrada e $0,50 por 1M de saída, $20 cobrem dezenas de milhões de tokens.
  • O local vence para uso intensivo contínuo, trabalho offline e controle total sobre os pesos.
  • A API é a melhor opção para quem começa hoje, tem pouca GPU ou quer um endpoint compatível com OpenAI.

A resposta curta

Se você busca um llm sem censura e não tem uma GPU com muita memória, a API é quase sempre o ponto de partida mais sensato. Se você gera texto o dia todo, trabalha offline ou quer escolher e modificar os pesos, o local compensa o investimento. Veja a comparação em tabela.

AspectoLocalVia API
Custo inicialGPU, fonte de alimentação, resfriamentoNenhum, recarga a partir de $20
Custo recorrenteEnergia, desgaste, seu tempoApenas tokens usados
Tempo para começarHoras ou dias entre download e testesPoucos minutos
Escolha do modeloLivre, você pode manter váriosApenas um, escolhido pelo provedor
Contexto máximoDepende da memória que você tem100.000 tokens
Funciona offlineSimNão
Requisições simultâneasQuantas sua GPU aguentar8 com chave completa

Não existe uma escolha certa absoluta. As seções abaixo ajudam você a entender de que lado você está.

O que é realmente necessário para rodar em casa

O gargalo é a memória de vídeo. Os pesos de um modelo precisam caber na VRAM, caso contrário passam para a RAM do sistema e a velocidade cai. Como ordem de grandeza indicativa, um modelo pequeno quantizado em 4 bits geralmente ocupa poucos gigabytes, enquanto um muito grande pode exigir dezenas. Os valores exatos dependem do modelo e da quantização, então verifique sempre a ficha do modelo individual e a documentação da ferramenta.

A isso se soma a cache de contexto: quanto mais longa a conversa, mais memória ela consome além dos pesos. Um contexto de dezenas de milhares de tokens em um modelo grande pode exigir outros gigabytes.

O software

Para inferência local existem ferramentas conhecidas como llama.cpp, Ollama e vLLM. Ollama e vLLM também expõem um endpoint compatível com o formato OpenAI, então o código que você escreve hoje para um servidor local pode ser movido para uma API remota alterando duas linhas. Para detalhes de instalação, consulte a documentação de cada projeto.

Encontrar o modelo

Modelos de pesos abertos com baixa censura são publicados por várias comunidades, mas a qualidade é muito heterogênea. Alguns perdem coerência após a modificação, outros respondem bem apenas com um formato de prompt específico. Espere testar vários antes de encontrar um adequado.

Quanto custa a API, na prática

A tarifa é $0,15 por 1M de tokens de entrada e $0,50 por 1M de tokens de saída, no crédito pré-pago, sem assinatura. Requisições falhas ou recusadas não são cobradas e o crédito não expira. Veja três cenários.

  • Uso leve. 2M de tokens de entrada e 500.000 de saída por mês: 2 × $0,15 = $0,30 mais 0,5 × $0,50 = $0,25, total $0,55.
  • Uso médio. 50M de entrada e 10M de saída: 50 × $0,15 = $7,50 mais 10 × $0,50 = $5,00, total $12,50.
  • Uso intenso. 400M de entrada e 80M de saída: 400 × $0,15 = $60 mais 80 × $0,50 = $40, total $100.

A recarga mínima é $20, então no caso médio um único depósito cobre mais de um mês. Acima de certas limites há um bônus: +5% a partir de $50, +10% a partir de $100, +15% a partir de $200. Por exemplo, $100 se tornam $110 de crédito. A tabela completa de preços está na página preços da API.

Para o local, a conta é menos imediata. Comece pelo preço da GPU, divida pelos meses em que pretende usá-la e adicione a energia: potência em kW vezes horas de uso vezes o preço do seu contrato. O resultado, dividido pelos tokens que você realmente gera, é o seu custo por milhão. Faça isso com seus números e compare com $0,50 por milhão de saída.

A manutenção que geralmente é esquecida

Quem escolhe o local cuida também de tudo o resto. Drivers e bibliotecas CUDA que quebram após uma atualização, novas versões do motor de inferência, formatos de quantização que mudam, modelos para baixar novamente. Se o serviço serve a outras pessoas, adicione monitoramento, reinícios automáticos e gerenciamento de filas quando chegarem mais requisições do que a GPU aguenta.

Nada disso é difícil, mas exige tempo recorrente. Se o seu tempo vale algo, coloque-o na conta: algumas horas por mês pesam mais que os $12,50 do cenário médio visto acima.

Com a API, a manutenção do seu lado se reduz a uma chave, um URL base e o tratamento de erros 429, descrito na documentação. Em troca, você depende do provedor: se ele tiver um problema, você não pode intervir.

Quando vale a pena o local e quando a API

Escolha o local se

  • você já tem uma GPU adequada e o custo marginal é apenas a energia;
  • você gera texto continuamente, por horas, todos os dias;
  • você precisa trabalhar sem rede ou com dados que não podem sair do seu computador;
  • você quer trocar de modelo com frequência, fazer fine-tuning ou experimentar com pesos.

Escolha a API se

  • você quer um endpoint funcionando hoje, sem comprar nada;
  • seu uso é por picos: um bot, um script noturno, um protótipo;
  • você precisa de um contexto longo (aqui 100.000 tokens) sem precisar dimensionar a memória;
  • você quer escalar para 8 requisições simultâneas sem pensar no hardware.

Muitas equipes usam ambos os caminhos: a API para começar e para os picos, o local para cargas estáveis. Como o formato é o mesmo, mudar de um para o outro não exige reescrever o aplicativo.

Um método simples para decidir

Antes de comprar qualquer coisa, meça. Por uma semana, registre quantos tokens você consome, obtendo-os do campo usage das respostas ou do contador da sua ferramenta. Depois, faça três contas.

  1. Multiplique os tokens de entrada semanais por 4 e por $0,15 dividido por um milhão.
  2. Faça o mesmo com os tokens de saída e $0,50.
  3. Some os dois resultados e compare com a parcela mensal do hardware mais a energia.

Se a soma da API ficar abaixo de algumas dezenas de dólares por mês, comprar uma GPU só para isso raramente faz sentido. Se, em vez disso, superar a parcela em muito, o local começa a se tornar interessante. Um caso à parte é a latência: na sua máquina você não atravessa a rede, mas uma GPU doméstica com um modelo grande pode ser mais lenta que um serviço hospedado. Teste ambos na sua carga, porque as diferenças dependem do modelo e do comprimento dos prompts.

Considere também o crescimento. Um protótipo que hoje consome pouco pode multiplicar o consumo quando outras pessoas o utilizam. A API suporta até 8 requisições simultâneas com a chave completa, enquanto localmente cada usuário adicional desacelera os demais até que você adicione hardware.

Tentar a API em cinco minutos

Para testar, você precisa de uma chave. Após entrar com Google ou com e-mail e senha, na página da chave você pode solicitar com um clique $0,50 de crédito de teste grátis, válido por 7 dias e sem necessidade de pagamento. Acesse obter chave de API. A chave de teste tem limite de 2 requisições simultâneas e 60 por minuto.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.apiiasenzacensura.com/v1",
    api_key=os.environ["API_KEY"],
)

risposta = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Spiega in tre frasi cos'è la quantizzazione di un modello."}],
)
print(risposta.choices[0].message.content)

Se no futuro você quiser migrar para um servidor local com endpoint compatível, basta alterar base_url e o nome do modelo.

O que não faz

É um único modelo de pesos abertos, gerenciado por um provedor independente e treinado para responder sem rejeição de conteúdo para uso adulto lícito. Não é a API oficial de nenhum grande laboratório, não gera imagens, áudio ou vídeo e não oferece embeddings nem fine-tuning. Permanece um limite absoluto: nenhum conteúdo sexual envolvendo menores de idade. Para uma visão mais ampla, consulte a página IA sem censura. Os prompts não são usados para treinamento.

Outros guias

Perguntas e respostas

Um LLM local é realmente mais privado?

Com o local, os dados permanecem no seu computador, então sim, desde que você o proteja. Com a API, os prompts viajam até o provedor; aqui eles não são usados para treinamento.

Quantos tokens posso usar com $20?

Se tudo fosse de entrada, 133,3 milhões de tokens ($20 divididos por $0,15 por milhão). Se tudo fosse de saída, 40 milhões ($20 divididos por $0,50). Na prática, fica no meio, dependendo da proporção entre os dois.

Posso usar o código da OpenAI que já tenho?

Sim. A API é compatível com os SDKs da OpenAI: você altera o URL base e a chave e usa o modelo uncensored. São suportadas chat completions, responses, streaming e tool calling.

O contexto é o mesmo localmente e via API?

Não. Via API, o limite é de 100.000 tokens entre prompt e resposta. Localmente, depende do modelo e da memória da sua GPU, porque o cache de contexto cresce com o comprimento.

Sua chave está a um formulário de distância

Crie uma conta, copie a chave, edite o URL base. É toda a configuração.