Pontos principais
- Local você paga o hardware agora e a manutenção sempre; via API você paga apenas os tokens usados.
- Com $0,15 por 1M de tokens de entrada e $0,50 por 1M de saída, $20 cobrem dezenas de milhões de tokens.
- O local vence para uso intensivo contínuo, trabalho offline e controle total sobre os pesos.
- A API é a melhor opção para quem começa hoje, tem pouca GPU ou quer um endpoint compatível com OpenAI.
A resposta curta
Se você busca um llm sem censura e não tem uma GPU com muita memória, a API é quase sempre o ponto de partida mais sensato. Se você gera texto o dia todo, trabalha offline ou quer escolher e modificar os pesos, o local compensa o investimento. Veja a comparação em tabela.
| Aspecto | Local | Via API |
|---|---|---|
| Custo inicial | GPU, fonte de alimentação, resfriamento | Nenhum, recarga a partir de $20 |
| Custo recorrente | Energia, desgaste, seu tempo | Apenas tokens usados |
| Tempo para começar | Horas ou dias entre download e testes | Poucos minutos |
| Escolha do modelo | Livre, você pode manter vários | Apenas um, escolhido pelo provedor |
| Contexto máximo | Depende da memória que você tem | 100.000 tokens |
| Funciona offline | Sim | Não |
| Requisições simultâneas | Quantas sua GPU aguentar | 8 com chave completa |
Não existe uma escolha certa absoluta. As seções abaixo ajudam você a entender de que lado você está.
O que é realmente necessário para rodar em casa
O gargalo é a memória de vídeo. Os pesos de um modelo precisam caber na VRAM, caso contrário passam para a RAM do sistema e a velocidade cai. Como ordem de grandeza indicativa, um modelo pequeno quantizado em 4 bits geralmente ocupa poucos gigabytes, enquanto um muito grande pode exigir dezenas. Os valores exatos dependem do modelo e da quantização, então verifique sempre a ficha do modelo individual e a documentação da ferramenta.
A isso se soma a cache de contexto: quanto mais longa a conversa, mais memória ela consome além dos pesos. Um contexto de dezenas de milhares de tokens em um modelo grande pode exigir outros gigabytes.
O software
Para inferência local existem ferramentas conhecidas como llama.cpp, Ollama e vLLM. Ollama e vLLM também expõem um endpoint compatível com o formato OpenAI, então o código que você escreve hoje para um servidor local pode ser movido para uma API remota alterando duas linhas. Para detalhes de instalação, consulte a documentação de cada projeto.
Encontrar o modelo
Modelos de pesos abertos com baixa censura são publicados por várias comunidades, mas a qualidade é muito heterogênea. Alguns perdem coerência após a modificação, outros respondem bem apenas com um formato de prompt específico. Espere testar vários antes de encontrar um adequado.
Quanto custa a API, na prática
A tarifa é $0,15 por 1M de tokens de entrada e $0,50 por 1M de tokens de saída, no crédito pré-pago, sem assinatura. Requisições falhas ou recusadas não são cobradas e o crédito não expira. Veja três cenários.
- Uso leve. 2M de tokens de entrada e 500.000 de saída por mês: 2 × $0,15 = $0,30 mais 0,5 × $0,50 = $0,25, total $0,55.
- Uso médio. 50M de entrada e 10M de saída: 50 × $0,15 = $7,50 mais 10 × $0,50 = $5,00, total $12,50.
- Uso intenso. 400M de entrada e 80M de saída: 400 × $0,15 = $60 mais 80 × $0,50 = $40, total $100.
A recarga mínima é $20, então no caso médio um único depósito cobre mais de um mês. Acima de certas limites há um bônus: +5% a partir de $50, +10% a partir de $100, +15% a partir de $200. Por exemplo, $100 se tornam $110 de crédito. A tabela completa de preços está na página preços da API.
Para o local, a conta é menos imediata. Comece pelo preço da GPU, divida pelos meses em que pretende usá-la e adicione a energia: potência em kW vezes horas de uso vezes o preço do seu contrato. O resultado, dividido pelos tokens que você realmente gera, é o seu custo por milhão. Faça isso com seus números e compare com $0,50 por milhão de saída.
A manutenção que geralmente é esquecida
Quem escolhe o local cuida também de tudo o resto. Drivers e bibliotecas CUDA que quebram após uma atualização, novas versões do motor de inferência, formatos de quantização que mudam, modelos para baixar novamente. Se o serviço serve a outras pessoas, adicione monitoramento, reinícios automáticos e gerenciamento de filas quando chegarem mais requisições do que a GPU aguenta.
Nada disso é difícil, mas exige tempo recorrente. Se o seu tempo vale algo, coloque-o na conta: algumas horas por mês pesam mais que os $12,50 do cenário médio visto acima.
Com a API, a manutenção do seu lado se reduz a uma chave, um URL base e o tratamento de erros 429, descrito na documentação. Em troca, você depende do provedor: se ele tiver um problema, você não pode intervir.
Quando vale a pena o local e quando a API
Escolha o local se
- você já tem uma GPU adequada e o custo marginal é apenas a energia;
- você gera texto continuamente, por horas, todos os dias;
- você precisa trabalhar sem rede ou com dados que não podem sair do seu computador;
- você quer trocar de modelo com frequência, fazer fine-tuning ou experimentar com pesos.
Escolha a API se
- você quer um endpoint funcionando hoje, sem comprar nada;
- seu uso é por picos: um bot, um script noturno, um protótipo;
- você precisa de um contexto longo (aqui 100.000 tokens) sem precisar dimensionar a memória;
- você quer escalar para 8 requisições simultâneas sem pensar no hardware.
Muitas equipes usam ambos os caminhos: a API para começar e para os picos, o local para cargas estáveis. Como o formato é o mesmo, mudar de um para o outro não exige reescrever o aplicativo.
Um método simples para decidir
Antes de comprar qualquer coisa, meça. Por uma semana, registre quantos tokens você consome, obtendo-os do campo usage das respostas ou do contador da sua ferramenta. Depois, faça três contas.
- Multiplique os tokens de entrada semanais por 4 e por $0,15 dividido por um milhão.
- Faça o mesmo com os tokens de saída e $0,50.
- Some os dois resultados e compare com a parcela mensal do hardware mais a energia.
Se a soma da API ficar abaixo de algumas dezenas de dólares por mês, comprar uma GPU só para isso raramente faz sentido. Se, em vez disso, superar a parcela em muito, o local começa a se tornar interessante. Um caso à parte é a latência: na sua máquina você não atravessa a rede, mas uma GPU doméstica com um modelo grande pode ser mais lenta que um serviço hospedado. Teste ambos na sua carga, porque as diferenças dependem do modelo e do comprimento dos prompts.
Considere também o crescimento. Um protótipo que hoje consome pouco pode multiplicar o consumo quando outras pessoas o utilizam. A API suporta até 8 requisições simultâneas com a chave completa, enquanto localmente cada usuário adicional desacelera os demais até que você adicione hardware.
Tentar a API em cinco minutos
Para testar, você precisa de uma chave. Após entrar com Google ou com e-mail e senha, na página da chave você pode solicitar com um clique $0,50 de crédito de teste grátis, válido por 7 dias e sem necessidade de pagamento. Acesse obter chave de API. A chave de teste tem limite de 2 requisições simultâneas e 60 por minuto.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.apiiasenzacensura.com/v1",
api_key=os.environ["API_KEY"],
)
risposta = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Spiega in tre frasi cos'è la quantizzazione di un modello."}],
)
print(risposta.choices[0].message.content)
Se no futuro você quiser migrar para um servidor local com endpoint compatível, basta alterar base_url e o nome do modelo.
O que não faz
É um único modelo de pesos abertos, gerenciado por um provedor independente e treinado para responder sem rejeição de conteúdo para uso adulto lícito. Não é a API oficial de nenhum grande laboratório, não gera imagens, áudio ou vídeo e não oferece embeddings nem fine-tuning. Permanece um limite absoluto: nenhum conteúdo sexual envolvendo menores de idade. Para uma visão mais ampla, consulte a página IA sem censura. Os prompts não são usados para treinamento.

