Os dois preços e por que a entrada domina
As taxas são $0,15 por 1M de tokens de entrada e $0,50 por 1M de tokens de saída. Em termos por token, isso é $0,00000015 por token de entrada e $0,0000005 por token de saída. Tokens de saída custam um pouco mais de três vezes mais, mas um chatbot envia muito mais entrada do que recebe.
A razão é que uma API de chat é stateless. Cada requisição deve incluir a persona e a conversa até agora. A rodada 30 não custa o mesmo que a rodada 1, porque carrega 29 trocas anteriores. É por isso que qualquer estimativa de preço da API de chatbot NSFW baseada no comprimento de uma única resposta sai muito baixa.
Requisições falhas ou recusadas não são cobradas. O crédito é pré-pago e nunca expira, então não há mínimo mensal para cobrir.
Suposições para os exemplos
Os valores reais dependem dos seus personagens, então aqui estão suposições explícitas que você pode substituir pelas suas próprias.
- Persona e notas: 800 tokens, enviados a cada turno.
- Mensagem do usuário: 60 tokens em média.
- Resposta do modelo: 200 tokens em média.
- Cada turno completo adiciona 60 + 200 = 260 tokens de histórico.
Contagens de tokens para seu próprio tráfego estão no campo usage de cada resposta. Substitua as suposições acima por uma semana de dados reais antes de definir preços.
Uma conversa de 40 turnos
No turno k, a entrada é a persona (800), a nova mensagem do usuário (60) e os 260 tokens de histórico de cada turno anterior. Isso é 860 + 260 × (k − 1) tokens.
| Turno | Tokens de entrada | Tokens de saída |
|---|---|---|
| 1 | 860 | 200 |
| 10 | 3,200 | 200 |
| 20 | 5,800 | 200 |
| 40 | 11,000 | 200 |
Adicione a entrada em todas as 40 rodadas: 40 × 860 = 34.400, mais 260 × (0 + 1 + … + 39) = 260 × 780 = 202.800. A entrada total é de 237.200 tokens. A saída total é de 40 × 200 = 8.000 tokens.
- Entrada: 237.200 × $0,15 / 1.000.000 = $0,03558
- Saída: 8.000 × $0,50 / 1.000.000 = $0,00400
- Total: $0,03958, cerca de $0,040 por conversa, ou cerca de $0,001 por rodada
Uma recarga de $20 cobre cerca de 505 conversas desse formato ($20 / $0,03958).
Históricos longos: por que um limite importa
O termo de entrada cresce com o quadrado do número de turnos, porque cada novo turno reenvia tudo antes dele. Pegue uma história de 200 turnos sem corte:
- Entrada: 200 × 860 = 172.000, mais 260 × (0 + 1 + … + 199) = 260 × 19.900 = 5.174.000. Total 5.346.000 tokens.
- Custo de entrada: 5.346.000 × $0,15 / 1.000.000 = $0,8019
- Saída: 200 × 200 = 40.000 tokens = $0,0200
- Total: cerca de $0,82
A última rodada nessa história envia 800 + 60 + 260 × 199 = 52.600 tokens de entrada. Isso cabe na janela de 100.000 tokens, mas você está pagando por isso a cada rodada. Agora limite o histórico para que nenhuma solicitação envie mais de cerca de 6.000 tokens de rodadas anteriores:
- Cada rodada envia no máximo 800 + 6.000 + 60 = 6.860 tokens de entrada, então 200 rodadas são no máximo 1.372.000 tokens.
- Custo de entrada: 1.372.000 × $0,15 / 1.000.000 = $0,2058
- Custo de saída: $0,0200
- Total: cerca de $0,23, aproximadamente 72% a menos que a história sem limite
O custo de um limite é a memória. Combine-o com um resumo rotativo para manter os fatos importantes. O artigo sobre integração de LLM NSFW cobre como as solicitações são construídas, e a documentação lista os parâmetros.
Custo por usuário ativo
Converta conversas em usuários. Suponha que um usuário ativo típico converse 20 dias por mês e termine uma conversa de 40 rodadas por dia. Isso são 20 conversas a $0,03958, ou $0,79 por usuário por mês em custo de modelo. Um usuário mais pesado com três conversas desse tipo por dia em 20 dias custa cerca de $2,37.
| Perfil | Conversas por mês | Custo do modelo por mês |
|---|---|---|
| Leve, 5 conversas | 5 | $0,20 |
| Típico, 1 por dia por 20 dias | 20 | $0,79 |
| Pesado, 3 por dia por 20 dias | 60 | $2,37 |
Esses números cobrem apenas o modelo. Hospedagem, taxas de pagamento e suporte são linhas separadas no seu próprio orçamento.
Para precificar seu próprio produto, multiplique o valor por usuário pela sua contagem de usuários e adicione uma margem para retentativas, usuários pesados de cauda longa e o custo das chamadas de resumo que você pode executar. Para um piloto com 100 usuários típicos, 100 × $0,79 = $79 por mês. Observe o limite superior, não a média: alguns usuários que conversam o dia todo podem custar mais do que uma centena de usuários leves.
Comparando com aplicativos de assinatura
Aplicativos de chatbot por assinatura vendem um preço mensal fixo. Esse é um produto diferente: você tem uma interface, personagens e muitas vezes imagens, e não escreve nenhum código. Se você é um usuário, um aplicativo pode ser mais simples. Se você está construindo um produto, uma API transforma a questão em margem por usuário.
Para comparar, pegue o preço mensal de qualquer aplicativo em seu site (verifique a precificação atual deles) e divida por $0.79. Se uma assinatura custa $10 por mês, um usuário típico no exemplo acima usa cerca de 8% disso em custo de modelo, deixando o resto para seus servidores, pagamentos e lucro. Para um usuário de plano de taxa fixa com alto volume de uso, o preço por token é mais seguro para você: você paga apenas pelo que é usado.
Os conversadores pesados são o outro caso. Um usuário enviando 100 rodadas por dia no limite de 6.860 tokens custa aproximadamente 100 × 30 × (6.860 × $0.00000015 + 200 × $0.0000005) = 3.000 × $0.001129 = $3.39 por mês.
Formas de reduzir a conta
Uma vez que você sabe para onde os tokens vão, três mudanças têm o maior efeito, nesta ordem.
- Limite o histórico. Mostrado acima: cerca de 72% de redução em uma história de 200 rodadas.
- Encurte a persona. Reduzi-la de 800 para 400 tokens economiza 400 × 40 = 16.000 tokens de entrada em um chat de 40 rodadas, o que é 16.000 × $0.15 / 1.000.000 = $0.0024 por conversa. Pequeno por conversa, mas em 10.000 conversas por mês, isso dá $24.
- Encurte as respostas. Pedir cerca de 150 tokens em vez de 200 economiza 50 × 40 = 2.000 tokens de saída, ou $0,001 por conversa. Isso também desacelera o crescimento do histórico, já que cada turno adiciona menos tokens ao log.
Não corte a qualidade para economizar alguns milésimos de centavo. Uma resposta muito curta faz com que os usuários enviem mais mensagens, e cada mensagem reenvia o prompt inteiro. Meça o custo por sessão satisfeita, não o custo por requisição.
Por fim, defina um teto max_tokens como rede de segurança. É opcional, mas uma resposta ilimitada de um personagem falante pode atingir milhares de tokens. A $0,50 por 1 milhão de tokens de saída, isso ainda é barato, embora se acumule quando um bug repete isso.
Pagando e planejando seu crédito
Recarregue qualquer valor inteiro de $20 a $500, com bônus de +5% a partir de $50, +10% a partir de $100 e +15% a partir de $200. Uma recarga de $100 fornece $110 de crédito. O pagamento é apenas em cripto: USDT na rede TRC20 ou USDC na Base.
Acompanhe seu saldo com o cabeçalho X-Balance-USD em cada resposta, ou chame GET /v1/balance. Consulte a página de preços para a tabela atual e obtenha uma chave de API para testar. Novos usuários podem reivindicar $0,50 de crédito de teste com um clique, válido por 7 dias, sem necessidade de cartão: isso é suficiente para cerca de 12 conversas no formato de 40 turnos acima.
Calcular o valor da primeira recarga é aritmética simples. Para o piloto de 100 usuários acima, uma recarga de $100 vira $110 com o bônus de +10%, o que cobre cerca de 1,4 meses ($110 ÷ $79). Uma recarga de $50 vira $52,50. Mantenha uma reserva, porque uma semana viral custa mais do que uma semana tranquila, e configure um alerta no X-Balance-USD para que você possa recarregar antes que o crédito acabe.
