两个价格及输入占主导的原因
费率为输入 token 每百万 $0.15,输出 token 每百万 $0.50。按 token 计算,输入 token 为 $0.00000015,输出 token 为 $0.0000005。输出 token 的成本略高于输入 token 的三倍,但聊天机器人发送的输入远多于接收的输出。
原因是聊天 API 是无状态的。每次请求必须包含角色设定和迄今为止的对话。第 30 轮的成本不同于第 1 轮,因为它携带了之前的 29 次交互。这就是为什么基于单条回复长度估算 NSFW 聊天机器人 API 定价通常会偏低的原因。
失败或拒绝的请求不收费。额度是预付的且永不过期,因此没有最低月度消费要求。
示例的假设
实际数值取决于你的角色,因此以下是可替换为你自己数据的明确假设。
- 角色设定和备注:800 token,每轮发送。
- 用户消息:平均 60 token。
- 模型回复:平均 200 token。
- 每个完成的轮次增加 60 + 200 = 260 token 的历史记录。
你自己流量的 token 计数在每个响应的 usage 字段中。在设置价格之前,请用一周的真实数据替换上述猜测。
一次 40 轮的对话
在第 k 轮,输入包括角色设定(800)、新的用户消息(60)以及之前每轮产生的 260 token 历史记录。即 860 + 260 × (k − 1) token。
| 轮次 | 输入 token | 输出 token |
|---|---|---|
| 1 | 860 | 200 |
| 10 | 3,200 | 200 |
| 20 | 5,800 | 200 |
| 40 | 11,000 | 200 |
将所有 40 轮的输入累加:40 × 860 = 34,400,加上 260 × (0 + 1 + … + 39) = 260 × 780 = 202,800。总输入为 237,200 token。总输出为 40 × 200 = 8,000 token。
- 输入:237,200 × $0.15 / 1,000,000 = $0.03558
- 输出:8,000 × $0.50 / 1,000,000 = $0.00400
- 总计:$0.03958,每次对话约 $0.040,或每轮约 $0.001
$20 的充值可覆盖约 505 次此类对话($20 / $0.03958)。
长历史记录:限制的重要性
输入量随轮数的平方增长,因为每个新轮次都会重新发送之前的所有内容。以 200 轮故事为例,不进行修剪:
- 输入:200 × 860 = 172,000,加上 260 × (0 + 1 + … + 199) = 260 × 19,900 = 5,174,000。总计 5,346,000 token。
- 输入成本:5,346,000 × $0.15 / 1,000,000 = $0.8019
- 输出:200 × 200 = 40,000 token = $0.0200
- 总计:约 $0.82
该故事中的最后一轮发送 800 + 60 + 260 × 199 = 52,600 输入 token。这符合 100,000 token 的窗口,但你每轮都在为此付费。现在限制历史记录,使每次请求发送的历史记录不超过约 6,000 token:
- 每轮最多发送 800 + 6,000 + 60 = 6,860 输入 token,因此 200 轮最多为 1,372,000 token。
- 输入成本:1,372,000 × $0.15 / 1,000,000 = $0.2058
- 输出成本:$0.0200
- 总计:约 $0.23,比无限制的对话减少约 72%
限制的成本是内存。将其与滚动摘要配对,以保留重要事实。NSFW LLM 集成一文介绍了请求的构建方式,文档列出了参数。
每个活跃用户的成本
将对话转换为用户。假设典型活跃用户每月聊天 20 天,每天完成一次 40 轮对话。即 20 次对话,每次 $0.03958,或每月每个用户模型成本 $0.79。更重的用户每天进行三次此类对话,20 天的成本约为 $2.37。
| 用户画像 | 每月对话次数 | 每月模型成本 |
|---|---|---|
| 轻度,5 次对话 | 5 | $0.20 |
| 典型,每天 1 次,持续 20 天 | 20 | $0.79 |
| 重度,每天 3 次,持续 20 天 | 60 | $2.37 |
这些数字仅涵盖模型。托管、支付费用和支持是你自己预算中的单独项目。
要为你的产品定价,将每个用户的数字乘以用户数,并加上重试、长尾重度用户以及你可能运行的摘要调用的利润空间。对于 100 个典型用户的试点,100 × $0.79 = 每月 $79。关注上限,而非平均值:少数全天聊天的用户成本可能超过一百个轻度用户。
与订阅应用比较
订阅聊天机器人应用以固定的月费出售。这是不同的产品:你获得界面、角色和通常的图片,且无需编写代码。如果你是用户,应用可能更简单。如果你正在构建产品,API 将问题转化为每个用户的利润率。
要比较,从网站获取任何应用的月费(检查其当前定价)并除以 $0.79。如果订阅每月 $10,上述示例中的典型用户在模型成本上仅使用约 8%,其余部分用于你的服务器、支付和利润。非常重的固定费率用户是每 token 定价对你更安全的情况:你只为使用的付费。
重度聊天者是另一种情况。每天发送 100 轮、受 6,860 token 限制的用户,成本约为 100 × 30 × (6,860 × $0.00000015 + 200 × $0.0000005) = 3,000 × $0.001129 = 每月 $3.39。
降低账单的方法
一旦你知道 token 的去向,有三个改变影响最大,按此顺序。
- 限制历史记录。 上图显示:200 轮对话的故事可减免约 72%。
- 缩短角色设定。 将角色设定从 800 token 缩短至 400 token,可在 40 轮对话中节省 400 × 40 = 16,000 个输入 token,即每条对话节省 16,000 × $0.15 / 1,000,000 = $0.0024。单条对话节省不多,但每月 10,000 条对话则节省 $24。
- 缩短回复长度。 请求约 150 token 而非 200 token,可节省 50 × 40 = 2,000 个输出 token,折合每条对话 $0.001。同时减缓历史记录增长,因为每轮对话添加到日志中的 token 更少。
不要为了节省几厘钱而牺牲质量。过短的回复会导致用户发送更多消息,而每条消息都会重新发送整个提示词。应衡量每次满意会话的成本,而非单次请求的成本。
最后,设置 max_tokens 上限作为安全网。这是可选的,但漫谈型角色的回复可能会无限增长至数千 token。按每 100 万输出 token $0.50 计算,这仍然很便宜,但如果出现 bug 导致重复生成,费用会累积。
充值与额度规划
充值金额可为 $20 至 $500 之间的任意整数,并享有额外奖励:满 $50 赠 5%,满 $100 赠 10%,满 $200 赠 15%。充值 $100 将获得 $110 额度。仅支持加密货币支付:TRC20 链上的 USDT 或 Base 链上的 USDC。
通过每次响应的 X-Balance-USD 头信息监控余额,或调用 GET /v1/balance 接口。查看 定价页面 获取当前费率表,并 获取 API 密钥 进行试用。新用户只需一键即可领取 $0.50 试用额度,有效期 7 天,无需绑定信用卡:这足以支持约 12 次上述 40 轮对话。
首次充值金额的计算很简单。对于上述 100 用户试点项目,$100 充值在获得 +10% 奖励后变为 $110,可覆盖约 1.4 个月的费用($110 ÷ $79)。$50 充值则变为 $52.50。请保留储备金,因为病毒式传播的一周费用会高于平静的一周,并在 X-Balance-USD 上设置监控逻辑,以便在额度耗尽前及时充值。
