2つの価格と入力が支配する理由
料金は入力トークン1Mあたり$0.15、出力トークン1Mあたり$0.50です。トークン単価では入力トークンあたり$0.00000015、出力トークンあたり$0.0000005です。出力トークンは入力トークンの約3倍より少し高い料金ですが、チャットボットは受信するよりもはるかに多くの入力を送信します。
理由はチャットAPIがステートレスだからです。各リクエストにはペルソナとこれまでの会話履歴を含める必要があります。ターン30はターン1と同じコストではありません。29回の以前のやり取りを含みます。そのため、1回の返信の長さに基づいてNSFWチャットボットAPIの料金を見積もると、実際よりも低く算出されます。
失敗または拒否されたリクエストには料金が請求されません。クレジットは前払いで期限切れしないため、カバーする最低月額料金はありません。
例の前提条件
実際の数値はキャラクターに依存するため、以下に明示的な前提条件を示します。これらをご自身のデータに置き換えてください。
- ペルソナとノート:800トークン、各ターンで送信。
- ユーザーメッセージ:平均60トークン。
- モデルの返信:平均200トークン。
- 完了した各ターンで、履歴に60 + 200 = 260トークンが追加されます。
ご自身のトラフィックのトークン数は、各レスポンスのusageフィールドに含まれます。料金を設定する前に、上記の推定値を実際の1週間のデータに置き換えてください。
40ターンの1つの会話
kターン目で、入力はペルソナ(800)、新しいユーザーメッセージ(60)、および各過去のターンからの260トークンの履歴です。つまり、860 + 260 × (k − 1)トークンです。
| ターン | 入力トークン | 出力トークン |
|---|---|---|
| 1 | 860 | 200 |
| 10 | 3,200 | 200 |
| 20 | 5,800 | 200 |
| 40 | 11,000 | 200 |
40ターンすべての入力を合計:40 × 860 = 34,400、および260 × (0 + 1 + … + 39) = 260 × 780 = 202,800。合計入力は237,200トークン。合計出力は40 × 200 = 8,000トークン。
- 入力:237,200 × $0.15 / 1,000,000 = $0.03558
- 出力:8,000 × $0.50 / 1,000,000 = $0.00400
- 合計:$0.03958、会話あたり約$0.040、またはターンあたり約$0.001
$20のチャージは、この形式の会話約505回分をカバーします($20 / $0.03958)。
長い履歴:制限が重要な理由
入力項はターンの数の2乗に比例して増大します。これは、新しいターンごとにそれ以前のすべてを再送信するためです。切り捨てなしの200ターンのセッションを考えます:
- 入力:200 × 860 = 172,000、および260 × (0 + 1 + … + 199) = 260 × 19,900 = 5,174,000。合計5,346,000トークン。
- 入力コスト:5,346,000 × $0.15 / 1,000,000 = $0.8019
- 出力:200 × 200 = 40,000トークン = $0.0200
- 合計:約$0.82
そのストーリーの最後のターンでは、800 + 60 + 260 × 199 = 52,600の入力トークンが送信されます。これは100,000トークンのコンテキストウィンドウに収まりますが、あなたは毎ターンそれに対して課金されます。履歴を制限して、リクエストが過去6,000トークン分を超えるような送信をしないようにします:
- 各ターンで送信される入力は最大800 + 6,000 + 60 = 6,860トークンなので、200ターンでは最大1,372,000トークンです。
- 入力コスト:1,372,000 × $0.15 / 1,000,000 = $0.2058
- 出力コスト:$0.0200
- 合計:約$0.23、制限なしのストーリーより約72%削減
制限のコストはメモリです。重要な事実を保持するために、ローリングサマリーと組み合わせてください。NSFW LLM統合に関する記事はリクエストの構築方法を、ドキュメントはパラメータの一覧を示しています。
アクティブユーザーあたりのコスト
会話をユーザーに変換します。典型的なアクティブユーザーは月間20日間チャットし、1日あたり1つの40ターンの会話を完了すると仮定します。これは20回の会話で、各会話$0.03958、つまり月額モデルコストはユーザーあたり$0.79です。より活発なユーザーは、20日間で1日3回の会話を行うため、コストは約$2.37になります。
| プロファイル | 月間の会話数 | 月間のモデルコスト |
|---|---|---|
| 軽量、5回の会話 | 5 | $0.20 |
| 標準、20日間で1日1回 | 20 | $0.79 |
| 重度、1日3回、20日間 | 60 | $2.37 |
これらの数値はモデルのみをカバーしています。ホスティング、支払い手数料、サポートはご自身の予算の別項目です。
自社製品の価格設定をするには、ユーザーあたりの数値にユーザー数を掛け、リトライ、長尾側の重利用者、および実行する可能性のあるサマリー呼び出しのコストに対するマージンを加算します。典型的なユーザー100人のパイロットの場合、100 × $0.79 = 月$79となります。平均ではなく、上限に注意してください。終日チャットする数人のユーザーが、軽度ユーザー100人よりも多くのコストがかかる可能性があります。
サブスクリプションアプリとの比較
サブスクリプションチャットボットアプリは月額定額を販売します。これは異なる製品です:インターフェース、キャラクター、そして多くの場合画像が提供され、あなたはコードを記述しません。ユーザーであれば、アプリの方が簡単かもしれません。製品を構築する場合、APIはユーザーあたりのマージンという結果を生み出します。
比較するために、サイトの月額料金(現在の価格表を確認)を$0.79で割ってください。サブスクリプションが月額$10の場合、上記の例の典型的なユーザーはモデルコストとしてその約8%を使用し、残りはサーバー、支払い、利益に充てられます。非常に多量利用する定額ユーザーの場合、トークンごとの価格設定があなたにとって安全です:使用した分だけ支払います。
重度のチャッターはもう一つのケースです。1日100ターンを6,860トークンの上限で送信するユーザーは、100 × 30 × (6,860 × $0.00000015 + 200 × $0.0000005) = 3,000 × $0.001129 = 月額約$3.39のコストがかかります。
請求額を減らす方法
トークンの去向が分かれば、最も大きな影響を与える3つの変更があります。
- 履歴の上限を設定する 上記の例では、200ターン分のストーリーで約72%の節約になります。
- ペルソナを短くする ペルソナを800トークンから400トークンに短縮すると、40ターン分のチャットで入力トークンが400 × 40 = 16,000トークン削減され、これは16,000 × $0.15 / 1,000,000 = $0.0024の節約になります。会話1回あたりの金額は小さいですが、月間10,000回の会話では$24になります。
- 返信を短くする 200トークンではなく約150トークンの返信を求めると、50 × 40 = 2,000トークンの出力トークンが削減され、会話1回あたり$0.001の節約になります。また、各ターンでログに追加されるトークン数が減るため、履歴の肥大化も抑えられます。
わずかなコスト削減のために品質を落とさないでください。返信が短すぎると、ユーザーはより多くのメッセージを送信することになり、各メッセージがプロンプト全体を再送信することになります。リクエストあたりのコストではなく、満足したセッションあたりのコストを測定してください。
最後に、安全策としてmax_tokensの上限を設定してください。これは任意ですが、長文を好むキャラクターからの制限のない応答は数千トークンに及ぶ可能性があります。出力トークン100万あたり$0.50という価格であれば依然として安価ですが、バグが繰り返すと累積します。
クレジットのお支払いと計画
$20から$500までの任意の整数額をチャージでき、$50以上で+5%、$100以上で+10%、$200以上で+15%のボーナスが付きます。$100のチャージで$110のクレジットが得られます。お支払いは暗号資産のみ:TRC20上のUSDTまたはBase上のUSDCです。
各レスポンスのX-Balance-USDヘッダーで残高を確認するか、GET /v1/balanceを呼び出してください。現在の価格表は価格ページでご覧いただけます。また、APIキーを取得して試してみてください。新規ユーザーはワンクリックで$0.50の無料トライアルクレジットを取得でき、7日間有効、クレジットカード不要です。これは上記の40ターン形式の会話約12回分に相当します。
最初のチャージの規模設定は単純な算術です。上記の100ユーザーのパイロットの場合、$100のチャージは+10%ボーナスで$110になり、約1.4ヶ月($110 ÷ $79)をカバーします。$50のチャージは$52.50になります。バイラルな週の方が静かな週よりもコストがかかるため、予備を残し、クレジットが尽きる前にチャージできるようにX-Balance-USDにアラートを設定してください。
