두 가지 가격과 입력이 더 많이 사용되는 이유
요율은 입력 토큰 100만 개당 $0.15, 출력 토큰 100만 개당 $0.50입니다. 토큰 단위로 환산하면 입력 토큰당 $0.00000015, 출력 토큰당 $0.0000005입니다. 출력 토큰 비용이 입력보다 약 3배 비싸지만, 챗봇은 받는 것보다 훨씬 많은 입력을 보냅니다.
그 이유는 채팅 API가 상태가 없기 때문입니다. 각 요청에는 페르소나와 지금까지의 대화 기록이 모두 포함되어야 합니다. 30번째 턴은 1번째 턴보다 비용이 비싼데, 이는 29번의 이전 교환 내역을 함께 포함하기 때문입니다. 따라서 단일 응답 길이에 기반한 NSFW 챗봇 API 가격 추정은 너무 낮게 나옵니다.
실패하거나 거부된 요청에는 요금이 부과되지 않습니다. 크레딧은 선불이며 만료되지 않으므로 월 최소 사용량이 없습니다.
예시의 가정
실제 숫자는 사용자의 캐릭터에 따라 다르므로, 아래 가정은 사용자 자신의 데이터로 대체할 수 있습니다.
- 페르소나 및 참고 사항: 800 토큰, 모든 턴에 전송됨.
- 사용자 메시지: 평균 60 토큰.
- 모델 응답: 평균 200 토큰.
- 완료된 각 턴은 60 + 200 = 260 토큰의 기록을 추가합니다.
자신의 트래픽에 대한 토큰 수는 모든 응답의 usage 필드에 있습니다. 가격을 설정하기 전에 위의 추측을 실제 데이터 1주치로 대체하세요.
40턴의 단일 대화
k번째 턴에서 입력은 페르소나(800), 새로운 사용자 메시지(60) 및 이전 각 턴의 260 토큰 기록입니다. 이는 860 + 260 × (k − 1) 토큰입니다.
| 턴 | 입력 토큰 | 출력 토큰 |
|---|---|---|
| 1 | 860 | 200 |
| 10 | 3,200 | 200 |
| 20 | 5,800 | 200 |
| 40 | 11,000 | 200 |
40턴 전체의 입력을 합산합니다: 40 × 860 = 34,400, 더하기 260 × (0 + 1 + … + 39) = 260 × 780 = 202,800. 총 입력은 237,200 토큰입니다. 총 출력은 40 × 200 = 8,000 토큰입니다.
- 입력: 237,200 × $0.15 / 1,000,000 = $0.03558
- 출력: 8,000 × $0.50 / 1,000,000 = $0.00400
- 총합: $0.03958, 대화당 약 $0.040 또는 턴당 약 $0.001
$20 충전으로 이 형태의 대화 약 505개를 처리할 수 있습니다($20 / $0.03958).
긴 기록: 제한이 중요한 이유
입력 항은 턴 수의 제곱에 비례하여 증가합니다. 각 새로운 턴은 그 이전의 모든 내용을 다시 전송하기 때문입니다. 다듬지 않은 200턴 스토리를 고려해 보세요:
- 입력: 200 × 860 = 172,000, 더하기 260 × (0 + 1 + … + 199) = 260 × 19,900 = 5,174,000. 총합 5,346,000 토큰.
- 입력 비용: 5,346,000 × $0.15 / 1,000,000 = $0.8019
- 출력: 200 × 200 = 40,000 토큰 = $0.0200
- 총합: 약 $0.82
해당 스토리의 마지막 턴은 800 + 60 + 260 × 199 = 52,600 입력 토큰을 전송합니다. 이는 100,000 토큰 컨텍스트 창에 적합하지만, 매 턴마다 이에 대한 비용을 지불합니다. 이제 기록을 제한하여 각 요청이 약 6,000 토큰의 이전 턴만 전송하도록 합니다:
- 각 턴은 최대 800 + 6,000 + 60 = 6,860 입력 토큰을 전송하므로, 200턴은 최대 1,372,000 토큰입니다.
- 입력 비용: 1,372,000 × $0.15 / 1,000,000 = $0.2058
- 출력 비용: $0.0200
- 총합: 약 $0.23, 제한 없는 스토리보다 약 72% 절감
제한의 대가는 메모리입니다. 중요한 사실은 유지되도록 순환 요약과 함께 사용하세요. NSFW LLM 통합 기사에서는 요청이 어떻게 구성되는지 다루며, 문서에는 매개변수 목록이 있습니다.
활성 사용자당 비용
대화를 사용자로 변환합니다. 월간 20일 동안 활성으로 채팅하고 하루에 한 번씩 40턴 대화를 완료하는 일반 활성 사용자를 가정해 봅시다. 이는 대화당 $0.03958로 20회의 대화, 즉 모델 비용 기준으로 사용자당 월 $0.79입니다. 하루에 3번, 월 20일 동안 그러한 대화를 하는 더 많은 사용자는 약 $2.37의 비용이 듭니다.
| 프로필 | 월별 대화 수 | 월별 모델 비용 |
|---|---|---|
| 가벼움, 5회 대화 | 5 | $0.20 |
| 일반, 하루 1회, 20일 | 20 | $0.79 |
| 무거움, 하루 3회, 20일 | 60 | $2.37 |
이 수치는 모델 비용만 포함합니다. 호스팅, 결제 수수료 및 지원은 별도의 항목입니다.
자사 제품의 가격을 책정하려면 사용자당 금액에 사용자 수를 곱하고, 재시도, 롱테일 헤비 사용자, 실행할 수 있는 요약 호출의 비용에 대한 마진을 추가하십시오. 일반 사용자 100명을 대상으로 한 파일럿의 경우, 100 × $0.79 = 월 $79입니다. 평균이 아닌 상한선을 주의하세요: 하루 종일 채팅하는 몇몇 사용자가 가벼운 사용자 백 명보다 더 많은 비용을 발생시킬 수 있습니다.
구독형 앱과 비교
구독형 채팅봇 앱은 월 정액 가격을 판매합니다. 이는 다른 제품입니다: 인터페이스, 캐릭터 및 종종 이미지를 얻게 되며 코드를 작성하지 않아도 됩니다. 사용자라면 앱이 더 단순할 수 있습니다. 제품을 구축 중이라면 API가 질문을 사용자당 마진으로 바꿉니다.
비교하려면 사이트에서 앱의 월 가격을 확인하고(현재 가격 확인) $0.79로 나눕니다. 구독이 월 $10인 경우, 위의 예시에서 일반적인 사용자는 모델 비용으로 그 약 8%를 사용하며, 나머지는 서버, 결제 및 이익에 할당됩니다. 매우 무거운 정액 사용자의 경우 토큰당 가격이 더 안전합니다: 사용한 만큼만 지불합니다.
무거운 채팅 사용자는 다른 경우입니다. 6,860 토큰 한도에서 하루 100턴을 보내는 사용자의 비용은 약 100 × 30 × (6,860 × $0.00000015 + 200 × $0.0000005) = 3,000 × $0.001129 = 월 $3.39입니다.
요금을 줄이는 방법
토큰이 어디로 가는지 알면 세 가지 변경이 가장 큰 영향을 미칩니다. 순서는 다음과 같습니다.
- 대화 기록을 제한하세요. 위에서 보시다시피: 200턴 스토리에서 약 72% 절감.
- 페르소나를 단축하세요. 800 토큰에서 400 토큰으로 줄이면 40턴 채팅에서 입력 토큰 16,000개를 절약할 수 있으며, 이는 대화당 $0.0024 (16,000 × $0.15 / 1,000,000)에 해당합니다. 대화당 작은 금액이지만 월 10,000회 대화 전체로는 $24가 됩니다.
- 답변을 짧게 하세요. 200개 대신 약 150개의 토큰을 요청하면 대화당 $0.001에 해당하는 출력 토큰 50 × 40 = 2,000개를 절약할 수 있습니다. 각 턴이 로그에 추가하는 토큰 수가 줄어들기 때문에 대화 기록의 증가 속도도 느려집니다.
몇 천분의 1센트를 절약하기 위해 품질을 줄이지 마세요. 너무 짧은 응답은 사용자가 더 많은 메시지를 보내게 하며, 각 메시지는 전체 프롬프트를 다시 보냅니다. 요청당 비용이 아닌 만족된 세션당 비용을 측정하세요.
마지막으로 max_tokens 상한선을 안전장치로 설정하세요. 선택 사항이지만, 말이 많은 캐릭터의 무제한 응답은 수천 토큰에 이를 수 있습니다. 출력 토큰 100만 개당 $0.50이므로 여전히 저렴하지만, 버그로 인해 반복될 경우 비용이 누적됩니다.
크레딧 충전 및 계획
$20부터 $500까지 전체 금액으로 충전할 수 있으며, $50 이상은 +5%, $100 이상은 +10%, $200 이상은 +15% 보너스가 제공됩니다. $100 충전 시 $110의 크레딧이 제공됩니다. 결제는 암호화폐로만 가능하며, TRC20 네트워크의 USDT 또는 Base 네트워크의 USDC를 사용합니다.
각 응답의 X-Balance-USD 헤더를 확인하거나 GET /v1/balance를 호출하여 잔액을 확인하십시오. 현재 가격표는 가격 책정 페이지에서 확인하고, API 키를 발급받아 테스트해 보세요. 신규 사용자는 한 번의 클릭으로 7일 유효, 카드 불필요한 $0.50의 무료 체험 크레딧을 청구할 수 있습니다. 이는 위의 40턴 형태 대화 약 12회에 해당합니다.
첫 번째 충전 금액 산정은 단순한 산수입니다. 위의 100명 대상 파일럿의 경우, +10% 보너스를 적용한 $100 충전은 $110가 되어 약 1.4개월($110 ÷ $79)을 커버할 수 있습니다. $50 충전 시 $52.50이 됩니다. 바이러스성 유행 주에는 조용한 주보다 비용이 더 많이 들므로 예비금을 유지하고, X-Balance-USD에 알림을 설정하여 크레딧이 떨어지기 전에 충전하세요.
