정가 외에 구독 등급, 볼륨 리베이트, 의미론적 캐싱이 어떻게 쌓이는지 자세히 알아보세요. 실제 사례와 함께.
세 가지 별도의 메커니즘으로 지불 금액이 줄어들며, 덧셈이 아닌 곱셈 방식으로 쌓입니다. 적용되는 순서를 이해하면 가까운 추정치와 15포인트 차이가 나는 추정치의 차이를 알 수 있습니다.
레이어 1: 구독 계층
귀하의 계획은 요청 시 토큰당 적용되는 정가에 대한 기본 할인을 설정합니다. 무료 지불 목록, Lite는 10% 미만, Pro 20%, 최대 28%를 지불합니다. 이는 균일한 승수입니다. 사용량에 따라 달라지지 않습니다.
레이어 2: 볼륨 리베이트
월별 지출이 임계값을 초과하면 그 이상의 모든 토큰은 다른 등급으로 떨어집니다. 리베이트는 모든 모델과 기능에 걸쳐 합산된 지출을 기준으로 계산됩니다. 따라서 단일 공급업체를 협상하는 것보다 하나의 게이트웨이로 통합하는 것이 더 중요합니다.
3단계: 의미 기반 캐싱
캐시 적중은 할인된 토큰이 아닙니다. 결코 구매하지 않는 토큰입니다. 이 계층은 마지막에 적용되며 유효 비용을 공급업체의 하한 가격 아래로 낮출 수 있는 유일한 계층입니다.
실제 사례
List price for the month $10,000
Pro tier (-20%) $ 8,000
Volume rebate (-9% effective) $ 7,280
Semantic cache (31% hits) $ 5,023
Effective discount 49.8%
순서가 중요합니다. 캐싱을 먼저 적용하면 동일한 입력이 44% 절감처럼 보입니다. 왜냐하면 리베이트가 더 작은 기반에 도달하고 계층이 떨어지기 때문입니다.