フラッシュ モデルは 10× 安いですが、品質の差が問題になるのはどのような場合ですか?コーディング、推論、創造的なタスクにわたって 4 モデル層をテストしました。
Flash クラス モデルのコストはフロンティア モデルの約 10 分の 1 で、応答時間は 3 分の 1 です。問題は、どちらが悪いかということではなく、そのギャップが特定のタスクに現れるかどうかです。
隙間がなくなるところ
- 分類とルーティング: プロンプト内の 200 ラベルの例と比較して、測定可能な違いはありません
- 厳密なスキーマに対する抽出: スキーマを明示的に指定すると、フラッシュはフロンティアと一致します
- 4k トークンの下での短い要約: 人間の好みに関する 2 ポイント以内
- 共通言語ペアの翻訳: ブラインドレビューでは区別できない
そうでないところ
複数ステップの推論、コンパイルが必要なコード、および質問が微妙に間違っていることをモデルに認識させる必要があるもの。私たちのコーディング ベンチマークでは、フロンティア層は 78% のタスクを通過し、フラッシュ層は 44% を通過しました。この差は、いくらプロンプトを出しても埋まりませんでした。
正しいパターンはカスケードです。回答がフラッシュされ、安価な検証ツールがチェックし、失敗だけがエスカレートします。これにより、ほとんどの節約が実現され、品質の低下はほとんどありません。
カスケードの実装
resp = client.chat.completions.create(
model="qwen-3.8-flash",
messages=messages,
extra_body={"amplink": {"escalate": {
"to": "gpt-5",
"when": "schema_invalid or confidence < 0.7"
}}},
)
カスケードを実行しているテナント全体で、トラフィックの 83% がフラッシュ層で終了します。混合コストは、フロンティア価格の 10x ではなく、フラッシュ価格の 2.4x に近い価格になります。