同じプロンプトの送り直しが速くなりました

qwen3.8-27b-uncensored の推論基盤でプレフィックスキャッシュを有効にしました。同じ内容で始まるプロンプトを続けて送ると、2 回目以降は先頭の共通部分を処理し直しません。モデル ID・エンドポイント・入力と出力の単価は変わりません。リクエスト側の変更も不要です。キャッシュから供給された分の単価は「課金」節をご覧ください。

長いシステムプロンプトや会話履歴を毎回送り直す使い方では、これまで毎回その全量を処理していました。プロンプトが長いほど応答開始までが遅くなり、同じ内容を送っても速くなりませんでした。

2 回目以降は 19.05 秒 → 0.91 秒

約 28,500 トークンのプロンプトを 3 回続けて送ったときの自社実測です。時間はリクエスト送信から応答完了までで、cached_tokens はレスポンスの usage.prompt_tokens_details.cached_tokens の値です。

短くなったのはプロンプトの処理時間です。生成が始まったあとのスループット（トークン/秒）は変わりません。短いプロンプトでは元の処理時間が小さいので、短縮幅もこれより小さくなります。

効きやすい使い方

先頭から一致する範囲だけが対象です。

• 固定のシステムプロンプトを置き、末尾のユーザー入力だけを差し替える
• 会話履歴を積み上げて送る（マルチターン）
• 同じファイル群をコンテキストに載せたままコード支援を繰り返す

プロンプトの途中を書き換えると、その位置から先は作り直しになります。先頭に現在時刻やリクエスト ID を入れていると、以降が毎回すべて作り直しになります。可変の情報は末尾に寄せてください。

ヒットは保証されません

同一プロンプトでもヒットしないことがあります。HAI 側でヒットを制御していません。

• 間隔が空いた場合や、他のリクエストが多い場合はキャッシュが残っていないことがあります
• 基盤の再起動やメンテナンス後は残りません

毎回必ず速くなる機能ではありません。ヒットしなかった場合も、これまでと同じ時間で処理します。

課金

qwen3.8-27b-uncensored のキャッシュ読取単価は ¥50（1M tok・税込表示。入力 ¥70 の約 3 割引）です。キャッシュから供給された分はこの単価で課金します（2026-10-18 に設定。告知）。定額プランの枠の消化量にはキャッシュ読取単価を適用せず、入力単価で計算します。

/api/usage とコンソールの明細に記録している cache_read_tokens が、キャッシュから供給されたトークン数です。キャッシュ読取単価を設定しているモデルは料金ページに掲載しています。

変わらないもの

• モデル ID・エンドポイント・API キーはそのままです
• 入力・出力の単価に変更はありません（キャッシュ読取単価は 2026-10-18 に追加しました）
• コンテキスト長・対応パラメータに変更はありません
• 過去のリクエストへの影響はありません
• プロンプトを保存しない方針に変更はありません。キャッシュは推論基盤のメモリ上にのみ置かれ、ディスクへ書き出しません

単価とモデル一覧は料金ページ、モデル ID とセットアップ手順はドキュメントに掲載しています。