約 4 分で読めます

モデル切替でthinkingを失わない履歴設計と読み取り互換表

ルーターでタスクごとにモデルを振り分けている基盤では、会話の途中でモデルが変わります。このとき以前のモデルのthinkingブロックが次のモデルに読まれず、エラーも出ないまま推論が捨てられることがあります。本稿はその仕組みと、損失を設計で管理する方法をまとめます。会話履歴を書き換えない前提はappend-only設計の記事を、effortの切替はper-message effortの記事を先に読むと整理しやすくなります。

モデルを切り替えるとthinkingブロックはどうなるか

読めないthinkingブロックはエラーにならず、そのリクエストだけAPIが破棄します。破棄分は課金されず、元のモデルに戻れば再び読まれます。

公式ドキュメントによると、modelを変えて履歴全体を送り続けても、新しいモデルが読めないブロックでエラーにはなりません。APIはそのリクエストに限ってブロックを落とし、課金もしません。Claudeはその推論なしで回答します。

重要なのは、APIがmessagesを書き換えない点です。Opus 5.5がFable 5.1のブロックを読めずに落としても、Fable 5.1に戻れば同じブロックは再び読まれます。推論が恒久的に失われるのは、アプリ側がthinkingを履歴から削除したときだけです。「モデルごとに別の履歴を持つ」「切替時にthinkingを掃除する」実装は避けてください。

どのモデルがどのモデルのブロックを読めるか

読み取り互換は一方向です。Fable 5.2とMythos 5.2は他の現行モデルのブロックを読めますが、その逆は成り立ちません。

ドキュメントの互換表(Claude API)から、現行モデルの要点を抜き出します。

  • Fable 5.2 / Mythos 5.2へ移る場合: Haiku 5.5、Sonnet 5.5、Opus 5、Opus 5.5、Fable 5 / 5.1、Mythos 5 / 5.1のブロックを読める
  • Fable 5.2 / Mythos 5.2から移る場合: Fable 5.2 / Mythos 5.2のブロックを読めるのは同じ組のみ。Fable 5.1、Opus 5.5、Sonnet 5.5、Haiku 5.5へ切り替えると破棄される
  • Opus 5.5へ移る場合: Haiku 5.5、Sonnet 5.5、Opus 5 / 5.5のブロックは読めるが、Fable系・Mythos系のブロックは読めない
  • Haiku 5.5へ移る場合: Haiku 5.5自身のブロックだけを読める

したがって、上位モデルで計画し下位モデルで実行する構成では、下位側が計画時の推論を読めない組み合わせが生じます。設計時に自社が使うモデルの組を表で引き、どの切替で何が落ちるかを事前に把握してください。表は更新されるため、運用前に最新版を確認します。

切替で落ちた事実を input_transformations でどう検知するか

thinking-binding-controls-2026-08-01ベータヘッダーを付けると、応答のinput_transformationsに破棄理由が出ます。

このヘッダーを付けると、応答にusageと並んでinput_transformations配列が入ります。破棄されたブロックにはtype: "thinking_dropped"とpath、reasonが付きます。reasonの意味は次のとおりです。

  1. prefix_binding_mismatch: system・tools・以前のメッセージが変わった。アプリ側の修正対象
  2. model_binding_mismatch: 新しいモデルが元のモデルのブロックを読めない。修正対象ではない
  3. organization_binding_mismatch: 別アカウントが生成したブロック。修正対象ではない

監視で注意すべきは、reasonを区別せず「破棄があれば異常」と判定すると、正常なモデル切替で誤検知することです。テストではprefix_binding_mismatchのみを失敗条件にします。未知のtypeやreasonは無視するのが公式の指示です。なお、このヘッダーは付けても内容の変換には影響せず、可視化だけを追加します。

ルーター設計で押さえる実装ルール

履歴は1本に保ち、切替で消さず、破棄はログで観測します。破棄が多い経路には、プロンプトキャッシュと出力トークンの追加コストが出ます。

実装では次を守ります。

  • 履歴は会話単位で1本保持し、assistantターンはAPIが返した形のまま追記する
  • 切替先がthinking: {"type": "enabled"}を拒否する場合は、"adaptive"に変える。対応モデルではenabledが400エラーになる
  • 拒否応答後のフォールバックでは、許可されたフォールバック先は拒否したモデルのthinkingを読めない。元のモデルに戻れば両方の推論が読まれる
  • 他社モデルが担当したターンは、textとtool_useとして末尾に置く

コスト面では、ブロックが破棄されるとClaudeはその推論を再度作る必要があり、出力トークンが増える可能性があります。ドキュメントはこの点を明記し、本番投入前に自社のワークロードで評価するよう求めています。切替頻度の高い経路は、input_transformationsの件数と出力トークンを併せて記録してください。

規模別の留意点(SMB / エンタープライズ)

SMBでは、モデルを1〜2種に絞り、互換表の「読めない」組み合わせを避けるだけで損失の大半を防げます。導入を段階的に進めたい場合はAI Opsの伴走支援を検討できます。大規模環境では、LLMゲートウェイで切替を一元化し、モデルの組ごとの破棄率を可観測性基盤に流します。複数アカウントやクラウドをまたぐ構成では、アカウント境界での破棄が起きる前提でSLOを設計します。大規模な統制はRDEで扱っています。

参考

まとめ

モデル切替でのthinking破棄はエラーにならず、履歴を消さない限り元のモデルで復元されます。互換表で切替経路を事前に確認し、input_transformationsのreasonを区別して観測することが設計の要点です。モデルルーティングやゲートウェイの設計でお困りの場合は、Kuu株式会社へのお問い合わせからご相談ください。

関連記事

per-message effortでキャッシュを保つ切替設計Fable 5.2値下げの裏のZDR非対応とthinking切替Claudeのrefusal再試行設計と課金・キャッシュプロンプトキャッシュミスの原因をAPIで特定する