ルーターでタスクごとにモデルを振り分けている基盤では、会話の途中でモデルが変わります。このとき以前のモデルのthinkingブロックが次のモデルに読まれず、エラーも出ないまま推論が捨てられることがあります。本稿はその仕組みと、損失を設計で管理する方法をまとめます。会話履歴を書き換えない前提はappend-only設計の記事を、effortの切替はper-message effortの記事を先に読むと整理しやすくなります。
モデルを切り替えるとthinkingブロックはどうなるか
読めないthinkingブロックはエラーにならず、そのリクエストだけAPIが破棄します。破棄分は課金されず、元のモデルに戻れば再び読まれます。
公式ドキュメントによると、modelを変えて履歴全体を送り続けても、新しいモデルが読めないブロックでエラーにはなりません。APIはそのリクエストに限ってブロックを落とし、課金もしません。Claudeはその推論なしで回答します。
重要なのは、APIがmessagesを書き換えない点です。Opus 5.5がFable 5.1のブロックを読めずに落としても、Fable 5.1に戻れば同じブロックは再び読まれます。推論が恒久的に失われるのは、アプリ側がthinkingを履歴から削除したときだけです。「モデルごとに別の履歴を持つ」「切替時にthinkingを掃除する」実装は避けてください。
どのモデルがどのモデルのブロックを読めるか
読み取り互換は一方向です。Fable 5.2とMythos 5.2は他の現行モデルのブロックを読めますが、その逆は成り立ちません。
ドキュメントの互換表(Claude API)から、現行モデルの要点を抜き出します。
- Fable 5.2 / Mythos 5.2へ移る場合: Haiku 5.5、Sonnet 5.5、Opus 5、Opus 5.5、Fable 5 / 5.1、Mythos 5 / 5.1のブロックを読める
- Fable 5.2 / Mythos 5.2から移る場合: Fable 5.2 / Mythos 5.2のブロックを読めるのは同じ組のみ。Fable 5.1、Opus 5.5、Sonnet 5.5、Haiku 5.5へ切り替えると破棄される
- Opus 5.5へ移る場合: Haiku 5.5、Sonnet 5.5、Opus 5 / 5.5のブロックは読めるが、Fable系・Mythos系のブロックは読めない
- Haiku 5.5へ移る場合: Haiku 5.5自身のブロックだけを読める
したがって、上位モデルで計画し下位モデルで実行する構成では、下位側が計画時の推論を読めない組み合わせが生じます。設計時に自社が使うモデルの組を表で引き、どの切替で何が落ちるかを事前に把握してください。表は更新されるため、運用前に最新版を確認します。
切替で落ちた事実を input_transformations でどう検知するか
thinking-binding-controls-2026-08-01ベータヘッダーを付けると、応答のinput_transformationsに破棄理由が出ます。
このヘッダーを付けると、応答にusageと並んでinput_transformations配列が入ります。破棄されたブロックにはtype: "thinking_dropped"とpath、reasonが付きます。reasonの意味は次のとおりです。
prefix_binding_mismatch: system・tools・以前のメッセージが変わった。アプリ側の修正対象model_binding_mismatch: 新しいモデルが元のモデルのブロックを読めない。修正対象ではないorganization_binding_mismatch: 別アカウントが生成したブロック。修正対象ではない
監視で注意すべきは、reasonを区別せず「破棄があれば異常」と判定すると、正常なモデル切替で誤検知することです。テストではprefix_binding_mismatchのみを失敗条件にします。未知のtypeやreasonは無視するのが公式の指示です。なお、このヘッダーは付けても内容の変換には影響せず、可視化だけを追加します。
ルーター設計で押さえる実装ルール
履歴は1本に保ち、切替で消さず、破棄はログで観測します。破棄が多い経路には、プロンプトキャッシュと出力トークンの追加コストが出ます。
実装では次を守ります。
- 履歴は会話単位で1本保持し、assistantターンはAPIが返した形のまま追記する
- 切替先が
thinking: {"type": "enabled"}を拒否する場合は、"adaptive"に変える。対応モデルではenabledが400エラーになる - 拒否応答後のフォールバックでは、許可されたフォールバック先は拒否したモデルのthinkingを読めない。元のモデルに戻れば両方の推論が読まれる
- 他社モデルが担当したターンは、
textとtool_useとして末尾に置く
コスト面では、ブロックが破棄されるとClaudeはその推論を再度作る必要があり、出力トークンが増える可能性があります。ドキュメントはこの点を明記し、本番投入前に自社のワークロードで評価するよう求めています。切替頻度の高い経路は、input_transformationsの件数と出力トークンを併せて記録してください。
規模別の留意点(SMB / エンタープライズ)
SMBでは、モデルを1〜2種に絞り、互換表の「読めない」組み合わせを避けるだけで損失の大半を防げます。導入を段階的に進めたい場合はAI Opsの伴走支援を検討できます。大規模環境では、LLMゲートウェイで切替を一元化し、モデルの組ごとの破棄率を可観測性基盤に流します。複数アカウントやクラウドをまたぐ構成では、アカウント境界での破棄が起きる前提でSLOを設計します。大規模な統制はRDEで扱っています。
参考
- Preserved thinking
- Prefix checks on thinking blocks
- Fix a thinking block bound to a different conversation
- Claude Platform release notes
まとめ
モデル切替でのthinking破棄はエラーにならず、履歴を消さない限り元のモデルで復元されます。互換表で切替経路を事前に確認し、input_transformationsのreasonを区別して観測することが設計の要点です。モデルルーティングやゲートウェイの設計でお困りの場合は、Kuu株式会社へのお問い合わせからご相談ください。
