約 4 分で読めます

Claude 128MB化で見直すLLMゲートウェイの上限設計

Messages API と Token Counting API の最大リクエストサイズは、2026年10月28日に32MBから128MBへ引き上げられた。ただし対象は Anthropic 直営のClaude APIのみで、社内ゲートウェイやクラウド経由では別の上限が先に効く。

社内のLLMゲートウェイやWAFが、リクエスト本文を数MBで切っている構成は珍しくない。上限が128MBになっても、経路上の最も小さい上限が実効値になる。ここでは、どの層が先に詰まるかと、設計の置き場所を整理する。

128MBへの引き上げで何が変わったのか

2026年10月28日、Messages・Token Counting の最大リクエストサイズが32MBから128MBになった。直営APIに限った変更である。

公式リリースノートによると、変更対象は Messages API と Token Counting API で、first-party の Claude API のみに適用される。API概要ページの上限表は次のとおりだ。

エンドポイント最大リクエストサイズ
Messages、Token Counting128MB
Message Batches API256MB
Files API500MB
Sessions、Agents、Environments32MB

超過すると 413 request_too_large が返る。リリースノートは、ファイル・base64・PDF・画像の個別上限が変わったかには触れていない。個別上限は各機能のドキュメントで確認する必要がある。

経路上のどこが先に詰まるのか

実効上限は経路上の最小値で決まる。Bedrock は20MB、Google managed は30MB、Anthropic運営のクラウド3種は32MBである。

API概要ページは、パートナー運営のプラットフォームには独自の上限があると明記している。

  • Amazon Bedrock: 20MB
  • Claude Models on Google Cloud(Google managed): 30MB
  • Claude Platform on AWS、Claude Models on Google Cloud(Anthropic managed)、Microsoft Foundry: Messages と Token Counting は最大32MB

つまり「128MBが使える」のは直営APIに直接つないだけの経路だ。複数のプラットフォームを切り替えるゲートウェイでは、最も小さい20MBを共通上限にするか、ルート別に上限を持たせるかを決める。さらに、リバースプロキシ・API Gateway・WAF・サービスメッシュのサイドカーが持つ本文上限は、Anthropic側の上限と無関係に効く。これらは設定値を棚卸ししないと分からない。

ゲートウェイの上限はどう設計すべきか

上限は「プロバイダ別の公開値」「経路機器の設定値」「業務上の許容値」の3つの最小値で決め、超過は事前に413相当で返す。

設計の要点は3つある。

  1. ルート別上限テーブルを持つ。 宛先プロバイダごとに上限を保持し、リクエスト本文の Content-Length を転送前に検査する。上流に送ってから413を受けるより、ゲートウェイで早期に拒否した方が帯域と待ち時間を節約できる。
  2. 大きな入力は参照渡しに寄せる。 公式ドキュメントは、画像を多数送る場合に Files API でアップロードし file_id で参照してペイロードを小さく保つことを勧めている。Files API の上限は500MBだ。ただし file_id はワークスペース内で共有される点に注意が要る(Files APIのテナント分離設計を参照)。
  3. Bedrock・Google managed経由はbase64のみと前提する。 PDFと画像のドキュメントには、これらの経路が base64 ソースのみ対応と記載されている。参照渡しでの圧縮はこの経路では使えない。

また、本文を全量バッファしてから転送するゲートウェイは、並行リクエストが増えるとメモリを消費する。ストリーミング転送にするか、同時処理数に上限を設けて、メモリの上限と合わせて見積もる。

サイズ以外の上限は何があるのか

PDFは最大600ページ(コンテキスト1M未満は100ページ)、画像は最大600枚だが、実際はサイズ上限が先に効く場合がある。

PDF対応のドキュメントでは、最大リクエストサイズが直営APIで128MB、最大ページ数は600(リクエストのコンテキストウィンドウが1M未満なら100)とされている。画像も上限は最大600枚(200kトークンのコンテキストのモデルは100枚)だが、公式は「リクエストサイズ上限が先に到達しうる」と述べており、Files API を使っても大きな画像が多いと失敗しうるため、事前に縮小するよう案内している。

PDFも同様で、情報量の多いPDFはページ数の上限に達する前にコンテキストを使い切ることがある。ゲートウェイ側では、サイズだけでなくページ数・画像枚数・推定トークン数(Token Counting API)で事前検査すると、失敗を減らせる。

規模別の留意点

大企業では、部門ごとに別のクラウド経由でClaudeを使うことが多い。上限の最小値を全社の共通契約にするより、ルート別の上限テーブルをゲートウェイの設定として管理するほうが、後からの変更に強い。大規模展開の設計支援には RDE が使える。

参考

まとめ

128MBは直営APIの上限であって、経路全体の上限ではない。Bedrockの20MB、Google managedの30MB、Anthropic運営クラウドの32MB、そして社内のプロキシやWAFの設定値が先に効く。ルート別の上限テーブルをゲートウェイに持たせ、大きな入力はFiles APIによる参照渡しに寄せるのが基本設計だ。自社のLLMゲートウェイの上限設計やエージェントガバナンス体制の整備については、Kuuの RDE にご相談ください。

関連記事

Linked billingでエンドカスタマーに課金する設計Claude組織webhookの受信設計と取りこぼし対策Claude API 2026-10-21移行のゲートウェイ設計Claude APIユーザープロファイルの設計と統制