#LLMゲートウェイ
「LLMゲートウェイ」に関する記事一覧。Kuu株式会社のブログでは、AIエージェントガバナンスとDXの観点から LLMゲートウェイ に関連するノウハウを 3 件発信しています。
Claude 128MB化で見直すLLMゲートウェイの上限設計
Messages APIの上限が2026年10月28日に32MBから128MBへ拡大。プロキシ・WAFの本文上限と各クラウドの20〜32MBが先に詰まる箇所を整理する。
Models APIのcapabilitiesで機能検出ルーティング
Claude Models APIのcapabilitiesとlifecycleを起動時に取得し、モデルID直書きの400エラーをなくす。thinking種別・effort・retires_atを使うルーティング設計を解説する。
LLMゲートウェイ設計——ルーティング・レート制限・配賦を一元管理
複数チームのLLM利用をゲートウェイ1点で統制する設計を解説。モデルルーティング・チーム別レート制限・コスト配賦の設計パターンとLiteLLM・Kong AIの実装例を示します。
