#プラットフォームエンジニアリング

「プラットフォームエンジニアリング」に関する記事一覧。Kuu株式会社のブログでは、AIエージェントガバナンスとDXの観点からプラットフォームエンジニアリングに関連するノウハウを 1 件発信しています。

LLMゲートウェイ設計——ルーティング・レート制限・配賦を一元管理

複数チームのLLM利用をゲートウェイ1点で統制する設計を解説。モデルルーティング・チーム別レート制限・コスト配賦の設計パターンとLiteLLM・Kong AIの実装例を示します。