AI Act第72条の市販後監視をエージェント基盤に実装する

高リスクAIシステムを本番稼働させた後、性能劣化やハルシネーション増加を欧州の監督当局にどう報告する体制を組むか、設計済みの企業は多くない。EU AI Act第72条は、この「市販後」の継続監視を法的義務として課している。エージェント基盤の運用チームにとっては、既存の可観測性基盤をどう拡張すれば規制要件を満たせるかが実装上の焦点になる。

本記事はAIエージェントガバナンスのピラーコンテンツに連動しています。

AI Act第72条が求める市販後監視システムとは何か

第72条は、高リスクAIシステムのリスクに比例した市販後監視システムの構築・文書化をプロバイダーに義務付ける規定である。

第72条第1項は、プロバイダーに対し「AI技術の性質とリスクに比例した方法」で市販後監視システムを確立・文書化するよう定めている。第2項では、このシステムが性能データを「能動的かつ体系的に収集・文書化・分析」し、附属書III第2節（Chapter III, Section 2）の要件——精度・堅牢性・サイバーセキュリティなど——への継続的な適合を評価できるものでなければならないと規定する。ポイントは「比例性」だ。全社に一律のログ基盤を敷くのではなく、システムのリスク区分に応じて収集項目と保持期間を変える設計が求められる。

収集すべきデータは何か——エージェントログとドリフト検知の設計

収集対象はデプロイヤーからのフィードバックと稼働ログの双方であり、精度・堅牢性の継続適合を評価できる粒度が要件になる。

エージェント基盤における実装では、可観測性のトレース基盤がそのまま収集パイプラインの土台になる。具体的には以下の3系統のデータを統合する必要がある。

稼働ログ: ツール呼び出し・モデル出力・エラー率をスパン単位で記録し、ベースラインからの統計的乖離（ドリフト）を検知する
デプロイヤーフィードバック: 現場のオペレーターが報告する誤判定・フラグ付けを構造化データとして取り込む
相互作用ログ: 第72条は「他のAIシステムとの相互作用の分析」にも言及しており、マルチエージェント構成では下流エージェントへの影響伝播も追跡対象になる

既に監査ログの改ざん防止設計を導入している場合は、そのスキーマに市販後監視用のフィールド（適合性評価スコア、フィードバック分類コード）を追加する形で統合するのが効率的だ。

監視計画は技術文書にどう組み込むか

市販後監視計画は附属書IVの技術文書の一部であり、欧州委員会は2026年2月2日までにテンプレートを定める。

第72条第3項により、監視計画は独立した文書ではなく技術文書（Technical Documentation、附属書IV）に組み込む。実装チームにとっての意味は、監視パイプラインの設計書・データスキーマ・アラート閾値の定義を、通常の運用ドキュメントとは別に、監査対応可能な形式で保持しておく必要があるということだ。また第4項は、他のEU法（金融規制など）で既存の監視義務を負っているシステムについて、「同等の保護水準」を満たせば既存システムへの統合を認めている。ゼロから重複した監視基盤を構築する必要はない。

重大インシデント報告(第73条)とどう連携させるか

第73条は重大インシデントの報告期限を通常15日、死亡事案は10日、広範な法令違反は2日以内と定める。

市販後監視システムが検知したドリフトや性能劣化が「重大インシデント」の閾値を超えた場合、第73条の報告義務が発動する。第73条第2項は「因果関係を確立した後、直ちに、かつ15日以内」の報告を求め、死亡事案では第4項により10日以内、広範な法令違反では第3項により2日以内という短い期限が課される。この期限に対応するには、インシデント対応プレイブックで定義したP0〜P3の重大度分類と、市販後監視で検知したシグナルを同一のトリアージフローに接続しておく必要がある。検知から報告までの時間を人手の判断待ちにすると、2日以内という期限には間に合わない。

参考

まとめ

EU AI Act第72条の市販後監視は、既存のエージェント可観測性基盤・監査ログ・インシデント対応プレイブックを規制要件に合わせて再接続する設計課題であり、ゼロから作るものではない。ドリフト検知のアラート閾値と第73条の報告期限を同じトリアージフローに乗せておくことが、期限内対応の鍵になる。市販後監視システムの設計・実装については、Kuu株式会社のRDEにご相談ください。