AIチャットボットの開示義務、技術でどう満たすか

問い合わせ対応にAIチャットボットを使う中小企業は増えているが、「相手がAIだと利用者に伝える」仕組みまで作り込んでいる例は少ない。EU AI Act第50条は2026年8月2日に施行済みで、AnthropicのUsage Policyも自社チャットボットへのAI利用開示を契約上義務付けている。エージェントガバナンスの一部として、開示義務を技術的にどう満たすかを整理する。

AIチャットボットの開示義務とは何か

EU AI Act第50条とAnthropicの利用ポリシーは、チャットボットへのAI利用開示を共通して義務化している。

EU AI Act第50条(1)は、自然人と直接対話するよう設計されたAIシステムの提供者に対し、「合理的に情報を得て観察力があり慎重な人物から見て明らかでない限り」利用者がAIと対話していることを知らせるよう義務付ける。EU域内の利用者に届くチャットボットであれば、AIベンダーでなくとも対象になる。Anthropicの利用ポリシーはこれとは独立に、「消費者向けチャットボットは人間ではなくAIと対話していることを利用者に開示しなければならない」と定めており、法務・医療・金融助言・雇用/住宅判断といった高リスク領域ではAI利用の開示に加え、専門家によるレビューも求めている。

何を、いつ、どう伝えれば要件を満たすか

開示は「明確で判別可能」な形で、セッション開始時点に必要。特別な操作を利用者に求めてはならない。

EUの公式FAQは、開示が「最初の対話の開始時点から」明確かつ判別可能な形でなされ、特別な技術的手段なしに理解できることを求めている。「明らかな場合」の除外は限定的にしか解釈されない。Anthropicの利用ポリシーも「各チャットセッションの開始時点で最低限」の開示を要求しており、両者は「セッション開始時」という同じタイミングに収斂する。AI Act側の適用条件は、AIシステムであること・双方向のやり取りであること・人間を介さない直接対話であること・相手が自然人であることの4点が揃う場合に限られ、裏側で動くだけのシステム間連携は対象外になる。

システムプロンプトだけに頼ると何が壊れるか

モデルの応答任せにすると、要約やツール呼び出し中心のターンで開示が抜け落ちる恐れがある。

よくある実装は、システムプロンプトに「自分がAIであると名乗ること」と書き、応答生成に開示を委ねる方法だ。しかしこれは確率的な振る舞いに依存しており、ツール呼び出し結果をそのまま整形して返すターンやフォールバックモデルへのルーティング時には抜け落ちうる。規制が求めるのは「モデルが大体言う」ではなく、セッション開始時に確実に届くことだ。開示はモデル出力から切り離し、セッション開始時に固定表示するUIバナーやチャット冒頭の定型メッセージとして実装するのが安全だ。システムプロンプトへの指示は、音声チャネルなどUI側の固定表示が効かない経路向けの二重の備えとして残すとよい。

開示を監査証跡としてどう記録するか

開示を「利用者に見せた事実」を構造化ログとして残せば、規制当局や取引先への監査証跡になる。

開示バナーを一度実装するだけでは説明責任は果たせない。セッションごとに開示表示の有無・表示時刻・表示文言のバージョン・チャネル（Web/音声/埋め込みウィジェット）を構造化ログとして記録し、他の監査ログと同じ保存基盤に載せる設計が要る。これはプライバシー分野の同意ログ記録と同じ発想で、「開示した」という主張を後から検証可能な記録に変える。Kuu株式会社のAIエージェント運用支援では、こうした開示ログと監査ログの設計・実装を支援している。

参考

まとめ

AIチャットボットの開示義務は、EU AI Act第50条という法規制とAnthropicのUsage Policyという契約上の義務の両方から課されており、どちらもセッション開始時点での確実な開示を求めている。システムプロンプトへの一文だけでは確率的にしか満たせず、UIレベルの固定表示と監査ログの二段構えが必要になる。自社のチャットボットが両方の要件を満たしているか不安な場合は、Kuu株式会社にご相談いただきたい。