第1 対話の相手がAIだと分かるようにする
EU AI法50条1項は,自然人と直接やり取りするAIシステムの提供者に,相手がAIであると本人が認識できる設計・開発を求める。
生成AIだけを対象とする規定ではなく,音声,チャット,アバター,AIエージェントなども,実際の機能とやり取りから確認する必要がある。
以下は2026年11月15日時点の条文及び欧州委員会の指針による。
顧客が使う画面を自社ブランドで提供する会社と,基盤モデルだけを供給する会社の役割は同じとは限らない。
EU市場への提供,EU所在の導入者,第三国からの出力のEU利用など,2条の適用範囲も先に確認する。
第2 画面・音声で何を伝えるか
利用者が最初に接する時点までに,明確で区別でき,適用されるアクセシビリティの要件に沿った形で告知するのが50条5項の原則である。
利用規約の奥にだけ書く方法では,実際に対話する本人が初回接触時に認識できるかが問題となる。
「私はAIアシスタントである」という表示や音声,識別しやすいラベル等を,使用媒体に応じて検討することになる。
欧州委員会の指針は,AIエージェントであればAIであることに加え,誰のために行動しているかを分かるようにする点にも言及する。
取引相手の会社名や担当者の権限まで,AIという一語で説明したことにはならない。
一方,法律が特定のポップアップ文言や,あらゆる回答への固定間隔の表示を一律に指定しているわけではない。
指針29~45段落は,意図された双方向の文脈に沿うやり取りと,受動的な情報収集や,自然人へ届く予定のない機械間の交換を区別する。
単に人が関わるシステムの全てが直接対話AIになるわけではない。
合理的に自然人と対話し得る構成では,提供者がその場面で告知できるよう設計する必要がある。
新しい対話ごとや重要な段階での再告知は,指針の推奨として読む。
告知は,予見可能な利用者に児童その他の脆弱な人が含まれる場合に合わせる必要がある。
AIかを尋ねられた場合や相手に混乱が生じた場合も知らせる必要があり,LLM等の専門略語だけや,サイト全般の曖昧な表示だけで十分とは限らない。
文脈から明白だという例外は狭く解釈し,意図された利用者群と予見可能な利用者群の双方及び利用文脈を対象に,提供者が評価し,その根拠を示せるようにする必要がある。
第3 文脈上明白な場合と,人が介在する場合
1項には,十分な情報を持ち,注意深く慎重な自然人の視点で,使用状況・文脈からAIとのやり取りであることが明白な場合の例外がある。
提供者の思い込みや,利用者の一部がAIに詳しいという事情だけで判断しない。
名称,外観,音声,紹介方法,利用者の特性等を含む実際の利用体験を点検する必要がある。
| 場面 | 確認する点 | 実務上の対応例 |
|---|---|---|
| AI受付から人に引き継ぐ | AIとの直接対話が既に始まっているか | 初めにAI受付と告知し,人へ移った時点も明確にする |
| 過去の人間の回答をAIで探す | 現在の対話の主体と,検索結果の著者を区別できるか | 過去の弁護士回答であることと,現在の検索補助がAIであることを別々に示す |
| 人がAIの案を確認して顧客へ答える | 指針が扱う人を主たる対話者とする介在の条件を満たすか | 名目上の監督者の配置だけで直接対話を否定しない |
| 音声・アバター・長い会話 | 告知が本人に届き,状況変化後も誤認が生じないか | 初回の明瞭な告知を基本に,文脈に応じた再表示・再案内を検討する |
人が主たる対話相手として内容を確かめて伝える場合と,利用者がAIへ直接入力し回答を受け,必要なときだけ人へ転送する場合は異なる。
人間の著者が作った過去のデータを検索に使うだけで,現在のAI対話が人による審査・対話になったとはいえない。
生成出力に関する50条2項の範囲と,直接対話に関する1項の範囲も別に検討する必要がある。
第4 犯罪対応の例外と,他の規律
犯罪の検知・予防・捜査・訴追について法律上の授権があり,第三者の権利・自由への適切な保障があるシステムには,1項の例外がある。
ただし,一般公衆による犯罪通報に利用できるシステムについては,この例外から除かれている。
企業が不正検知と呼んでいるだけで,法律上の授権・保障という条件を満たすものではない。
AI告知は,正しい回答,契約上の代理権又は本人確認を保証しない。
秘密・個人情報を入力する範囲,法律相談との境界,人への相談手段,誤案内時の訂正及び記録を,機能ごとに設計する必要がある。
指針46~49段落は,犯罪対応のための例外が,証拠の記録,開示又は証拠能力を決める規則ではないことも説明する。
AIとの対話の告知を省けるかという問題と,捜査・訴訟で記録をどう扱うかという問題を分ける必要がある。
第5 導入時に試すこと
法務・開発担当が,初めて使う人の操作で,スマートフォン,音声のみの利用及び支援技術で告知を認識できるか確かめる方法が考えられる。
その際,AIと人の切替え,第三者の窓口への移動,エージェントの行為権限,拒否・中断・人への引継ぎも試し,公開時の画面・音声と版を記録すると説明に役立つ。
これは検証方法の提案であり,全てのシステムに共通の法定試験様式・保存期間を意味しない。
AI受付の人への引継ぎ,AIエージェントの契約権限,過去の弁護士回答の検索と個別相談の違いも参照されたい。
EU法の適用範囲・日付はEU AI法の透明性義務の全体像で説明する。
第6 一次資料
European Commission, AI Act Service Desk「Article 50」,1項・5項。
https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-50
European Commission「Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of Regulation (EU) 2024/1689 (the ‘AI Act’)」,C(2026)7702 final,特に直接対話に関する29~53段落。
https://digital-strategy.ec.europa.eu/en/library/guidelines-transparency-obligations-providers-and-deployers-ai-systems