メインコンテンツへスキップ
       

感情認識・生体分類AIの告知―EUの採用・職場・教育で先に確認する禁止規定(AI作成)

第1 告知する前に使ってよい機能かを確かめる

EU AI法50条3項は,感情認識システム又は生体分類システムの導入者に,対象となる自然人への運用の告知を求める。
同時に,該当する場合にはGDPR等の個人データ保護法に従う必要がある。
告知をしたという一事で,禁止される機能の使用や,個人データの処理が許されるわけではない。

以下は2026年11月15日時点の条文・欧州委員会指針による。
EUとの関係及び役割は透明性義務の適用範囲を先に確認されたい。

指針99~110段落の告知は,児童を含む,対象となる自然人全員に向けたものである。
リアルタイムで運用される場合に限らず,事後に運用される場合も対象となるため,対象者との接触・提示の時期と告知方法を設計する必要がある。

第2 文字起こし・本人確認と同じではない

3条39号の感情認識システムは,生体データに基づき人の感情又は意図を識別・推論するAIシステムである。
3条40号の生体分類システムは,生体データに基づき人を特定のカテゴリーへ割り当てるシステムであり,分類機能が他の商業サービスに付随し,かつ客観的な技術上の理由で厳密に必要である場合について定義上の例外がある。
単なる文字起こし,映像の表示,本人確認,あるいは評価という名称だけで,どの定義に該当するかを決めない。

顔,声その他の入力から,何の特徴を抽出し,何を推論・分類し,誰についてどの判断に使うかを,ベンダーの仕様で確かめる必要がある。
「面接支援」「会議分析」という製品名だけでは,感情・意図を推論しているか分からない。

第3 職場・教育での感情推論と機微な分類

5条1項(f)は,職場・教育機関において人の感情を推論するAIの市場投入,その目的での使用開始及び使用を禁止する一方,医療又は安全上の理由で導入・市場投入する場合の例外を置く。
通常の人事評価や学習評価で「本人に知らせるからよい」と判断することはできない。
例外についても,名称だけでなく実際の目的と条件を確認する必要がある。

同項(g)は,生体データに基づいて個人を分類し,人種,政治的意見,労働組合への加入,宗教的・哲学的信条,性生活又は性的指向を推論・推定する生体分類システム等を対象とする。
適法に取得した生体データセットのラベル付け・フィルタリングや法執行分野の分類についての条文上の除外を,あらゆる生体分類への一般免除へ広げないことが必要である。

順序問い次の確認
①入力と推論・分類が3条の定義に当たるか対象機能,対象者及び利用目的を特定する
②職場・教育の感情推論や禁止される機微分類か5条の禁止・例外を先に確認する
③利用できる機能でも50条3項の対象か本人が初めてやり取りし又は対象となる時までの明瞭な告知とデータ保護を設計する
④採用・雇用等の高リスク規定も関係するか別の要件・適用日・人の関与等を確認する

第4 告知の内容・時期と犯罪対応の限定

50条3項が求める告知の内容は,対象者が感情認識又は生体分類のシステムの運用にさらされていることである。
指針は,運用の理由や,感情認識・生体分類以外の目的の処理に関する情報は,50条自体は求めず,データ保護法の下で別に求められ得ると説明する(105段落)。
告知の手段は定められておらず,書面,標準化されたアイコン,口頭又はその組合せなど,場所,対象者,接触の長さ及び既存の連絡手段に応じて選ぶことになる(107段落)。

3項の告知も,5項に従い,明確で区別でき,本人が最初にやり取りし又はシステムの対象となる時までに,適用されるアクセシビリティの要件に沿う形で提供する。
本人が分類の対象になってから初めて知る仕組みではなく,実際の対象者に届く場所・媒体を検討することになる。

犯罪の検知・予防・捜査のために法律により許可され,第三者の権利・自由への適切な保護措置を備え,かつEU法に従う対象システムには,3項の告知の例外がある。
この3項の列挙は,1項・2項・4項の犯罪関係例外と同一の文言ではなく,訴追までを当然に書き足さない。
個別の国内授権法やデータ保護の要件は,別途確認しなければならない。

高リスクAIについては,50条とは別に26条の通知も確認する必要がある。
26条7項では,雇用主である導入者は,職場で高リスクAIを使用開始し又は使用する前に,労働者代表と影響を受ける労働者の双方へ知らせ,該当するEU法・国内法の情報提供手続に従う。
同条11項は,附属書Ⅲの高リスクAIで自然人に関する意思決定をし,又は意思決定を補助する導入者について,対象となる当人へ使用を知らせる制度である。
全ての高リスクAIの全ての使用場面が11項の対象だと広げず,法執行目的の高リスクAIには指令2016/680の13条が適用されるという区別も維持する。
指針は脚注で,26条11項の通知と50条の通知とは伝える情報が異なる補完関係にあり,一つの通知にまとめることもできると説明している。
一つの通知にまとめる場合も,それぞれの相手・時点・内容を満たす必要がある。

通知の根拠誰へ知らせるか時点・対象の違い
50条3・5項感情認識・生体分類の対象となる自然人遅くとも最初の対話又は接触時まで
26条7項労働者代表及び影響を受ける労働者雇用主が職場で高リスクAIを使用開始・使用する前
26条11項意思決定又はその補助の対象となる自然人附属書Ⅲの高リスクAIという対象の限定がある

根拠となる26条はAI Act Service Deskの公式条文で確認できる。

第5 導入者が用意する確認資料

機能仕様,推論・分類の出力例,対象者,利用する国・場所,目的,禁止・例外の判定,告知文と表示位置,処理するデータの種類及び委託先を,担当者が照合できる形にすることが実務上有用である。
当初は文字起こしだけでも,後から感情スコアや人物分類を有効にする変更があれば,再確認する必要がある。
これは運用提案であり,統一の届出書や固定の保存年限を50条が定めるという意味ではない。

日本の採用実務については採用AI・AI面接・Web経歴確認も参照されたい。
日本の実務を説明した記事を,そのままEU法上の適法性判断に置き換えることはできない。

第6 一次資料

European Commission, AI Act Service Desk「Article 3」「Article 5」「Article 26」「Article 50」。
https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-3
https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-5
https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-26
https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-50

European Commission「Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of Regulation (EU) 2024/1689 (the ‘AI Act’)」,C(2026)7702 final,2026年11月5日。
https://digital-strategy.ec.europa.eu/en/library/guidelines-transparency-obligations-providers-and-deployers-ai-systems