第1 生成表示とは別の禁止規定である
改正EU AI法は,5条1項(ba)(bb)及び1a・1b項に,性的コンテンツの生成・操作に関係する禁止の条件を追加している。
これらの適用日は2026年12月2日であり,50条の透明性義務の一般適用日や,旧システムのマーキングの経過措置とは区別する必要がある。
以下は2026年11月15日時点のAI Actの条文に基づく。
生成物に「AI生成」と表示しても,禁止規定に該当するシステムの提供・使用が適法になるものではない。
対象主体・地域は2条の適用範囲と3条の役割を前提とし,個人的・非職業的使用の扱いも含め,誰のどの行為かを確認する。
第2 識別可能な本人の同意を欠く場合
5条1項(ba)は,識別可能な自然人の私的な身体部位,又は識別可能な自然人が性的に露骨な行為に従事する様子について,現実的な画像・動画・音声その他同様の資料を生成・操作するAIシステムを扱う。
その生成・操作に対する,本人の自由に与えられた,特定の,十分な情報に基づく,曖昧さのない,かつ明示的な同意がないことが問題となる。
公開・配布の同意があることだけを,生成・操作についての同意へ置き換えることはできない。
この改正をした規則(規則(EU)2026/1744。以下「改正規則」という。)の前文(12)は,この禁止を,性器等の私的な身体部位又は性的に露骨な行為の現実的な描写に限定し,漫画的な描写や物理的にあり得ない描写は含めないと説明する。
前文は条文の解釈を補うものであり,条文の文言と切り離して読むことはできない。
さらに,次節の行為別の条件と,1b項の操作に関する限定がある。
性的な素材が生成できるという一事から,全ての提供・使用を同じ条件で判定する条文ではない。
第3 提供と使用で異なる条件
| 行為 | 5条1a項が定める条件 |
|---|---|
| 市場投入・使用開始 | 当該生成・操作が意図された目的である場合,又は,設計・学習・構造・能力若しくは利用者向け機能により,重大な技術的改変なしに合理的に予見可能で再現可能な結果となり,必要な保護措置を欠く場合 |
| 導入者による使用 | 当該資料・パフォーマンスの生成又は操作を目的として使用する場合 |
市場投入・使用開始についての後者の枝では,合理的に予見可能であることと再現可能であること,重大な技術的改変を要しないこと及び必要な保護措置を欠くことを,省略せず確認する。
保護措置は,合理的に予見可能な悪用を考慮して生成・操作を確実に防ぎ,観察・報告された悪用を是正するための,合理的かつ十分な技術的安全措置その他の保護措置をいう。
利用規約に禁止と書くだけで当然にこの条件を満たす,という説明はできない。
導入者による使用の目的要件は,提供する側についての上記の二つの枝とは別である。
改正規則の前文(12)は,導入者への禁止が,これらの資料の生成・操作を目的として使用する場合に限られ,それ以外の適法な目的での使用や偶発的な生成・操作は対象に含まれないと説明する。
モデル・機能の評価資料,保護措置,悪用報告への対応及び実際の使用目的を,主体ごとに確認することになる。
第4 操作の限定と,児童に関する参照規定
1b項は,(ba)の目的上,描写された私的な身体部位の露出を増やさず,かつ,描写された性的に露骨な行為の性質を変えない操作は,ここでいう操作に当たらないとする。
二つの条件をともに満たす限定であり,生成全般の免除でも,(bb)に共通の免除でもない。
改正規則の前文(12)は,その例として,既存の素材の背景の変更,見出しの追加,コントラストや明るさの調整を挙げる。
他のEU法による禁止を妨げない点にも注意が必要である。
1項(bb)は,指令2011/93/EUの2条(c)にいう資料,又は同条(e)にいうパフォーマンスを生成・操作するシステムを参照している。
国内法の「without right」の抗弁が適用される場合についての除外があり,1a項の行為別条件も適用される。
改正規則の前文(13)は,この除外に,当局が刑事手続又は犯罪の予防・探知・捜査のために国内法上の権限に基づいて行う正当な生成・操作や,この禁止への適合性を評価するための正当なレッドチーム・評価活動での使用が含まれると述べる。
(ba)の本人の非同意や識別可能性という要件を,(bb)へ当然に書き足してはならない。
この参照先や国内法上の抗弁を個別案件に当てはめるときは,適用時点の指令及び関係国の現行法を照合する必要がある。
表示義務についての一般論や,肖像の利用許諾だけで,ここで参照する内容と例外を決めることはできない。
第5 提供・調達・運用の確認
提供者側では,意図する用途,通常の機能で再現できる悪用,重大な技術的改変の要否,防止措置及び悪用の把握・是正を,仕様と検証で説明できるようにするのが有用である。
導入者側でも,利用目的と同意の対象・範囲を確認し,禁止される生成・操作を依頼しない手順を設ける方法が考えられる。
これらは条文の条件を業務で確認するための提案であり,特定の試験項目や同意書式だけで全ての適法性が保証されるわけではない。
EU法の地理的範囲と適用日は透明性義務の全体像,日本での肖像・音声の権利処理はAI利用許諾と制作委託契約も参照されたい。
第6 一次資料
European Commission, AI Act Service Desk「Article 5」,1項(ba)(bb),1a・1b項。
https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-5
Council of the European Union, PE-30-2026-REV-1,改正禁止規定,前文(11)~(13)及び113条の適用日。
https://data.consilium.europa.eu/doc/document/PE-30-2026-REV-1/en/pdf
Regulation (EU) 2026/1744 of the European Parliament and of the Council of 8 July 2026 amending Regulations (EU) 2024/1689, (EU) 2018/1139 and (EU) 2023/1230 as regards the simplification of the implementation of harmonised rules on artificial intelligence (Digital Omnibus on AI),Publications Office of the European Union,公表日2026年7月24日。
https://op.europa.eu/en/publication-detail/-/publication/b459c07f-86fb-11f1-bf5e-01aa75ed71a1/language-en