メインコンテンツへスキップ
       

学習オフ設定のClaudeコード及びGoogle AI Ultraの利用は弁護士の守秘義務等に違反しないという個人的意見(AIリライト)

AI要約を見る

※以下はAIが生成した要約です。内容の正確性は保証されません。本文をあわせてご確認ください。

本記事は、学習機能を停止する設定を施した生成AIを弁護士業務に用いることが、弁護士職務基本規程上の守秘義務及び個人情報保護法に違反しないとする筆者の個人的な見解である。対象は、Anthropic社のClaude(端末上で動作する形態のもの)とGoogle社のGoogle AI Ultraの二つであり、所属弁護士会の見解ではないこと、及び入力情報の匿名化を推奨する一般的な整理とは立場を異にすることを冒頭で明示している。

技術面では、両社の設定と保持期間を別々に整理する。学習利用を停止した場合の保持期間は、Anthropic社が30日、Google社が72時間であるが、フィードバックを送信すると前者は5年、後者は最長3年に伸びる。人間による確認についても、品質向上を目的とするものは停止できる一方、不正利用の監視及び安全性の確保を目的とするものは残る。端末上で動作する形態には、会話履歴の送信機能や端末内の平文保存という対話画面にはない情報の出口があり、いずれも設定により遮断している。

法的評価としては、事業者へのデータ提供を個人情報保護法27条5項1号の委託に伴う提供と整理して第三者提供に当たらないとした上で、クラウド例外との関係、安全管理措置と外的環境の把握、外国にある第三者への提供、及び漏えい等が生じた場合の報告義務を順に検討する。個人情報保護委員会が求めているのは事業者が個人データを機械学習に利用しないことの確認であって匿名化ではないこと、及び委任契約約款に生成AIの利用についての同意条項を置いていることを示す。

残された不確実性として、各社の公表内容が頻繁に変更されること、弁護士会による事業者照会の対象が特定の一社の法人向けプランに限られること、及び両社のいずれについても日本国内での保存を保証する公表がないことを挙げる。真に秘匿性の高い情報については、入力した内容を保存しない契約形態のプランを使い分けるという一線を維持すべきものとしている。

第1 この記事の位置づけと結論

本記事は,学習機能を停止する設定を施した生成AIを弁護士が業務に用いることが,弁護士職務基本規程上の守秘義務及び個人情報保護法に違反しないという,当職の個人的な意見を述べるものである。対象とするのは,当職が現に用いているAnthropic社のClaude(端末上で動作する形態のもの。以下「Claudeコード」という。)と,Google社の個人向けサブスクリプションであるGoogle AI Ultraの二つである。

結論は次のとおりである。第一に,学習機能を停止する設定を適用した状態で,これらを弁護士業務に用いることは,適法かつ安全な運用が可能である。第二に,極めて秘匿性の高い類型については,入力データを保存しないことを契約上明確にした法人向けプランを選択すれば足りるのであって,機密性の高さそれ自体が直ちにAI利用の断念に結び付くわけではない。第三に,過度な匿名化は,守秘義務の観点からは安全に見えて,かえって出力の誤りを増やすため有害である。

本記事の位置づけについて,あらかじめ二点を断っておく。一点目は,ここで述べるのは当職の個人的な見解であって,所属する大阪弁護士会その他の弁護士会の見解ではなく,綱紀委員会又は懲戒委員会の判断と一致することを保証するものでもないという点である。二点目は,日本弁護士連合会のAI戦略ワーキンググループが取りまとめた注意事項が示す整理と,本記事の立場が一致しない部分があるという点である。同注意事項は会員限りの資料とされ,会員外への交付等を控えるべきものとされているため,本記事ではその内容を引用しない。もっとも,入力情報の匿名化及び本人からの同意取得を求める整理は,東京弁護士会の会報に掲載された特集記事においても執筆者自身の整理として示されているところであり,後記第7で述べる実名入力の当否は,この一般的な整理と異なる立場を採るものである。

なお,本記事の内容は令和8年8月時点のものであり,各社のプラン構成,モデル名,価格及びデータの取扱いは頻繁に変更されるため,実際に採用する際には各社の現行の公表内容を改めて確認されたい。生成AIを用いて作成した書面の正確性をどう担保するかという出力側の問題については,山中弁護士がClaudeコードを使って裁判所提出書面を作成するときに行っているハルシネーション防止方法で別に述べている。本記事は入力側,すなわち何を入れてよいかという問題を扱う。

第2 用いている環境と設定

1 Claudeコード(Anthropic社)

当職が事件処理に用いているのはAnthropic社のClaudeであり,そのうち,端末上で動作して端末内のファイルを直接読み書きする形態のものである。設定及び条件は次のとおりである。

学習への利用については,個人向けプラン(Free,Pro及びMax)では利用者が可否を選択でき,同社は,この設定がオンのときにこれらのアカウントのデータを新しいモデルの学習に使用するとし,Claudeコードを当該アカウントから利用する場合を含む旨を明記している。オフにした場合には,以後の新しいチャット及びコーディングセッションを将来のモデル学習に使用せず,従前保存されたものについても将来の学習ランでの使用を停止するとされている。商用プラン(Team,Enterprise及びAPI)については,既定で商用製品の入力及び出力をモデルの学習に使用しないとされている。

保持期間は,個人向けプランで学習利用をオフにした場合は30日,オンにした場合は5年である。商用プランは既定で30日であり,APIについては受領又は生成から30日以内にバックエンドの入出力を自動削除するとされている。ただし,自動的な安全性判定によって利用ポリシー違反としてフラグが立てられた場合には,入力及び出力を最長2年,分類スコアを最長7年保持するとされている点は,別に押さえておく必要がある。

暗号化は,転送中がTLS1.2以上,保存時がインフラレベルのAES-256によるディスク暗号化である。国際認証としては,情報セキュリティマネジメントシステムのISO/IEC 27001:2022,AIマネジメントシステムのISO/IEC 42001:2023及びSOC 2 Type 2を取得しており,これらの認証書及び監査報告書の一覧は同社のトラストセンターで確認できる。監査報告書の実体を入手するには申請が必要だが,認証の一覧,遵守状況及び再委託先の一覧は申請なしで閲覧できる。再委託先の一覧は20社が公開されており,日本に所在する事業者は含まれていない。

2 Google AI Ultra(Google社)

Google社の個人向けサブスクリプションについては,令和8年8月時点の日本の料金体系は,Google AI Plusが月額725円,Google AI Proが月額2900円,Google AI Ultraが使用量上限に応じて月額1万4500円と3万2000円の二段階である。提供されるモデルは,Geminiアプリの主力が「Gemini 3.1 Pro」,推論モードが「Deep Think」,Google検索のAIモードが「Gemini 3 Pro」と表示されている。ストレージはUltraで20テラバイト以上である。

学習への利用については,設定名は現在「アクティビティの保存」であり,これをオフにした場合,同社は,フィードバックが送信された場合を除き,以降のチャットをAIモデルの改良に使用することはないとしている。保持期間は72時間であり,同社は,応答の生成,並びに同社,同社の利用者及び一般の人々の保護のために,チャットをアカウントに72時間保存するとしている。

ここで注意を要するのは,フィードバックを送信した場合の扱いである。アクティビティの保存をオフにしていても,フィードバックを送信すると,同社は,送信されたフィードバックと,これを理解するための文脈として過去24時間のチャットを収集し,特別に訓練を受けたチームがこれをレビューした上で,Googleアカウントとは切り離した形で最長3年間保存するとしている。72時間という数字だけを見て安心することはできない。

なお,Google社もISO/IEC 27001及びSOC 2の認証を取得しており,ISO/IEC 42001:2023については,認証の範囲にGoogle Cloud Platform及びGoogle Workspaceのほか「Gemini(アプリ)」が明示的に含まれている。消費者向けのGeminiアプリを業務に用いる場面では,この点は重要である。

3 端末上で動作する形態に固有の情報の出口

Claudeコードのように端末上で動作する形態のものには,対話画面にはない情報の出口がある。事件記録を扱う以上,これらは個別に遮断しておく必要があり,当職はいずれも停止している。

第一に,会話履歴を送信する報告機能である。当該コマンドを実行すると,コードを含む会話履歴の写しが提供事業者へ送信され,5年間保持される。送信する範囲は,既定では現在のセッションのみだが,同一プロジェクトの過去24時間又は7日間のセッションを含めることもでき,任意で公開リポジトリに課題として登録される場合がある。事件記録を扱うセッションで実行してはならない機能であり,環境変数によって無効化できる。

第二に,セッションの品質調査である。評価のみを答える段階では会話の記録は収集されないが,その後に表示される追加の問いに同意すると,会話の記録,下位の処理の記録及び端末上の生ログが送信され,最長6か月間保持される。既知の資格情報のパターンは送信前に秘匿されるが,ソースコード及びファイルの内容はそのまま送信される。これも環境変数によって無効化できる。

第三に,動作状況の送信である。利用統計は,コード,プロンプト及びファイルの経路を含まないとされているが,第三者のログ基盤へも送られる。エラー報告は,個人向けプランで直接接続している場合に既定で有効となり,第三者のエラー追跡サービスへ送信される。いずれも環境変数によって個別に,又は非必須通信として一括して無効化できる。

第四に,端末側の保存である。この形態では,セッションの記録が利用者の端末の所定のフォルダに,既定で30日間,平文で保存される。保存期間は設定によって変更できる。これは事件記録そのものと同じ性質を持つから,サーバ側の保持期間とは別に,端末のディスク暗号化とアクセス制御によって保護すべきものである。当職は,事件記録の保管について従前から採っている措置と同じ扱いをしている。

4 プランの選択――ゼロ保持と最新機能のどちらを採るか

極めて秘匿性の高い類型については,入力及び出力をサーバに保存しないゼロデータリテンションの契約を選ぶことができる。ただし,Anthropic社のそれは,標準のEnterpriseプランに含まれるものではなく,適格性の確認を経て組織単位で個別に有効化されるものであり,管理画面から自分で有効にすることはできない。またこれを有効にすると,会話履歴の送信機能をはじめとするいくつかの機能が利用できなくなる。

法人向けプランを選べば常に有利というわけではない。法人向けは管理機能や監査の堅牢性を重視する設計思想であるため,最新の推論モデルや連携機能の実装にはタイムラグが生じやすい。この点は,利用者からも次のような指摘がある。

これは特定の利用者の感想であってGoogle社の製品系列についてのものであるが,管理機能の充実と最新機能への到達性が両立しないことがあるという構造自体は,事業者を問わず生じ得る。したがって,案件の機密度に応じてプランを使い分けるという判断が現実的であり,機密性の高さそれ自体を理由にAIの利用を断念する必要はない。

5 両者を同じ数字で語ることはできない

以上のとおり,Google社の72時間とAnthropic社の30日は,いずれも各社の公表に基づく正確な数字であるが,同じ土俵の数字ではない。前者は「アクティビティの保存」をオフにしたときのチャットの保持期間であり,後者は個人向けプランで学習利用をオフにしたときの保持期間である。フィードバックを送信した場合は,前者が最長3年,後者が5年に伸びる。加えて,後者には端末側の平文保存という別の層があり,前者にはこの論点がない。

したがって,一方のサービスについて述べた数値を他方へ流用することはできない。事業者ごとに,削除までの期間も,削除に至る仕組みも,例外的に保持が伸びる条件も異なるからである。本記事が二つのサービスを別々の項目に分けて記述しているのは,この理由による。

第3 技術的評価

1 学習への不使用

まず,学習への不使用がどのように担保されているかを確認する。両社とも,設定によって学習利用を停止でき,かつその旨を利用者向けの公表文書に明記している。

この点について,従前,Google社の「ジェネレーティブAI追加利用規約」に学習不使用の確約があると理解していたが,これは正確ではなかった。同規約は,2024年5月22日にGoogle利用規約がAI関連の事項を含む形に更新されたことに伴い,同日以降,当該規約に言及する契約に署名した事業パートナーを除いて適用されないこととされている。また同規約の本文にある「使用制限」は,利用者が本サービスを用いて機械学習モデルを開発してはならないという利用者側の行為制限であって,同社の学習利用に関する定めではない。現在の根拠となるのは,同社の「Geminiアプリのプライバシーに関するお知らせ」であり,そこに,アクティビティの保存がオフの場合はフィードバックが送信された場合を除き以降のチャットをAIモデルの改良に使用しない旨が記載されている。

自身が入力した情報が学習され,他者への回答として出力されるという経路は,この設定によって遮断される。もっとも,学習に使用しないことと,一切保持しないこととは別である。次項以下で述べるとおり,保持は目的を限定した上で行われている。

2 暗号化及び国際認証

データは,転送中及び保存時のいずれについても暗号化されている。Anthropic社については前記第2の1のとおりであり,Google社についても同種の措置が採られている。転送経路が暗号化されている以上,通信の途中で第三者が内容を読み取ることは想定し難い。

国際認証については,両社ともISO/IEC 27001及びSOC 2に加え,AIのマネジメントシステムに特化したISO/IEC 42001:2023を取得している。同規格は,AIのガバナンスについての要求事項を定めた国際規格として2023年12月に発行されたもので,国際標準化機構自身が世界初のAIマネジメントシステム規格と説明している。認証の存在は,事業者の管理体制について独立した第三者の監査が及んでいることを示すものであって,個別の事故が生じないことを意味するものではないが,選定に当たっての客観的な手がかりにはなる。

いわゆるプロンプトインジェクション等のAI特有の攻撃リスクを懸念する見方もあるが,これは主として対話の相手方を欺いて意図しない出力を引き出す手法であり,データベースから情報を抜き出す攻撃とは性質が異なる。また,情報漏えいの経路として警戒すべきなのは,クラウド事業者のシステム自体が破られるリスクよりも,利用者のアカウントがフィッシングや認証情報の使い回しによって乗っ取られるリスクである。前者は,前記の国際認証が示すとおり事業者の管理体制の問題であって,個々の弁護士が直接コントロールできる領域ではない。後者はAIに限らず,ウェブメールやチャットツールにも共通するものであり,AIだけを特別視するのではなく,多要素認証やシングルサインオンといった標準的な対策を講じることが,実際的な防御になる。

3 人間による確認の範囲

「学習をオフにすれば人間が内容を見ることはない」という理解は,正確ではない。

Google社は,アクティビティの保存の設定がオフの場合や一時的なチャットを使用している場合でも,利用者への応答並びに同社,同社の利用者及び一般の人々の保護のためにチャットを使用するとし,これに人間のレビュアーによるレビューが含まれる旨を明記している。オフにすることによって止まるのは,サービスの品質向上を目的とするレビューであって,保護を目的とする確認の可能性まで排除されるわけではない。前記のとおり,フィードバックを送信した場合には,特別に訓練を受けたチームによるレビューが行われ,最長3年間保存される。

Anthropic社についても,自動的な安全性判定によってフラグが立てられた場合には,保持期間が伸び,安全性の確保のために内容が用いられ得るとされている。

したがって,正確な理解は,「人間が一切見ない」ではなく,「品質向上を目的とする人間の確認は停止でき,不正利用の監視及び安全性の確保を目的とする確認の可能性は残る」というものである。もっとも,この種の監視は,メールサービスにおけるウイルス検知や迷惑メール判定と同質のものであって,クラウドサービス一般に共通するものである。AIに固有の危険として過大に評価する必要はないが,事実として存在する以上,これを踏まえた上で利用すべきである。

4 情報の滞留期間

守秘義務及び情報漏えいのリスクを比較する上で意味を持つのは,情報がどれだけの期間そこに残るか,そして誤って第三者へ渡る経路があるかという二点である。

第一に,滞留期間である。多くの弁護士が日常的に利用しているメールサービスでは,送信済みフォルダ及び受信トレイに,機密情報が数年単位で検索可能な状態で残り続ける。万一アカウントが侵害された場合には,過去の全案件の情報が流出し得る。これに対し,学習利用を停止した設定下の生成AIでは,前記の期間を経過すれば自動的に削除される。置きっぱなしの状態が生じにくいという点で,情報のライフサイクル管理の観点からは有利である。もっとも,前記第2の5のとおり,フィードバックの送信によって期間が伸びること,及び端末側に別途保存が残ることには留意を要する。

第二に,誤送信の経路である。メールは宛先を一つ誤れば,直ちに無関係な第三者へ情報が渡り,回復が困難である。これに対し,生成AIの対話相手はプログラムであり,入力した内容がその場で外部の第三者へ転送されることは想定されていない。

以上の二点において,学習利用を停止した設定下の生成AIは,既存の業務用ツールと比べて不利ではない。「メールは日常的に使うが,AIは情報漏えいが怖いから使わない」という態度や,「AIを使うときだけ全ての固有名詞を記号に書き換える」という運用は,技術的な実態との対応関係を欠いている。もっとも,これは定性的な比較であって,リスクの大小を数値で表せるものではない。

5 過度な禁止がかえって危険であること

一部には,アカウント管理の不安等を理由に,過度に厳格な利用制限や都度の同意取得を求める見解も見受けられる。しかし,情報セキュリティの実務においては,現場の実態を無視した禁止規則こそが,管理の及ばない経路での利用を誘発する要因として知られている。

業務での利用を極端に制限すれば,多忙な弁護士や事務職員は,事務所の管理が及ばない私用の端末や無料のツールで業務データを処理するようになる。これでは記録の監査もできない。したがって,実態とかけ離れた禁止規則を課すのではなく,業務端末から安全にアクセスできる環境を提供することが重要である。その上で,就業規則又は情報セキュリティ規程において利用の指針を明確にし,許可された業務アカウントのみを使用すること,利用できる端末を限定することといった規則を所内研修等で徹底することが,実効性のある対策となる。これらは,個人情報保護委員会のガイドラインが講ずべき安全管理措置として挙げる技術的安全管理措置及び人的安全管理措置を具体化するものでもある。

第4 東京弁護士会の選定基準との対照

以上の技術的検討が独りよがりの評価にとどまらないことを確認するため,東京弁護士会が2025年3月27日に施行した「弁護士業務における生成AIサービスの適正利用ガイドライン」が定める選定基準と照らし合わせる。当職が所属するのは大阪弁護士会であって東京弁護士会ではないが,同ガイドラインが示す選定基準は,生成AIサービスの信頼性を評価する客観的な物差しとして,所属会を問わず参考になる。

同ガイドラインは,信頼性のある生成AIサービスの選定基準を5つの要件に整理している。第一に,当該サービスの利用がその利用規約等に違反しないこと。第二に,事業者が入出力情報を機械学習その他の用途に使用しない,又は使用しない設定が可能であること。第三に,事業者が正当な理由なく入出力された情報にアクセスできないこと。第四に,入出力情報が暗号化され,厳格なセキュリティ対策が実施されていること。第五に,入出力情報が一定の保存期間経過後に自動的に削除される,又は利用者による削除が可能であることである。

これを当職の利用環境に当てはめると,第二の要件は前記第3の1で述べた学習利用の停止に,第四の要件は前記第3の2で述べた暗号化及び国際認証に,第五の要件は前記第2の各項で述べた保持期間の経過後の自動削除に,それぞれ対応する。第三の要件については,前記第3の3のとおり,品質向上を目的とする確認は停止でき,安全性の確保を目的とする確認の可能性が残るという整理になるから,「正当な理由なくアクセスできない」という基準は満たされていると考える。

もっとも,公平を期すために付言する。東京弁護士会は,2025年9月,汎用型の生成AIサービスを提供する主要事業者に対してこの5要件に関する照会を実施し,日本マイクロソフト株式会社から得た回答について,選定基準と明らかに齟齬する点は見当たらなかったとの整理を公表している。しかし,同会が実際に照会を行い回答を得たのは同社に限られ,その対象も法人向けプランに限られる。Google社及びAnthropic社について同様の個別照会が行われたとの記録は確認できない。したがって,本記事の整理は,同会が示した客観的な選定基準という物差しを借りて当職が独自に当てはめたものであって,同会が当職の利用環境を推奨し,又はその安全性を保証したものではない。同会自身,マイクロソフト社の回答についてすら,利用を推奨し又はその安全性を保証するものではないと留保している。

なお,同社の回答例からは,実務上の留保として次の二点も看取される。一つは,データの保存場所について,通常は契約したリージョン内に保存されるとしても,サービスの安定運用のために状況に応じてリージョン外で処理される場合があり得るという点である。もう一つは,保存期間経過後の削除について,保持期間が終了するとデータは所定のフォルダへ移され,1日以上保持された後,通常1日から7日の間隔で実行される定時処理によって完全に削除されるという運用であり,しかも削除後の復元不可能性までを保証する対応はなされていないという点である。これらは特定の事業者に固有の弱点ではなく,大手クラウド事業者に共通して見られる留保であって,当職が用いるサービスについても同様の留保を前提として利用すべきものである。

第5 弁護士職務基本規程との整合性

1 第三者への開示の不存在

弁護士職務基本規程第23条は,「弁護士は,正当な理由なく,依頼者について職務上知り得た秘密を他に漏らし,又は利用してはならない。」と定める。生成AIへの入力がこの「秘密の漏えい」に当たるかが問題となる。

学習利用を停止した設定の下では,入力した情報は事業者のモデル改善のために利用されず,弁護士の管理下を離れて第三者に内容が開示されることもない。後記第6の1で述べるとおり,この利用形態は,個人情報保護法上は委託に伴う提供として整理することが合理的であり,その場合,提供先は法的には第三者に該当しないものとして扱われる。秘密を第三者に開示する行為とは,法的な性質を異にする。

これは,多くの法律事務所が日常的に利用しているクラウド版のワープロソフトやクラウドストレージと同様の構成である。これらについて守秘義務違反が問題とされていない以上,同種の設定を施した生成AIについてのみ別異に解すべき理由は乏しい。

2 弁護士情報セキュリティ規程が求める安全管理措置

弁護士がクラウドサービスを利用する際には,弁護士情報セキュリティ規程(令和4年6月10日会規第117号。令和6年6月1日施行)が求める安全管理措置を講じておく必要がある。同規程第3条第2項は,全ての弁護士及び弁護士法人等に対し,所属する法律事務所等の規模及び業務の種類,態様等に応じて,取扱情報の情報セキュリティを確保するための基本的な取扱方法を定めることを義務付けている。策定義務の名宛人は法律事務所ではなく弁護士等であり,法律事務所の規模等は,定めるべき取扱方法の内容を左右する考慮要素として現れる。

同規程第4条第1項は,弁護士等が情報セキュリティの責任者として,取扱情報の種類,性質等に応じた必要な管理体制を整備し,組織的,人的,物理的及び技術的な安全管理措置を講ずるものとしている。生成AIの利用に即していえば,学習利用の停止,暗号化された経路の使用,業務アカウントの限定,端末側の保存領域の保護といった措置が,このうち技術的な安全管理措置に当たる。同条第2項は事務職員等に必要な対策を講じさせることを,第3項は研鑽及び教育に努めることを,それぞれ求めており,設定を施すだけで足りるものではない。

なお,AIの内部動作を完全に理解すべきであるという見解もあるが,これは電子メールの送受信に当たり通信プロトコルの詳細や暗号化方式を理解せよというに等しく,現実的ではない。求められているのは,技術の内部構造の理解ではなく,入力と出力の特性及び限界の把握と,出力に対する検証の工程を確立することである。後者については前記第1で挙げた別記事で詳述した。

3 依頼者の同意――委任契約約款

法的に問題がないとしても,依頼者の理解を得ないまま用いてよいことにはならない。当職は,依頼者との間で締結する委任契約約款に,次の条項を置いている。

第5条の2(生成AIの利用)
甲は,学習オフの設定をしたClaudeコードその他の生成AIを乙が甲の事件処理のために用いることに全面的に同意する。

同旨の条項は,日弁連の弁護士費用保険制度を利用する場合の約款にも同じ条番号で置き,同制度を利用せずに弁護士費用保険を用いる場合の確認書には第6条として置いている。受任の形態を問わず,全ての事件について,用いるサービスの種類と学習機能を停止している旨を明示した上で,依頼者の同意を得て事件処理に用いる建て付けである。あわせて同約款第5条は,依頼者が重要事項説明書を委任契約締結の日から2週間以内に熟読すること及び当職が同説明書の記載に関する依頼者の疑問について誠実に説明することを定めており,生成AIの利用についても,質問があれば,用いているサービス,設定の内容及び出力の検証工程を説明することとしている。

前記第4で述べた東京弁護士会のガイドラインは,秘匿性の高い情報を入力する場合には,その利用について依頼者に説明し,必要に応じて同意を得ること,委任契約書に明記すること等の対応を行うことが求められるとしている。前記の条項は,この推奨に対応させたものである。もっとも,包括的な同意条項を置いたことによって,出力の正確性を確かめる工程を省いてよいことにはならない。同意が及ぶのは入力の可否についてであって,出力の正確性は依頼者の同意によって担保されるものではない。

第6 個人情報保護法との整合性

1 委託構成とクラウド例外

個人情報保護法第27条第1項は,あらかじめ本人の同意を得ないで個人データを第三者に提供してはならないと定める。生成AIへの入力データに個人情報が含まれる場合,これが第三者提供に該当するかが問題となる。

この点については,二通りの整理があり得る。

第一は,委託に伴う提供として整理する構成である。同条第5項第1号は,個人情報取扱事業者が利用目的の達成に必要な範囲内において個人データの取扱いの全部又は一部を委託することに伴って当該個人データが提供される場合には,提供を受ける者が第三者に該当しないものとすると定める。個人情報保護委員会のガイドライン(通則編)3-4-4は,「個人データの取扱いの委託」とは契約の形態・種類を問わず個人情報取扱事業者が他の者に個人データの取扱いを行わせることをいうとし,具体的には個人データの入力,編集,分析,出力等の処理を行うことを委託すること等が想定されるとしている。同ガイドライン3-6-3(1)は,委託の具体例として「事例1)データの打ち込み等、情報処理を委託するために個人データを提供する場合」を挙げる。生成AIに事件記録を読ませて分析させる行為は,この類型に近い。

第二は,いわゆるクラウド例外として整理する構成である。個人情報保護委員会は,同委員会のQ&Aにおいて,クラウドサービスの利用が第三者提供又は委託に該当するかどうかは,保存している電子データに個人データが含まれているかどうかではなく,クラウドサービスを提供する事業者において個人データを取り扱うこととなっているのかどうかが判断の基準となるとし,当該事業者が個人データを取り扱わないこととなっている場合には,個人データを提供したことにはならないため本人の同意を得る必要はなく,委託にも該当しないから監督義務も生じないとしている。

当職は,前者の委託構成を採る。前記第2のとおり,両社とも,不正利用の監視及び安全性の確保という目的で一定期間データを保持し,場合によっては人間による確認を行う旨を公表しているから,事業者が個人データを「取り扱わないこととなっている」とはいい難いためである。この整理を採ることによって,後記3の安全管理措置及び後記5の報告義務が自らに及ぶことを前提とすることになるが,安全側に立つ整理として相当である。もっとも,仮にクラウド例外が成立する場合には,後記4で述べる外国にある第三者への提供の問題も生じないから,結論はより単純になる。いずれの構成によっても,本人の個別の同意なく利用できるという帰結は変わらない。

2 個人情報保護委員会が求める確認

生成AIの利用について,個人情報保護委員会は,令和5年6月2日付けで「生成AIサービスの利用に関する注意喚起等」を公表している。同注意喚起は,個人情報取扱事業者に対し,あらかじめ本人の同意を得ることなく生成AIサービスに個人データを含むプロンプトを入力し,当該個人データが応答結果の出力以外の目的で取り扱われる場合には個人情報保護法の規定に違反することとなる可能性があるとした上で,このようなプロンプトの入力を行う場合には,「当該生成AIサービスを提供する事業者が、当該個人データを機械学習に利用しないこと等を十分に確認すること」を求めている。

本記事が述べてきた学習利用の停止とその確認は,この要求に正面から対応するものである。すなわち,同委員会が求めているのは,入力そのものを避けることでも,入力情報を匿名化することでもなく,事業者が当該データを機械学習に利用しないことを確認することである。実際,同注意喚起に「匿名化」という語は用いられていない。この点は,後記第7で述べる実名入力の当否と直接に関係する。

3 安全管理措置及び外的環境の把握

個人情報保護法第23条は,個人情報取扱事業者が,取り扱う個人データの漏えい,滅失又は毀損の防止その他の個人データの安全管理のために必要かつ適切な措置を講じなければならないと定める。同条自体は措置の内容を列挙していないが,個人情報保護委員会のガイドライン(通則編)は,講ずべき安全管理措置の内容として,組織的安全管理措置,人的安全管理措置(10-4),物理的安全管理措置及び技術的安全管理措置(10-6)を挙げている。前記第3の5で述べた業務アカウントの限定,端末の限定及び所内研修は,このうち人的及び技術的な措置に当たる。

委託構成を採る場合には,委託先における取扱状況の把握も求められる(同ガイドライン3-4-4)。再委託についても,事前報告を受け又は承認を行うこと等により確認することが望ましいとされている。もっとも,巨大なプラットフォーム事業者について個別の事前承認を得ることは現実的ではない。両社とも独立した第三者による保証報告書及び再委託先の一覧を公開しており,Anthropic社の再委託先一覧は申請なしで全件を閲覧できる。公開されている情報を随時確認できる状態にあることをもって,実質的な把握は可能であると考える。

外的環境の把握(同ガイドライン10-7)については,正直に書いておくべき点がある。同項は,外国において個人データを取り扱う場合に,当該外国の個人情報の保護に関する制度等を把握した上で必要かつ適切な措置を講じなければならないとしている。この点,Anthropic社は,データが米国に保存される旨を明記しており,データの所在地として選択できるのは現在のところ米国のみである。Google社の消費者向けサービスについても,同社のプライバシーポリシーは,サーバーが世界各地に設置されており,利用者が居住する国以外の場所にあるサーバーで処理されることもあると述べている。すなわち,両社のいずれについても,日本国内での保存を保証する公表はない。米国における政府の強制的なデータアクセス権限の存在を懸念する見方があるところ,両社とも透明性レポートを公開し,法的な異議申立ての手続を整備しているものの,この懸念が完全に解消されるわけではない。真に秘匿性の高い情報については,前記第2の4のとおりプランを使い分けるという運用上の一線を維持する必要がある。

なお,利用する必要がなくなった個人データについては,個人情報保護法第22条が,遅滞なく消去するよう努めなければならないと定めている(同ガイドライン3-4-1)。これは努力義務であるが,学習利用を停止した設定の下では,保持期間の経過によって自動的に削除されるため,人手による削除作業に依存せずにこの要請に応えることができる。

4 外国にある第三者への提供

サーバーが外国にある場合,委託であっても,原則として個人情報保護法第28条の外国にある第三者への提供の制限を受ける。本人の同意なく適法に利用するためには,当該第三者が,個人情報取扱事業者が講ずべき措置に相当する措置を継続的に講ずるために必要なものとして個人情報保護委員会規則で定める基準に適合する体制を整備している必要がある(同条第1項。その内容は,同委員会のガイドライン(外国にある第三者への提供編)が定める)。両社とも,ISO/IEC 27001及びISO/IEC 42001の認証取得等を通じて,この体制を整備していると評価できる。

では,弁護士は,同条第3項に基づき相当措置の継続的な実施を確保するため,個人情報の保護に関する法律施行規則第18条第1項第1号が求める「当該第三者による相当措置の実施状況並びに当該相当措置の実施に影響を及ぼすおそれのある当該外国の制度の有無及びその内容を、適切かつ合理的な方法により、定期的に確認すること」を,どのように行うべきか。

同号は確認の方法を限定していないから,各社が公開している認証状況,再委託先の一覧及び透明性レポートを定期的に参照することがこれに当たると考える。世界的なプラットフォーム事業者については,認証の失効や重大な事故が生じた場合には,速やかに広く報道される状況にあるから,日頃から関連する情報に接していることも,実際上の確認手段として機能する。もっとも,これをもって規則が求める定期的な確認が当然に充足されるとまでいえるかについては議論があり得るので,当職は,各社の公表ページを実際に参照した時点を記録に残すこととしている。

5 漏えい等が生じた場合の報告義務

委託構成を採った場合には,委託先において個人データの漏えい等が生じたときに,原則として委託元と委託先の双方が個人情報保護委員会への報告義務を負う(同ガイドライン3-5-3-2)。ここで注意すべきは,通知によって報告義務を免除されるのは委託先の側であって,委託元ではないという点である。すなわち,委託先が報告義務を負っている委託元に事態の発生を通知したときは委託先の報告義務が免除されるが,委託元である弁護士の報告義務が免除されるわけではない。

事業者側の事情によって生じた事故であっても,委託元である弁護士が,個人情報保護委員会への報告及び本人への通知の義務を負う。事業者に預ければ安全であるという技術的な評価とは別に,万一の場合の法的な責任主体は弁護士自身であるという認識を持って運用する必要がある。

外部委託先で個人情報の漏えい等が生じた場合の委託元の対応については,外部委託先で個人情報が漏えいした場合の委託元の対応―報告,本人通知及び委託先監督(AI作成)で詳しく整理している。

第7 実名のまま入力することの当否

インサイダー情報等の極めて秘匿性の高い情報を除き,当職は原則として実名のまま入力している。この判断の理由は次の三点である。

第一に,文脈の欠落による精度の低下である。生成AIは固有名詞を文脈の手掛かりとして用いており,これを記号に置き換えた途端に背景の情報を失う。第二に,取り違えの誘発である。複数の登場人物と多数の日付から成る事件記録において,識別子を記号化すると,別人の行為を取り違える,同一人物を複数人として扱う,時系列を誤るといった誤りが生じやすくなる。事件記録では登場人物と日付の対応関係こそが主張の骨格であるから,識別子を壊すことは,誤りを減らすどころか,かえって誤りを生む方向に働く。第三に,手作業による置換えの誤りである。手動の匿名化には消し忘れが伴い,暗号化された経路を信頼せずに不完全な手作業に頼ることは,合理的なリスク管理とはいえない。

もっとも,匿名化の方法は記号への置換えに限られない。全ての資料を通じて同一の人物に同一の仮名を割り当て,仮名と実名との対応表を別に管理する方法によれば,人物の同定という手掛かり自体は失われない。ただしこの方法では,登場人物と書証が増えるほど対応表の管理が煩雑になり,出力を書面へ戻す際の置換えの正確性も人が担保しなければならないため,置換えの誤りという別の経路の誤りが生じる。一貫した仮名を用いる方法を採らずに識別子を壊す形の過度な匿名化を行うことは,守秘義務の観点からは安全に見えて,正確性の観点からは有害である。

前記第6の2のとおり,個人情報保護委員会が求めているのは,事業者が個人データを機械学習に利用しないことの確認であって,入力情報の匿名化ではない。この点は,実名入力という判断を支える公的な手掛かりになる。もっとも,冒頭で述べたとおり,入力情報の匿名化を推奨する整理も存在するのであって,本項の判断はこれと異なる立場を採るものであることは,改めて明示しておく。

なお,ここで正当化されるのは,あくまで安全な環境への入力の段階における実名の使用である。生成した成果物を,裁判所,相手方その他の真の第三者に提示又は提出する出力の段階においては,固有名詞の要否を吟味し,人による査読を経るべきことは当然である。本記事が述べるのは安全な環境への実名入力の合理性であって,成果物を外部へ示す際の配慮を免除する趣旨ではない。

第8 「使わないこと」のリスクと監督者責任

さらに踏み込んでいえば,本件においては「使うリスク」よりも「使わないリスク」も直視すべきである。米国法曹協会の職務模範規則第1.1条のコメント[8]は,必要な知識及び技能を維持するために,弁護士は,関連する技術の利益及びリスクを含め,法及びその実務の変化に精通し続けるべきであるとしている。講学上,技術に関する能力の義務と呼ばれるものである。この観点からは,AIを用いれば短時間で完了する調査や文書のレビューに人手のみで長時間を費やし,その時間に応じた報酬を依頼者に請求することの当否が問われ得る。

AI活用は単なる時短の手段ではない。調査や起案の時間を圧縮することで,人にしかできない依頼者からの聴取や法的戦略の立案といった業務に資源を集中させるための投資である。もっとも,前記の別記事で述べたとおり,短縮されるのは調査と起案の時間であって,出力を確認する時間はむしろ増える。

AIのハルシネーションを懸念する声があるが,法的な責任構造は単純である。新人の弁護士や事務職員が作成した起案を,責任者が内容を確認せずに裁判所へ提出することはない。AIについても同様であって,出力の真偽を確認し,最終的な法的構成を決定するのは,常に弁護士の役割である。これは,AIガバナンスにおける人間の判断の介在という原則の実践であり,AI事業者ガイドライン(第1.2版)(令和8年3月31日。総務省・経済産業省)も,AI利用者に関する事項として「安全を考慮した適正利用」を挙げ,人間の判断の介在について述べている。この指揮監督の関係が維持されている限り,AIが誤ること自体は,修正前の草稿の問題にとどまる。

第9 残された不確実性

以上の整理には,なお不確実性が残る。

第一に,本記事の整理は,各社が現在公表している内容を前提とするものである。前記第3の1で述べたとおり,当職自身,従前は既に適用されなくなった規約を根拠として理解していた。プランの構成,モデルの名称,価格及び保持期間は頻繁に変更されるから,公表内容を定期的に確認しなければ,前提が崩れていることに気付かない。

第二に,前記第4のとおり,弁護士会による事業者照会の対象となったのは特定の一社の法人向けプランに限られており,当職が用いるサービスについて弁護士会が安全性を確認したわけではない。本記事の当てはめは,あくまで当職が独自に行ったものである。

第三に,前記第6の3のとおり,両社のいずれについても日本国内での保存を保証する公表はなく,外国の政府による強制的なデータアクセスの可能性が完全に解消されるわけではない。真に秘匿性の高い情報については,プランを使い分けるという一線を維持する必要がある。

第四に,本記事が扱ったのは入力側の問題である。出力の正確性は,入力の安全性とは別の工程によって担保しなければならない。この点は,冒頭で挙げた別記事で述べたとおりである。

出典・参考資料

1 法令・会規

個人情報の保護に関する法律(平成15年法律第57号)22条・23条・27条・28条(e-Gov法令検索)
個人情報の保護に関する法律施行規則(平成28年個人情報保護委員会規則第3号)18条(e-Gov法令検索)
弁護士職務基本規程(平成16年11月10日会規第70号)23条(日本弁護士連合会)
弁護士情報セキュリティ規程(令和4年6月10日会規第117号。令和6年6月1日施行)3条・4条(日本弁護士連合会)

2 公的資料

個人情報の保護に関する法律についてのガイドライン(通則編)(平成28年11月。令和8年6月一部改正)2-17・3-4-1・3-4-4・3-5-3-2・3-6-3・3-6-4・10-4・10-6・10-7(個人情報保護委員会)
②個人情報の保護に関する法律についてのガイドライン(外国にある第三者への提供編)(平成28年11月。令和7年12月一部改正)4・6(個人情報保護委員会)
生成AIサービスの利用に関する注意喚起等(令和5年6月2日。個人情報保護委員会)
個人情報の保護に関する法律についてのガイドラインに関するQ&A Q6-22・Q7-53・Q7-54・Q12-3(個人情報保護委員会)
AI事業者ガイドライン(第1.2版)(令和8年3月31日。総務省・経済産業省)
Model Rules of Professional Conduct, Rule 1.1 Competence(Comment on Rule 1.1)(American Bar Association)

3 文献

①特集「弁護士業務における生成AIの利活用と留意点」LIBRA Vol.26 No.7-8(2026年7-8月号)2頁~18頁のうち,有本真由「弁護士業務における生成AI活用上の主な注意点」14頁~18頁(東京弁護士会)
②杉谷真「生成AIサービスの適正な業務利用に向けて―東弁ガイドラインと事業者照会を踏まえて―」LIBRA Vol.26 No.6(2026年6月号)25頁~27頁(東京弁護士会)

4 ウェブ資料

Data usageZero data retention(Anthropic)
Anthropic Trust Center及び再委託先一覧(Anthropic)
Gemini アプリのプライバシーに関するお知らせ(Google)
生成 AI の追加利用規約(Google。2024年5月22日以降は適用されない旨の注記を確認)
Google AI のプラン(Google)
ISO/IEC 42001 – Compliance(Google Cloud。認証範囲にGemini(アプリ)を含む)
ISO/IEC 42001:2023(International Organization for Standardization)