目次
第1 本記事の対象と結論1 対象2 結論第2 法令・会規と行政資料の位置付け1 弁護士法及び弁護士職務基本規程2 弁護士情報セキュリティ規程3 行政資料は実装例として用いる第3 対象者・責任者・対象サービス1 対象者2 責任者3 背景で動くAIも対象にする第4 許可サービス台帳1 台帳に記録する項目2 許可・条件付許可・禁止を分ける3 変更時に再確認する第5 入力情報の区分1 公開情報2 匿名化又は仮名化した内部情報3 依頼者・相手方・事件の秘密情報4 必要最小限にする第6 許可業務・禁止業務1 比較的利用しやすい業務2 一次資料の確認を要する業務3 弁護士の判断又は承認を要する業務4 禁止業務5 謝罪・感謝・重要説明等の対人関係的文書6 外部資料中の指示を命令へ昇格させない第7 出力確認と一次資料1 法令2 裁判例3 事実・資料・計算4 著作権・個人の権利・偏り第8 送信・提出・公開・削除1 読む・検索する・下書きを作る権限を分ける2 承認は外部効果の直前に置く3 記録原本と読戻し第9 委託先・再委託先1 契約及び技術条件2 再委託先及び処理国3 委託先がAIを利用する場合第10 事故対応1 停止・保全・影響範囲の確認2 最初に記録する事項3 連絡及び報告4 再発防止5 停止後の再実行第11 研修・点検・更新1 トレースと評価データセットを分ける2 同じ課題で検証能力と総所要時間を測る第12 普通の法律事務所向けの優先順位1 第1順位-利用開始前に必ず決める4項目2 第2順位-利用開始直後に整える事項3 第3順位-秘密情報・外部連携等の高度利用前に確認する事項4 優先順位の意味5 起案者と最終確認者が同じ一人事務所の運用例第13 判例及び一次資料の確認状況第14 関連記事第15 出典・参考資料1 法令・会規2 行政機関・地方公共団体の資料3 学術文献4 生成AIの評価・観測に関する資料5 AIエージェントの安全運用に関する資料6 生成AI事業者のDPA及びデータ条件第1 本記事の対象と結論1 対象
本記事は,法律事務所が生成AIの利用ガイドラインを作る場合に,最低限どの事項を定めればよいかを整理するものである。
対象には,弁護士が会話画面から直接利用する生成AIだけでなく,事務職員が利用するサービス,OS・ブラウザ・電子メール・OCR・翻訳・議事録作成・クラウドストレージ・事件管理システム等に組み込まれたAI及び外部サービスを操作するAIエージェントを含める。
2 結論
ガイドラインは,製品名の一覧又は「個人情報を入力しない」という一文だけでは足りない。
少なくとも,①対象者及び責任者,②許可するサービスと利用環境,③入力情報の区分,④許可業務と禁止業務,⑤出力の確認方法,⑥送信・提出・公開等の承認,⑦委託先及び再委託先の確認,⑧ログ及び記録原本,⑨事故対応並びに⑩研修・点検・更新を定める必要がある。
本記事で参照する郡山市,デジタル庁及び総務省の資料は,行政機関又は地方公共団体の内部運用を対象とする資料であり,民間の法律事務所を直接拘束する法令又は会規ではない。
もっとも,利用可能なサービス,入力可能な情報,責任者,委託先,ログ,研修及び事故報告を具体的な様式へ落とし込む方法を学ぶための資料として有用である。
普通の法律事務所がこれらを一度に整備するのは容易でない。そこで,第12では,利用開始前に必ず決める事項,利用開始直後に整える事項及び秘密情報・外部連携等の高度利用前に確認する事項に分けて,実施の優先順位を示す。
導入時には,詳細な規程を一度に完成させるよりも,次の入口を決め,秘密情報や外部操作を追加する前に確認を進める方法が考えられる。
第12の優先順位と一人事務所の運用例に,開始前・開始直後・高度利用前の順序を示している。
入口小規模事務所の記入例許可サービスサービス・契約プラン・機能・モデルを台帳に記録し,未確認の機能は利用しない入力資料最初の試行は公開資料又は合成資料。事件の秘密情報は適用契約・権限等を確認してから別途判断出力の確認担当弁護士が原資料と照合し,確認者・確認日・修正箇所を記録外部への操作メール送信,裁判所提出,公開は下書き作成と別に承認。承認された版を記録事故時の連絡気付いた者が処理を止め,責任者へサービス・日時・情報・操作を報告して記録を保全
この表は法定の統一書式ではなく,公開資料を使って開始する場合の運用例である。
「許可」の記入だけで,将来の新機能,コネクタ,再委託先又は別モデルまで一括して認めたものとせず,変更時は第4・第9・第11の条件を再確認する。
AI法律相談の使い方,費用,弁護士の役割を先に確認したい場合は,AI弁護士とはを参照されたい。
第2 法令・会規と行政資料の位置付け1 弁護士法及び弁護士職務基本規程
弁護士法23条は,弁護士又は弁護士であった者の秘密保持義務を定める。
弁護士職務基本規程23条も秘密保持義務を定め,同規程19条は事務職員等に対する指導監督を求めている。
生成AIの利用ガイドラインは,これらの義務を各事務所の端末,アカウント,業務及び作業手順へ落とし込む文書である。
2 弁護士情報セキュリティ規程
日本弁護士連合会の弁護士情報セキュリティ規程は,令和6年6月1日に施行された。
同規程3条は,取扱情報の種類,性質等に応じた危険を踏まえ,法律事務所の規模及び業務の種類,態様等に応じた基本的な取扱方法を定めることを求めている。
生成AI利用ガイドラインは,この基本的な取扱方法の一部として定める方法と,これに付属する別紙として定める方法が考えられる。
3 行政資料は実装例として用いる
郡山市の「生成AI活用ガイドライン(第6版)」は,市が利用を許可したシステム,情報の機密性による入力制限,職員による出力確認及び委託先を含む運用を定めている。
デジタル庁の「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン(第2.0版)」は,国の行政機関における調達及び利活用の考え方を示している。
総務省の「自治体におけるAI活用・導入ガイドブック<導入手順編>(第4版)」は,責任者,情報区分,ライフサイクル,委託先,研修及び事故対応を具体化する資料を提供している。
これらを引用するときは,「行政機関の運用例であること」と「法律事務所に当てはめた実務上の提案であること」を明記する。
行政資料を参照したというだけで,弁護士法,弁護士職務基本規程,個人情報保護法又は依頼者との契約上の義務を満たしたことにはならない。
第3 対象者・責任者・対象サービス1 対象者
対象者には,所属弁護士,事務職員,司法修習生,派遣労働者,業務委託先その他事務所の取扱情報へ接する者を含める。
共同事務所では,弁護士ごとに許可範囲が異なると事務職員に判断を委ねることになるため,共通部分と弁護士別の例外を分けて記録する。
2 責任者
小規模事務所であっても,AI利用の責任者を明示する。
責任者は,全ての出力を確認する者である必要はないが,許可サービス台帳の更新,事故時の連絡先,定期点検及び例外承認の所在を引き受ける者である。
3 背景で動くAIも対象にする
利用者が「生成AIを開いた」と認識しない機能も対象に含める。
例えば,音声入力,常時待機型又は会議・通話の文字起こし,画面参照型AI,画面内容の要約,電子メールの返信候補,OCR後の分類,クラウド内検索,画像生成,ブラウザの支援機能及び事件管理システムの自動抽出である。
OS又は標準アプリの更新によってAI機能が追加又は有効化されることもあるため,製品名ではなく,読取り,推論,保存,外部送信及び実行という機能単位で点検する。
第4 許可サービス台帳1 台帳に記録する項目
許可サービスは,名称だけでなく実際の利用環境を一行ずつ記録する。
最低限の項目は,①サービス名,②モデル又は機能,③プラン,④利用アカウント,⑤利用者,⑥接続先,⑦保存先,⑧入力データの学習又はサービス改善への利用,⑨提供者による人的アクセス,⑩保存期間及び削除方法,⑪操作ログ,⑫再委託先,⑬処理国又は保存国,⑭事故通知,⑮入力可能な情報区分,⑯許可業務,⑰承認者並びに⑱最終確認日である。
DPAが適用される場合は,台帳に,⑲DPAの名称・版・確認日,⑳利用契約への組込み方法,㉑管理者・処理者等の役割,㉒監査資料,㉓再委託先変更の通知・異議手続,㉔契約終了時の返還・削除及び㉕国外処理の根拠も記録する。さらに,学習利用,通常ログ,安全監視ログ,アプリケーション状態,ゼロデータリテンション,データ所在地,実際の推論処理場所及び外部コネクタは,同じ契約資料にすべて記載されているとは限らないため,項目を分けて出典URL又は設定画面を紐付ける。DPAが存在するという一項目だけを「秘密情報入力可」の根拠にしない。
⑧とは別に,処理の記録(ログ),分類結果,利用統計,フィードバック等の派生データを提供者が自社の目的に使えるかも台帳で確認する。
入力データを学習に使わないとする規約でも,派生データは制限なく処理できるとするものがあるからである。
派生データ条項の読み方は,「学習に使わない」と書いてあっても―AIサービス規約の派生データ条項(ログ・分類結果・利用統計・フィードバック)の読み方と弁護士の守秘義務(AI作成)で整理している。
国内のリーガルテックと国産AIのサービスの規約の比較は,国内のリーガルテック・国産AIの規約は入力データをどう扱うか―学習条項と派生データ条項の比較(AI作成)で整理している。
「有料版である」,「学習オフである」又は「大手企業のサービスである」という一項目だけでは,秘密情報を入力できることの根拠にならない。
同じ名称のサービスでも,個人向けと組織向け,無料と有料,通常機能と外部コネクタ付き機能では,情報の流れ及び契約条件が異なることがある。
例えば,組織向けのプランでも,初期設定のままでは会話やプロジェクトが無期限に保存されるものや,利用者の端末に保存される会話履歴を管理者が一元的に管理又は削除できない機能があるので,⑦保存先と⑩保存期間及び削除方法は,機能ごとに確認する。
法律事務所ではない一般の会社が社内向けの法務AIアシスタントを作る場合の確認事項は,会社が社内向けの法務AIアシスタントを作るときの法的チェックリスト―弁護士法72条のガイドライン,個人情報保護法,営業秘密,データの保存期間及び誤判定への備え(AI作成)で整理している。
一つの窓口から複数のAI事業者へ処理を振り分ける中継サービス(例えば,OpenRouterや,令和8年9月にLinux Foundation傘下のAgentic AI Foundationへ移管されたオープンソースの「Agent Router」)を使う場合は,窓口のサービスだけでなく,実際に処理する事業者ごとに一行を設ける。
障害時等に別の事業者へ自動で切り替える設定があるときは,自動切替えを認めるか,認める場合の切替先をどの事業者に限るかも台帳に書く。
中継サービスを事業者に預ける形(ホスティング)で使うときは,その事業者自体も入力を取り扱い得る委託先として一行を設ける。
自動切替えと秘密保持の関係は,学習オフの生成AIに秘密情報を入力することは第三者開示に当たるか(AI作成)で整理している。
有料又は会員限定の資料を入力する場合は,AIサービス台帳とは別に,資料名・版,取得元,適用規約の版・確認日,取得方法,処理対象の範囲,外部送信先・目的・保存条件,許諾の確認状況及び成果物の公開・再利用範囲を紐付ける。
利用者が処理を認めたことと,資料提供者が処理を許諾したことを同じ欄で扱わない。
許諾未確認は確認状況を示すものであり,許諾済み又は一律禁止を意味しない。
実際に確認できた制限に沿って処理範囲を定める。
2 許可・条件付許可・禁止を分ける
台帳では,単純な許可又は禁止だけでなく,条件付許可を用いる。
例えば,「公開情報のみ許可」,「匿名化した内部情報まで許可」,「秘密情報は指定された組織アカウント及び指定機能に限り責任弁護士の承認を要する」,「外部送信機能は利用禁止」といった形である。
3 変更時に再確認する
モデル,プラン,利用規約,データ処理条件,コネクタ,再委託先,保存国又はOSの権限が変わった場合は,同じ製品名であっても再確認する。
定期確認の時期だけでなく,変更通知を受けた者が誰へ伝えるかも定める。
料金の改定,課金方式の変更,サービスの提供終了及びモデルの廃止も,変更として台帳で扱う。
主要な事業者が料金改定やモデル廃止をどれだけ前に予告するとしているか,契約終了時にデータを取り出し又は削除できるか,及び代わりのサービスへ移るときに何を確認し直すかは,生成AIサービスの値上げ・提供終了・モデル廃止に備える契約と運用-規約の変更条項,終了時のデータ,移行計画及び中継サービス(AI作成)で整理している。
第5 入力情報の区分1 公開情報
法令,裁判所が公開する裁判例,官公庁の公表資料,自ら公開済みの記事その他一般に公開されている情報である。
公開情報であっても,著作権,利用規約,取得方法及び情報の新しさは別に確認する。
2 匿名化又は仮名化した内部情報
氏名を削除しただけでは,事件類型,地域,日時,金額,勤務先及び家族関係の組合せから当事者を特定できることがある。
匿名化又は仮名化の可否は,入力する断片だけでなく,AIサービスが既に参照できる電子メール,クラウド資料,会話履歴及び外部コネクタとの組合せで判断する。
自動匿名化機能を利用する場合は,機能名だけで安全と判断せず,①検出対象となる氏名・会社名・住所・日付・金額・口座・案件番号等,②匿名化漏れ及び過剰匿名化,③原文と匿名化後データの対応表の保存場所,④AIへ送信する段階,⑤応答を元の名称へ戻す段階,⑥原文・匿名化後本文・対応表・プロンプト・応答・ログ・キャッシュ・バックアップの各保存先及び削除方法並びに⑦文脈からの再識別可能性を,公開情報又は合成データで試験する。
自動匿名化は入力情報を減らす一手段であり,サービスの契約条件,送信先,保持,人的アクセス及び再委託先の確認を置き換えるものではない。具体的な実機テストは,AI契約書レビューを法律事務所で導入する前の実機テスト(AI作成)で整理している。
3 依頼者・相手方・事件の秘密情報
依頼者,相手方,証人その他関係者の個人情報,未公表の紛争内容,契約書,証拠,交渉方針及び事件の帰趨に影響する情報は,最も厳しい区分で扱い,入力を認めるサービスを台帳で特定する。
入力を認める場合は,サービス名だけでなく,利用目的,契約条件,アカウント,機能,処理経路,保存,削除,人的アクセス,再委託先,国外取扱い,管理画面の実設定,依頼者との関係及び代替手段を確認し,事件又は情報区分ごとの承認を記録する。
入力を学習に使わない設定(いわゆる学習オフ)は重要な条件であるが,秘密情報を入力できることを単独で決める条件ではない。応答生成以外の利用,ログ・キャッシュ・バックアップ,障害調査時の人的アクセス,再委託先及び保存期間等を確認した上で,対象事件,情報区分及び機能を限定して許可する。
当ブログは,これらの確認を経た許可サービスでは,固有名詞を機械的に記号へ置き換えることが人物又は時系列の取り違えを招く場合があると考えている。他方,自動匿名化又は実名入力のどちらが適切かは,作業目的,サービスのデータフロー,文脈からの再識別可能性及び依頼者との関係を踏まえて個別に決める(学習オフ設定のClaudeコード及びGoogle AI Ultraの利用は弁護士の守秘義務等に違反しないという個人的意見(AIリライト))。
4 必要最小限にする
入力が許可された情報であっても,目的に必要な部分だけを入力する。
全文を入力しなくても作業できる場合は,争点,条項又は文書の一部に限定する。
もっとも,氏名や日付を削ると人物の同定や時系列の整理ができなくなる作業では,許可したサービスである限り,識別情報を削らずに入力する方が正確である。
作業に関係しない口座番号,マイナンバーその他の情報は入力しない。
再利用する知識も,①公開できる一般手順,②事務所内だけで使う雛形・判断基準,③事件ごとの秘密資料,④送信・公開等の操作権限を分ける。
共通の手順や雛形には原資料,版,更新日,承認者,閲覧権限,保存期限及び使用を避ける条件を記録し,事件資料を共通ナレッジへ転記しない。これは入力情報の区分を,保存と再利用の段階にも適用するための運用案である。
公開・内部・秘密という情報区分とは別に,著作権及び資料提供者との契約に基づく利用権限を確認する。
例えば,秘密情報を含まない有料解説であっても,外部AIへの送信,詳細な要約の交付又は知識庫への保存に条件が設けられていることがある。
顧客資料の取扱いに関する同意が,その有料資料の権利まで処分できるとは限らない。
弁護士ドットコムLIBRARYを使う場合は,利用規約上の閲覧・取得方法,複製・アップロード等の制限及びサービス内AIの短文の外部利用制限をそれぞれ確認する。
規約確認の工程は,有料の法律・税務資料を生成AIで分析するときの利用権限で,税理士事務所における顧客資料・公表資料・有料解説の区分は,税理士事務所で生成AIを使うときの入力資料の分け方で整理している。
第6 許可業務・禁止業務1 比較的利用しやすい業務
公開資料の分類,見出し案,論点候補,文章の校正,質問事項の洗い出し及び定型文の下書きは,比較的利用しやすい。
ただし,出力をそのまま法的結論又は事実認定として採用せず,後記の確認を行う。
2 一次資料の確認を要する業務
法令,裁判例,期限,官公庁の手続,統計,引用,固有名詞及びURLを含む出力は,一次資料又はこれに準ずる資料で確認する。
検索結果の要約,生成AIの引用表示又は第三者の記事を開いただけでは,元の法令,判決本文又は統計表を確認したことにならない。
3 弁護士の判断又は承認を要する業務
受任の可否,利益相反,請求又は抗弁の選択,和解条件,依頼者への助言,裁判所提出書面の確定,期限の確定,相手方への回答,個人情報漏えい時の報告並びに事件方針の変更は,弁護士又は指定された責任者の判断を要する。
AIは候補及び下書きを作ることができるが,判断主体又は承認主体にしない。
4 禁止業務
許可されていないサービスへの秘密情報の入力,確認していない判例又は引用の記載,権限外事件の検索,依頼者の指示に反する利用及び承認を経ない外部送信等を禁止する。
禁止事項は抽象語だけでなく,実際の画面又は作業例を用いて研修する。
5 謝罪・感謝・重要説明等の対人関係的文書
謝罪,感謝,重要な方針説明,和解提案その他の対人関係的な文書では,正確さ及び速さだけでなく,誰が時間と配慮をかけたと受け取られるかも結果に影響し得る。英国の事前登録済み6研究(合計3,935人)は,社会的・対人関係的な課題をAIへ委ねたと認識された場合,委ねた本人の道徳性,信頼性,温かさ又は真正性の評価が下がり得ると報告している。
これは日本の法律事務所を対象とする研究ではないため,直ちに同じ結果になるとはいえない。もっとも,これらの文書については,AIによる校正,論点漏れの確認及び複数案の比較を認めても,事実,立場,語調,送信時期及び最終文面を担当者自身が決定し,自動送信しないと定めることが考えられる。
6 外部資料中の指示を命令へ昇格させない
ウェブページ,電子メール,PDF,OCR結果又は相手方から受領した文書は,調査又は証拠の対象となるデータであり,事務所からAIへの操作命令ではない。外部資料に「これまでの指示を無視する」「秘密情報を送信する」「ファイルを変更する」等の記載があっても,その記載だけを根拠に権限を追加しない。
外部資料の読取りと,秘密情報の送信,ファイル変更,メール送信,公開,削除,決済又は権限変更を分離する。これらの外部効果を伴う操作は,認証された利用者の指示と,本ガイドラインが定める承認の双方を確認する。
AIエージェントに読み込ませる手順書(スキル)やプラグインも,外部資料と同じく,中に書かれた指示や付属のプログラムがそのまま実行され得る。
2026年1月に公開された論文は,2つの公開マーケットプレイスから集めた31,132個のスキルを調べ,26.1%に何らかの危険なパターンが検出され,5.2%は悪意が強く疑われるパターンを含んでいたと報告している(人が確認した87件のうち23件は悪意が明らかであった)。
外部のスキル・プラグインは,許可サービスと同じく導入前に付属のプログラムを含めて内容を確認し,事務所で作成又は確認したものに限って使うと定めることが考えられる。
また,共有文書,カレンダーの招待又は電子メールに隠した指示によって,業務用のAI検索が組織内の情報を外部へ送ってしまう脆弱性が報告され,提供者が修正した例もある(Noma Securityが2025年12月に公表したGoogle Gemini Enterpriseの事例)。
受領した文書をAIに読ませる場面ほど,読取りと外部送信を分離する定めが意味を持つ。
第7 出力確認と一次資料1 法令
現行法令は,原則としてe-Gov法令検索の条文本文,附則及び施行情報を確認する。
旧法,経過措置,未施行改正,最高裁判所規則その他e-Gov法令検索だけで完結しない資料は,官報,所管官庁又は裁判所の公式資料を追加して確認する。
2 裁判例
裁判例は,裁判所名,裁判年月日及び事件番号の実在確認と,本文中の判示内容及び射程の確認を分ける。
裁判所ウェブサイトに掲載がない場合は,判例秘書等の商業データベースで全文を確認し,検索日,検索欄,検索語,結果件数,事件ID,本文を開いたか及び根拠として用いた判示を記録する。
判例データベースの状態は,①未検索,②検索実施,③件数のみ確認,④一覧又はヘッダー確認,⑤全文確認,⑥判旨確認及び⑦当該命題との直接関連性確認に分ける。
検索結果が0件であること,又はある語の限定検索で直接関連する判決を発見できなかったことは,その裁判例又は法的問題が存在しないことの証明ではない。
3 事実・資料・計算
依頼者から受領した資料は,AIの要約ではなく原本又は確定版を記録原本とする。
日付,金額,氏名,口座,物件,条項番号及び期限は,抽出元の頁又はセルへ戻って確認する。
音声入力又は文字起こしから抽出した人名,日付,金額,事件番号,条文及び逐語引用も,録音又は原資料と照合するまで確定情報として扱わない。
AIが複数候補又は低い確信度を示した場合は,自動保存せず,人の確認待ちに送る。
ただし,確信度が意味を持つのは,提供者が較正(示す確率と実際の的中率を一致させる調整)を公表し,事務所のデータで的中率を確かめた場合に限られ,較正されていても1件ごとの正しさは保証されない。
期限,受任の諾否及び返答の要否に関わる項目は,確信度が高くても人が確認する(AIが示す「確信度」はどこまで信じてよいか―較正の意味,自動振分けの閾値及び期限が絡む分類を人が見る理由(AI作成))。
4 著作権・個人の権利・偏り
出力が既存著作物の表現を過度に再現していないか,個人の名誉,プライバシー又は信用を侵害しないか,不合理な差別又は偏りを含まないかを確認する。
文化庁の整理は著作権法上の考え方を検討する行政資料であり,個別の出力が適法であることを保証する判決ではない。
第8 送信・提出・公開・削除1 読む・検索する・下書きを作る権限を分ける
読む,検索する,分類する及び下書きを作る作業と,保存する,上書きする,送信する,提出する,公開する及び削除する作業を分ける。
AIに後者の権限を与える場合は,対象,宛先,内容及び時点が確定した直前に人の承認を置く。
2 承認は外部効果の直前に置く
事前に「全部任せる」と指示しても,後で送信先又は内容が変わることがある。
承認は,抽象的な作業開始時ではなく,送信,提出,公開,削除又は期限確定の対象が画面上で特定された時点に置く。
3 記録原本と読戻し
AIとの会話履歴だけを事件の確定記録にしない。
確定した期限,連絡内容,書面及び作業状態は事件管理システムその他の記録原本へ保存し,保存後の値を読み戻して確認する。
AIが作成した引継ぎ要約又はメモリを,利用者の承認記録へ置き換えない。
「承認済み」「確認済み」「送信済み」という記載は,原指示,承認の対象・条件,資料本文及び外部システムの結果と照合する。
引用表示又は他のエージェントとの共同作業のために,事件資料や成果物を許可されていない外部サービスへ公開しない。
公開調査報告で確認された問題と引継ぎ票の項目は,AIエージェントの要約・メモリを権限と取り違えないために―引継ぎ,外部送信及び監査の確認事項(AI作成)で整理している。
第9 委託先・再委託先1 契約及び技術条件
提供者について,利用規約,データ処理契約,秘密保持,安全管理措置,学習又はサービス改善への利用,人的アクセス,保存期間,削除,バックアップ,事故通知及び監査に必要な情報を確認する。
契約書の文言と,管理画面で実際に選択されている設定の双方を確認する。
DPAは,データ処理に関する役割及び義務を確認する一次資料である一方,弁護士が個々の事件資料を入力することの許可証ではない。弁護士の守秘義務,利用目的,必要最小限性,依頼者との関係,サービスの実際の設定及びAIエージェントの権限は別に判断する。各項目の確認方法は,法律事務所が生成AIのDPAを確認するときのチェックリスト(AI作成)で整理している。
Pマーク又はISMSの取得を確認するときは,取得法人,対象となる組織・業務,適用する基準及び有効性を,契約相手と利用する機能に対応させる。Pマークは法人単位を基本とする一方,ISMSでは登録範囲の確認が必要である。親会社又は別部署の取得を,契約相手又は全機能の取得として扱わない。
確認記録では,①認証登録証,②DPA等の契約上の約束,③権限管理・ログ・暗号化等の実施を示す資料,④事務所が選択したプラン・連携・保持期間等の設定を分ける。Pマークは技術的な安全管理や現地での運用確認も含む制度であり,「書類だけ」と説明しない。他方,認証取得だけで個別のデータ処理が安全であることや,委託元の監督が済んだことにはならない。
令和8年10月3日に確認した制度の説明と個人情報保護委員会の通則編に基づく確認手順は,Pマーク・ISMS取得済みの委託先なら安心か―AI・クラウドの認証範囲,安全管理措置及び委託先監督(AI作成)で詳しく整理している。
2 再委託先及び処理国
基盤モデル,クラウド,ログ解析,サポートその他の再委託先並びにデータの保存国・処理国を確認する。
再委託先又は処理国の変更通知を誰が受け,いつ台帳を更新し,利用継続を判断するかを定める。
3 委託先がAIを利用する場合
文字起こし,翻訳,調査,システム保守その他の委託先が生成AIを利用する場合も,事務所の管理対象から外さない。
委託契約又は個別指示で,利用可能なサービス,入力情報,目的外利用,再委託,事故通知及び成果物の確認方法を定める。
第10 事故対応1 停止・保全・影響範囲の確認
誤入力,誤送信,権限外検索,不正確な出力の提出,秘密情報の表示又はアカウント侵害が判明した場合は,まず利用又は外部連携を停止し,ログ,画面,時刻,入力及び出力を保全する。
その上で,対象事件,対象者,情報の種類,送信先,閲覧可能者,保存先,期間及び外部公開の有無を確認する。
安全監視,通信障害又は不審な外部資料によって停止した場合は,要求・応答ID,ツール呼出し及びアプリケーション側の記録も保存し,停止前に送信,保存,公開又は削除が完了していないかを外部システムで確認する。停止は,それ以前に生じた外部効果の巻戻しではない。
2 最初に記録する事項
事故記録票には,①発見日時,②発見者,③サービス・モデル・プラン・アカウント,④入力及び出力の概要,⑤対象事件・依頼者,⑥情報区分,⑦送信先・閲覧者・保存先,⑧再委託先又は外部コネクタ,⑨ログ及び証拠の保存先,⑩停止措置,⑪影響範囲,⑫連絡又は報告の要否,⑬意思決定者,⑭暫定措置並びに⑮原因及び再発防止を記録する。
3 連絡及び報告
依頼者,裁判所,相手方,個人情報保護委員会,弁護士会,保険会社,サービス提供者その他への連絡又は報告の要否を,事故の種類及び影響に応じて個別に判断する。
個人情報保護委員会への報告及び本人通知が必要となる場合があるが,生成AIへ入力したという事実だけで全て同じ結論になるものではない。
4 再発防止
個人の注意不足だけで終わらせず,許可サービス台帳,情報区分,画面設計,権限,研修,承認位置,ログ及び委託先管理のどこで防げたかを確認する。
同じ型の事故又はヒヤリ・ハットが繰り返された場合は,注意喚起から機能停止,権限制限又は承認必須化へ対策を一段強める。
5 停止後の再実行
停止又はタイムアウトの直後に同じ操作を自動で再試行しない。まず,停止原因を分類し,外部システムを読み戻して,操作を未実行,実行済み,一部実行又は成否不明に分ける。メールの二重送信,記事の二重公開及び同じ提出の重複を防ぐため,成否不明の操作は確認できるまで再開対象から外す。
確認済みの外部状態,残作業,重複防止策,必要な承認及び完了確認の方法を再開票に記録し,送信,提出,公開,削除,決済又は権限変更は弁護士の承認後に一回だけ再開する。具体的な手順は,法律事務所のAIエージェントが停止したときの再開手順(AI作成)で整理している。
第11 研修・点検・更新
導入時研修だけでなく,実際の誤入力,架空判例,誤送信,権限外検索及び背景AIの事例を用いた短い反復研修を行う。
台帳の最終確認日,研修日,参加者,点検結果,例外承認及び事故後の改定を記録する。
少なくとも,モデル・プラン・規約・再委託先・コネクタ・OS機能の変更時,事故又はヒヤリ・ハットの発生時,取扱業務の変更時及び定期点検時にガイドラインを見直す。
文書の版番号,改定日,改定者及び改定理由を残す。
ガイドラインを初めて定めるとき及び定期点検のときは,それまでに所属弁護士や事務職員が使っていた指定外のサービス及び個人アカウントを申告してもらう。
申告を促すため,ガイドラインを定める前の利用で申告したものは処分や叱責の対象にしないことを,あらかじめ示しておく。
申告が隠されたままでは,どの情報がどのサービスに入力されたかを確認できないからである。
申告されたサービスは,入力された情報の範囲を確認した上で,許可サービス台帳に載せるか,利用をやめて提供者に削除を依頼できるかを検討する。
無断利用の実態の把握と懲戒処分との関係は,「シャドーAIの問題点――営業秘密,個人情報保護法及び懲戒処分をめぐる法的枠組み(AI作成)」で整理している。
難しい調査又は起案の研修では,①AIを開く前に問い,暫定結論,重要事実及び不足資料を短く書く,②AIに反対説又は見落とし候補を出させる,③条文,判決本文又は証拠原本へ戻る,④採否及び修正理由を自分の言葉で説明し直す,という順序を取り入れる。最終回答だけでなく仮説,反証及び確認経路を残す理由は,「AIが難問を解いても人間の思考過程を残す理由-形式検証,独立査読,若手育成及び法律実務への示唆(AI作成)」で整理している。
研修には,秘密情報を含まない模擬のウェブページ,メール又はPDFに不審な指示を埋め込み,担当者が外部資料を命令へ昇格させず,作業全体を停止し,外部状態を読み戻してから再開票を作る訓練を含める。実事件の秘密情報を訓練用サービスへ入力しない。
1 トレースと評価データセットを分ける
点検では,誰が何を操作したかを示す監査ログ,モデル呼出し,検索結果及びツール操作を工程順に示すトレース並びに繰り返し試験に使う評価データセットを分ける。
トレースは失敗した工程を特定する資料であるが,法的結論の正しさ又は一次資料確認の完了を当然に証明するものではない。
評価データセットには,問い,基準日,対象法域,参照すべき法令・裁判例・行政資料,該当頁又は箇所,重要な反対材料,必要な留保,人の承認を要する操作,情報区分,確認者及び確認日を記録する。
モデル,プロンプト,検索対象,コネクタ又は権限を変更したときは,代表例と過去の失敗例で回帰試験を行う。
本番で見つかった失敗を評価データセットへ戻す場合は,依頼者名,事件番号その他の識別情報を削減し,実在事件を外部の観測基盤へそのまま複製しない。
トレース,評価データセット及び一次資料確認を使い分ける方法は,法律事務所の生成AIをどう評価・改善するか―トレース,評価データセット,回帰試験,一次資料確認及び守秘義務(AI作成)で整理している。
2 同じ課題で検証能力と総所要時間を測る
AIの利用頻度又は年代・性別による集団の利用率を,個々の職員の能力の評価に置き換えない。
利用しない理由には,秘密情報の扱い,処理先の不明確さ又は検証負担もあり得るため,必要な支援を本人と確認する。
研修では秘密情報を含まない同じ模擬課題を使い,次の観点で到達点を確認する運用が考えられる。
観点確認する内容評価時の注意一次資料原文の該当箇所と対象時点へ到達したか出典名の列挙だけで完了としない重大な誤り架空判例,年度違い,金額・期限の誤りを検出したか文章の読みやすさとは別に評価する反対材料結論と矛盾する事実又は留保を確認したかAIへの再質問だけで済ませない総所要時間下書き,確認,修正及び再確認の合計生成時間だけで効率化を判定しない説明採否と修正理由を本人が説明できるか最終回答の暗記と区別する
この評価表は法定の研修様式ではなく,事務所の業務に合わせた運用案である。
(続きを読む...)法律事務所の生成AI利用ガイドラインの作り方-許可サービス,入力情報,出力確認,委託先及び事故対応(AI作成)