メインコンテンツへスキップ
       

法律事務所がAIエージェントに専用PCを与えるときの安全設計-全権委任,承認疲れ,最小権限及び敬語の限界(AI作成)

生成AIに一つずつ操作を確認させる方法は安全に見えるが,確認が多すぎると,人が内容を読まずに承認したり,確認を避けるために広い権限を一括して与えたりする危険がある。
AIエージェントへ専用のノートパソコンを与える方法も,適切に設計すれば被害範囲を限定できる一方,端末に全案件のデータ,管理者権限,無制限のネットワーク及び本番用の認証情報を与えれば,安全な隔離にはならない。

本記事は,法律事務所がAIエージェント用の専用PCを設ける場合に,どこまで自動実行を許し,どの操作を弁護士の承認へ戻すべきかを整理するものである。

第1 この記事の対象と結論

結論として,AIエージェントへの権限は,「全権委任するか,全操作を承認するか」という二者択一にしてはならない。
対象データ,利用可能なシステム,操作の種類及び外部への効果ごとに権限を分け,低危険度の読取り,検索及び下書きは自動化しつつ,送信,提出,公開,削除,決済及び権限変更は弁護士の承認へ戻す設計が考えられる。

発想の起点は,三雲崇正氏のX投稿である。
同投稿は,個々の操作確認が面倒になり,ChatGPTとClaudeにそれぞれノートパソコンを与えて全権委任し,敬語で話しかけるようにしたという趣旨のユーモアを含む体験談である。

X投稿は,投稿者がそのように述べたことの原資料であり,承認疲れ,専用PC及び敬語という論点を発見する資料にはなる。
しかし,専用PCの安全性,敬語による事故防止又は法律上の義務を証明する資料ではない。

第2 承認疲れから全権委任へ移る危険

人による承認は,対象,操作及び影響を理解して判断する場合に意味がある。
低危険度の操作を含めて何度も承認を求めると,承認が定型動作となり,重要な操作と軽微な操作の区別が失われやすい。

Anthropicは,自社製品の権限確認について,確認回数が多いことによる承認疲れと,確認を省略した場合の危険の双方を挙げ,サンドボックスを用いて通常の操作範囲をあらかじめ限定する方法を説明している。
OpenAIも,Codexの安全設計として,書込み可能範囲,ネットワーク接続,資格情報及び高危険度操作の承認を別々の境界として説明している。

これらは,各社が自社製品の設計及び想定する脅威を説明したベンダー一次資料である。
法律事務所における安全性が独立に実証されたこと,又は日本法上の義務内容を直接示すものではない。

実務では,全操作の確認を増やすのではなく,①外部へ効果が生じる,②秘密情報が管理境界を越える,③失敗後の回復が困難である,④弁護士又は依頼者の名義が表示される,という操作に承認を集中させることが考えられる。

第3 専用PCが安全境界になる条件

1 専用PCだけでは足りない

専用PCは,他の業務端末とデータ及び権限を分けるための物理的な器になり得る。
もっとも,専用PCから事務所全体の共有ドライブ,全依頼者の事件記録,メール,WordPress,裁判所の電子提出システム及び決済手段へ接続できるなら,一台にまとめたこと自体は最小権限を意味しない。

また,AIごとに端末を分けても,同じクラウドアカウント,APIキー,ブラウザープロファイル又は共有フォルダを使えば,端末間の論理的な境界は弱くなる。
専用PCの有無ではなく,そのPCから何が見え,何を変更でき,どこへ送信できるかを確認する必要がある。

2 端末,アカウント及びネットワークを分ける

専用PCを安全境界として使う場合,少なくとも次の措置が考えられる。

①案件又は業務群ごとにOSユーザー及び作業フォルダを分けること
②通常は管理者権限を与えないこと
③書込み可能な範囲を指定された作業フォルダに限定すること
④事務所全体の共有ドライブ及び個人用クラウド同期を既定で接続しないこと
⑤外部ネットワークは業務上必要な接続先に限定すること
⑥ブラウザー,メール及びクラウドのアカウントを用途別に分けること
⑦AIが変更できない場所に操作ログとバックアップを残すこと

このうち,端末を分けることは物理的措置,権限・ネットワーク・認証の制限は技術的措置,利用ルールと承認経路は組織的措置,弁護士及び事務職員の教育は人的措置に対応する。

3 資格情報を常置しない

メール送信,裁判所提出,WordPress公開,オンラインバンキング,決済及び権限管理に使う資格情報をAIエージェントの端末へ常置すると,誤操作又は外部資料に埋め込まれた指示が直ちに外部行為へつながり得る。

高危険度の資格情報は,必要な操作,対象及び時間を限定して人が付与し,操作後に失効させる方法が考えられる。
「ログインできる」と「その操作を行う権限がある」は別であり,保存済みの認証情報があることを包括的な承認に読み替えない。

第4 弁護士情報セキュリティ規程との関係

1 弁護士が情報の責任者である

日本弁護士連合会の弁護士情報セキュリティ規程4条1項は,弁護士等を自らの業務に係る取扱情報の情報セキュリティの責任者とし,必要な管理体制並びに組織的,人的,物理的及び技術的な安全管理措置を求めている。

AIエージェントに専用PCを与えても,情報管理の責任がAIへ移るわけではない。
同規程5条は,情報の作成・取得,保管・利用,提供,運搬・送信及び廃棄の各段階を対象とするから,AIが読む場面だけでなく,保存,上書き,外部送信及び削除も管理対象になる。

2 基本的な取扱方法に書く事項

同規程3条2項は,事務所の規模及び業務の種類・態様等に応じて,情報セキュリティを確保するための基本的な取扱方法を定めることを求める。
AIエージェントを利用する場合には,入力してよい情報とサービス名だけでなく,①利用アカウント,②参照可能な案件資料,③接続可能な外部サービス,④書込み可能な場所,⑤人の承認を要する操作,⑥ログ,⑦停止及び復旧の方法まで定めることが考えられる。

これらの具体的項目は,会規がAIエージェントについて明文で列挙する義務ではなく,会規の安全管理義務を現在の業務へ落とし込むための実務上の提案である。

3 AIは事務職員と同じ責任主体ではない

弁護士職務基本規程19条は,事務職員,司法修習生その他の自らの職務に関与させた者に対する指導監督を定める。
AIは人ではないため,AI自体が同条の直接の対象になるとは確認できない。

他方,事務職員にAIを使わせる場合は,事務職員が19条の対象であり,AIへ入力してよい情報,利用可能なサービス及び外部操作の限界を指導監督する必要がある。
AIを人間の従業員にたとえることは作業分担の理解には役立つが,AIに守秘義務又は懲戒責任が移ることを意味しない。

第5 操作ごとの権限と承認

操作原則主な条件
公開資料の検索・閲覧自動実行可接続先を公的又は承認済みサイトに限定し,出典と取得日を記録する。
案件資料の読取り条件付き承認済み環境,必要最小限の資料及び案件単位のアクセス制御を用いる。
要約・論点抽出・下書き自動実行可外部送信を伴わず,事実,資料の記載及び推論を分ける。
ローカル保存・上書き条件付き専用フォルダ,版管理,バックアップ及び復元可能性を確保する。
メール・チャット送信人の承認宛先,本文,添付,秘密情報及び送信アカウントを確認する。
裁判所・行政機関への提出人の承認最終版,提出先,期限,名義及び添付資料を確認する。
ウェブサイトへの公開人の承認対象記事,公開状態,本文及び公開後の表示を確認する。
削除・廃棄個別の明示承認対象,復元手段,保存義務及び証拠保全を確認する。
決済・契約・権限変更原則禁止又は一回限りの承認金額,相手方,権限範囲及び取消可能性を確認する。

同じAIエージェントでも,公開資料の検索は自動で進め,依頼者情報の外部入力,裁判所提出又は公開の直前に停止するという設計ができる。
肩書又は端末単位で「全部許可」とするのではなく,操作ごとに権限を付ける方が,承認者も判断しやすい。

第6 秘密情報,個人情報及び外部資料

弁護士法23条は,弁護士又は弁護士であった者の秘密保持の権利及び義務を定める。
AIサービスへ事件情報を入力する場合は,利用目的,必要性,契約,学習利用,保持・削除,再委託,人的アクセス及び実際の設定を確認する必要がある。

個人情報保護委員会の注意喚起は,個人情報の入力が利用目的の範囲内であること及び入力した個人データが応答以外の目的で取り扱われないこと等を確認するよう求めている。
これは個人情報保護法上の公的注意喚起であり,弁護士の守秘義務を尽くしたことの十分条件ではない。

AIエージェントは,ウェブページ,電子メール,PDF又は検索対象資料に埋め込まれた指示を,作業指示と誤認することがある。
外部資料を読む権限と,秘密情報を外へ送る権限又はファイルを変更する権限を同時に与えないことが重要である。

第7 敬語は安全対策になるか

Yinほかの多言語実証研究は,無礼なプロンプトでは性能が低下する傾向がある一方,過度に丁寧な表現が常に良い性能を保証せず,適切な丁寧さが言語によって異なると報告している。

この研究から言えるのは,丁寧さが研究で用いられた課題の出力性能に影響し得るという点までである。
敬語によってAIが裏切らなくなること,権限逸脱が減ること,秘密漏えい又は誤送信を防げることは検証されていない。

敬語は,利用者が冷静で明確な指示を書くためのコミュニケーション習慣として利用できる。
しかし,安全性は,最小権限,サンドボックス,接続先制限,資格情報の分離,承認,ログ及び復旧手段によって確保する必要がある。

第8 案件ごとのAI作業許可票

専用PC又はAIエージェントへ作業を開始させる前に,案件又は作業ごとに次の事項を短く固定する方法が考えられる。

①目的と成果物
②対象案件及び基準時
③参照可能な資料と入力禁止情報
④利用可能なアカウント,システム及び接続先
⑤許可する読取り・書込み操作
⑥禁止する操作
⑦人の承認を要する操作
⑧一次資料照合,保存後確認その他の検証方法
⑨ログ,保存期間及び削除方法
⑩異常時の停止・報告条件
⑪完了の証拠

この許可票は,AIを人格的に信頼するためのものではなく,誤作動しても被害を限定し,後から発見・復旧できる境界を作るためのものである。

第9 事故に備えたログ,停止及び復旧

操作ログには,少なくとも,実行日時,利用アカウント,参照した情報,呼び出したツール,送信先,変更対象,承認者及び結果を残すことが考えられる。
ログをAI自身が変更できる場所だけに置くと,誤操作又は侵害時に検証できなくなるため,別の管理境界に保存する。

異常を検知した場合は,個々の経路を閉じるだけでなく,作業全体を停止する責任者と条件を決めておく。
復旧のためには,ファイルの版管理,定期バックアップ,資格情報の失効手順,外部送信の追跡及び影響を受けた案件の特定が必要になる。

日本弁護士連合会の弁護士情報セキュリティ規程7条も,漏えい,滅失又は毀損等の事故について,影響範囲の把握,被害拡大防止,原因調査及び再発防止策の検討等を求めている。

第10 裁判例の確認状態と本記事の限界

本記事の中心は,会規,公的ガイドライン,ベンダーの技術資料及び原著論文を踏まえた実務上の権限設計である。
AIエージェントへ専用PCを与えた法律事務所の責任又は「承認疲れ」を直接判断した日本の裁判例は,本記事の作成過程では確認できていない。

2026年9月15日には判例秘書のログイン画面まで確認したが,認証済みの判例検索は実行していない。
したがって,ヒット件数は不明であり,「該当判例がない」とは評価しない。

経済産業省・総務省「AI事業者ガイドライン(第1.2版)」は,リスクベース・アプローチ,人間の判断・関与及び入力情報の管理等を示すが,法的拘束力のないソフトローである。
また,本記事の権限表及びAI作業許可票は,法令又は裁判例が定める統一的な様式ではなく,法律事務所向けの実務提案である。

第11 関連記事

複数のAIエージェントに目的,文脈及び作業を分ける方法は,法律事務所のAIエージェント業務設計-目的・コンテキスト・権限・完了条件をどう分けるか(AI作成)で整理している。

情報管理に関する会規全体は,弁護士情報セキュリティ規程とは―全7条の内容,基本的な取扱方法及び漏えい等事故の対応(AI作成)で説明している。

事務職員にAIを使わせる場合の指導監督は,事務職員の生成AI利用と弁護士職務基本規程19条(AI作成)を参照されたい。

共有資格情報,外部通信及び過大な権限が連鎖した事例は,OpenAIの「AI暴走」と700のAIエージェント――2026年7月のHugging Face侵入事件の実態(AI作成)で扱っている。

事件情報を外部AIへ入力する場合の契約・守秘義務上の問題は,学習オフの生成AIに秘密情報を入力することは第三者開示に当たるか(AI作成)を参照されたい。

第12 出典・参考資料

三雲崇正氏のX投稿(論点発見資料)
②日本弁護士連合会「弁護士情報セキュリティ規程」(会規第117号)
③日本弁護士連合会「弁護士職務基本規程」(会規第70号)18条,19条及び23条
e-Gov法令検索「弁護士法」23条
⑤経済産業省・総務省「AI事業者ガイドライン(第1.2版)
⑥個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」(令和5年6月2日)
⑦OpenAI「Running Codex safely at OpenAI
⑧Anthropic「Building a safer Claude Code with sandboxing
⑨Xiaohan Yinほか「Should We Respect LLMs? A Cross-Lingual Study on the Influence of Prompt Politeness on LLM Performance」(SICon 2024)