AI要約を見る
※以下はAIが生成した要約です。内容の正確性は保証されません。本文をあわせてご確認ください。
裁判官が生成AIを使う際には，誤出力や重要事項の脱落に加え，整った出力へ判断が引きずられる自動化バイアス，争点設定や理由形成への影響，機密性及び外部事業者への依存を点検する必要がある。人が最後に確認するだけでなく，原記録と法源へ戻り，独立して判断できる運用が求められる。
「AI時代における民事司法を考える研究会」は一定の透明性の必要性を認める一方で，個々の事件における当事者の同意や関与の範囲について異なる意見を紹介する。主張整理表や時系列表のたたき台，書面の要約及び引継ぎ時の概要の共有には，内部検討資料の性格，争点の拡散及び信頼関係への留保がある。全ての利用で事前同意や全出力の開示を求める結論ではない。
本記事のログ保存，無作為監査及び並行審査は，検証できる運用を具体化するための提案であり，既に一律の法的義務となっているという説明ではない。保存・監査と当事者への開示は別に設計し，ログを残しても出力の完全な再現が保証されない点を踏まえる。
裁判官が生成AIを使う場合、「人間が最後に確認する」という一文だけでは安全条件として不十分である。
整ったAI出力を先に読めば、その後の争点設定、事件選別、証拠評価及び理由形成が無意識に出力へ引きずられる可能性があるからである。
安全な利用には、人間が独立して考える時点、原資料へ戻る経路、AI利用を争い又は訂正できる手続及び後から再現できるログを、作業の危険度に応じて設計する必要がある。
第１ 結論
裁判官による生成AI利用のリスクは、出力の誤りだけではない。
① 出力の脱落、幻覚、偏り及び不安定性
② AI出力が人間の判断を固定する自動化バイアス
③ 事件選別、争点設定及び理由形成へ見えない形で流入する制度的影響
④ 機密性、サービス停止、モデル更新及び外部事業者への依存
⑤ 当事者及び上級審がAI利用の影響を検証しにくい不透明性
安全条件は、AI利用の前、利用中及び利用後に分け、原典接地、独立判断、差分、ログ、当事者の反論機会及び監査を組み合わせるべきである。
第２ 出力そのもののリスク
１ 重要事項の脱落
要約が全体として正しく見えても、勝敗を左右する一つの間接事実又は証拠が落ちることがある。
最高裁側の生成AI検証でも、重要事実及び証拠の拾い漏れが報告された。
２ ハルシネーション及び誤帰属
存在しない裁判例、実在する裁判例への誤った命題の帰属、条番号の誤り及び記録にない事実の補完は、流暢な文章の中に混入し得る。
出典が実在することだけでなく、その箇所が当該命題を実際に支えているかを確認する必要がある。
３ 出力の揺れ
同じ入力及び指示でも出力が変わると、事件ごと又は実行ごとの一貫性を説明できない。
司法利用では、モデル名だけでなく、版、設定、入力、検索資料、システム指示、出力及び実行日時を保存する必要がある。
４ 学習データ及び公開データの偏り
公表裁判例は、和解、取下げ、非公表判決、当事者の全主張及び証拠並びに評議過程を含まない。
選択された過去データだけを学習すれば、過去の偏り及び公表選択を固定する可能性がある。
第３ 自動化バイアス
１ 整った形式が信頼を高めること
表、見出し及び法的用語が整った出力は、内容の正確性とは無関係に信頼されやすい。
商事法務研究会の取りまとめ別添5も、便利であるほどAIの出力だけを見るようになるおそれを記録している（別添5・PDF90頁）。
２ 初期判断の固定
AIが最初に示した争点又は結論は、その後の記録の読み方及び証拠の重要度を方向付ける。
人間が最終ボタンを押しても、判断枠組みがAIによって先に固定されていれば、実質的な独立判断とはいいにくい。
３ 確認作業の形骸化
忙しい裁判官が長いAI出力を原記録まで戻って全面検証すれば、時間削減の効果が失われる。
全面検証しなければ、整った文章を追認する危険が高まる。
したがって、「人間が確認する」という標語ではなく、何を、誰が、どの証拠位置と照合するかを具体化する必要がある。
もっとも、初期の判断が固定され、その後の確認が形だけのものになるという現象は、AIの利用に固有のものではない。
人間の裁判官も、当初に形成した見方に沿って後の資料を整理することがあり、その意味で自動化バイアスは、より一般的な現象がAIの利用場面に現れたものと見ることができる。
したがって、ここで挙げた安全条件は、AIを使うかどうかにかかわらず、判断の過程を点検する枠組みとして読むことができる。
第４ 制度上の位置によって危険度が変わること
１ 弁護士による利用
弁護士のAI出力は、依頼者側の分析又は主張案であり、それ自体が国家判断となるわけではない。
弁護士の確認、相手方の反論及び裁判所の審理という複数の訂正経路がある。
２ 地裁裁判官の争点整理
裁判官の争点整理は、その後の主張立証、証拠調べ及び審理範囲を方向付ける。
当事者との認識共有及び期日続行によって修正できる余地はあるが、初期の見落としが事件全体へ影響する可能性がある。
３ 事件選別及び入口支配
AIが重要事件、先例変更候補又は少数説に立つ事件を定型処理候補へ誤分類すると、実体審理へ進む前に論点が消えるおそれがある。
理由文の誤記より外部からの訂正機会が少ない場合があり、誤った偽陰性を独立して測る必要がある。
４ 終局判断及び理由形成
AI出力が事実認定、法適用、勝敗又は理由へ直接入るほど、不可逆性及び公権力への影響が大きくなる。
危険度は、誤りの可能性だけでなく、判断過程への影響力、不可逆性、不透明性及び外部からの訂正可能性を合わせて評価すべきである。
第５ AI利用前の安全条件
１ 作業を危険度別に分類する
OCR、頁数、証拠番号、重複及びハッシュ等の機械的作業は、人間の先行作業を要求せず、完全性検査を行う。
時系列表、主張整理表及び資料要約は、人間が先に法的枠組み及び重要確認点を設定し、AIの抽出結果を原資料へ戻して検証する。
争点、規範、証拠評価、事件選別、結論及び理由形成は、人間がAIと独立した仮判断を形成した後で、AIを反対仮説又は照合相手として使う。
２ 利用目的及び禁止範囲を定める
要約、照合、反対仮説、文章統合等の目的を分け、信用性判断又は結論の正当化理由をAIに委ねない等の禁止範囲を明示する。
３ 情報区分及び利用環境を確認する
取りまとめによれば、令和8年8月時点の裁判所では、情報セキュリティ上、訴訟記録等の要機密情報をAIシステムへ入力できない状況にある（印字2頁）。
これは現行の情報セキュリティ運用であり、AI利用一般について憲法上の永久的禁止を意味するものではない。
実運用には、アクセス権限、データ保存先、学習利用の有無、委託先、消去、障害時の継続手段及び漏えい時の対応を定める必要がある。
第６ AI利用中の安全条件
１ 原典位置を必須にする
各認定事実には原記録の頁及び証拠番号、各法的命題には条文又は裁判例原文の位置を結び付ける。
引用できない命題又は証拠位置を示せない要約は、判断資料ではなく未検証候補として扱う。
２ 反対仮説を強制する
一つの結論だけでなく、反対結論を支える事実、欠けている証拠、別の法的構成及びモデル間の不一致を表示させる。
３ 変更差分を残す
追加書面の前後、モデル更新の前後及び人間による修正の前後を比較し、どの命題が追加、削除又は弱化されたかを保存する。
４ 当事者の知らない論点を直接採用しない
AIが新たな法的構成又は事実上の疑問を提示した場合、当事者に釈明及び反論の機会を与える必要がある。
AIの提案であることを理由に手続保障を省略することはできない。
第７ AI利用後の安全条件
１ 人間が結論及び理由を引き受ける
人間の裁判官は、AIと異なる結論を選べる状態で、原記録、法源及び当事者の主張を確認し、最終的な理由及び責任を引き受ける必要がある。
２ ログ及び再現環境を保存する
モデル版、入力、出力、参照資料、設定、実行日時、修正履歴及び最終判断との相違を事件記録又は監査記録として保存する。
無通知更新後の別モデルで過去の出力を再現したことにしてはならない。
３ 無作為監査及び並行審査を行う
一部事件について人間単独の並行審査を行い、重大誤り率、見落とし率、取消率、属性別格差、処理時間、修正時間及び当事者の理解を比較する。
なお、ここで述べた監査の設計は、AIの出力を対象とするものであるが、同じ設計は人間の判断にも当てはめることができる。
当事者が提出した主張の一覧と判決の応答箇所を対応させること、同一の法律要件について同一の裁判体が別の事件でどのような判断をしたかを並べること、判決が依拠した数値について当事者間に争いがあったかどうかを示すこと。
いずれも、AIを使うかどうかとは無関係に、判断の質を外から確かめるための項目である。
４ 異議及び訂正の経路を用意する
当事者及び上級審が、AI利用の有無、利用範囲及び判断への影響を確認し、必要な訂正を求められるようにする。
５ 研究会が検討した透明性と当事者の関与
「AI時代における民事司法を考える研究会」の取りまとめは，一定の透明性の必要性を認める一方で，個々の事件で当事者の同意や関与をどこまで求めるかについては，異なる意見を紹介している。
当事者の同意や異議の機会を重視する意見のほか，裁判官が確認することを前提に関与を必須としない意見，審理の序盤に利用方針を協議する意見及び裁判所として利用範囲を公表する意見がある。
したがって，取りまとめが全ての利用について事前同意や全出力の開示を求める結論を示したと読むことはできない。
原典は，取りまとめ第３の２(2)ウ（本文１７～２０頁，PDFの２１～２４枚目）である。
資料の作成主体と全体の論点は，「AI時代における民事司法を考える研究会」取りまとめの要点と限界で説明している。
| 利用場面 | 取りまとめで示された方向と留保 |
|---|---|
| 主張整理表・時系列表のたたき台 | 裁判官が確認した成果物を争点整理の過程で共有する方向を示す。内部検討の手控えとしての性格や，争点が拡散する可能性を踏まえた検討も必要とする。 |
| 期日前に提出された大量の書面の要約 | 裁判所が把握した概要を伝え，認識共有を図る方向を示す。裁判所と当事者の信頼関係等も踏まえた実務上の検討を求める。 |
| 引継ぎ時などの全体像の把握 | 把握した概要を伝えて認識共有を図る方向を示す。従前の審理と信頼関係への配慮も必要とする。 |
利用者側では，争点や主張の整理に食い違いがある場合，どの主張・証拠が抜け，どの箇所が誤って理解されているかを原資料の位置とともに具体化することが考えられる。
これは適切な認識共有のための実務上の対応であり，AI利用を拒否する一般的な権利や，全ての内部資料を開示させる権利が取りまとめによって創設されたという意味ではない。
６ 保存・監査と当事者への開示を区別する
本記事が述べるログの保存，無作為監査及び並行審査は，検証できる運用を具体化するための提案である。
各項目が既に裁判所の一律の法的義務として定められているという説明ではない。
保存すべき情報の範囲，保存期間，確認できる人及び当事者へ提供する範囲は，機密性や手続の目的を踏まえて別々に定める必要がある。
ログを残せば，同じ出力を必ず再現できるわけでもない。
外部サービスの更新やモデルの変更により同条件の再実行が難しい場合でも，その時に利用した入力，参照資料，出力及び人が補正した内容を記録することには，後から経過を点検する意義がある。
裁判官の判断に影響した内容の確認と，全ての内部ログの公開とは区別して制度設計を考えるべきである。
第８ 政府ガイドラインとの関係
デジタル庁の生成AIガイドライン第2.0版は、生成物の瑕疵が基本的権利、安全、生命、身体、財産、事業又は高い説明可能性を要する業務へ重大な影響を及ぼす場合等を高リスク判定の対象としている。
同ガイドラインは各府省庁における生成AIの調達及び利活用のための政府基準であり、裁判官又は裁判所へそのまま直接適用される法的義務ではない。
もっとも、権利影響、説明可能性、人間による出力判断及び高リスク管理を分ける設計は、裁判所の自主的な制度設計を検討する際の比較資料となる。
第９ 関連記事
⑧ 判決書作成におけるAI利用と憲法７６条３項―裁判員制度との比較
出典
① 公益社団法人商事法務研究会「AI時代における民事司法を考える研究会取りまとめ」
③ デジタル庁「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」第2.0版
④ 日本国憲法
⑤ 裁判所法