第1 この記事が扱う対象第2 なぜ防止の仕組みが必要か1 汎用の生成AIは高い頻度で誤る2 判例データベースに接続しても誤りは残る3 架空の判例引用が制裁に至った事例第3 当ブログにおける防止方法1 生成段階――記憶から書かせない2 裁判例の確認――記載する前に実在と内容を確かめる3 引用・出典段階――読者が検証できる形で示す4 公開前検証段階――執筆と検証を同じ工程に混ぜない5 事後の検証と再発防止6 作業体制の設計上の工夫第4 弁護士業務に関する指針との関係1 弁護士会が示している考え方2 これらの指針と当ブログの方法との対応第5 残された課題出典・参考資料1 法令・会規2 裁判例3 文献4 ウェブ資料第1 この記事が扱う対象
当ブログには，生成AIを用いて作成し，又は既存の記事を生成AIに書き直させた記事が多数掲載されており，これらの記事にはタイトル末尾に「（AI作成）」と付記している。生成AIは，事実に基づかない誤った情報を，もっともらしい文章の形で出力することがあり，この現象は一般に「ハルシネーション」と呼ばれる。本記事は，当ブログがこうした記事を投稿するに当たって実際に行っている誤り防止の方法を，工程ごとに説明するものである。あわせて，その前提として，生成AIの誤りがどの程度の頻度で生じるかを示す実証研究，架空の判例引用が裁判所の制裁に至った事例及び弁護士会が示す指針を，公表されている一次資料に基づいて整理する。本記事も生成AIを用いて作成し，記載した数値及び条文は原資料と照合した。なお，訴状，準備書面その他の裁判所へ提出する書面については，本記事で述べる方法とは別に，より重い確認の手順を置いており，その内容は別記事（山中弁護士がClaudeコードを使って裁判所提出書面を作成するときに行っているハルシネーション防止方法（AI作成））で説明している。
第2 なぜ防止の仕組みが必要か1 汎用の生成AIは高い頻度で誤る
米国スタンフォード大学の研究チームが2023年当時の主要な汎用大規模言語モデルに約80万件規模の法律質問を投げかけた実証研究では，ハルシネーション率がGPT-4で58％，GPT-3.5で69％，PaLM 2で72％，Llama 2で88％に達し，いずれのモデルも自らの誤りを予測できず，利用者が示した誤った法的前提をそのまま受け入れる傾向も確認された。この研究は査読を経て法学専門誌に掲載されている。
2 判例データベースに接続しても誤りは残る
同じ研究チームが2024年に公表し2025年に査読誌へ掲載した別の実証研究では，判例データベースに接続した検索拡張型（いわゆるRAG）の商用リーガルAIツール3種類に202件の法律質問を投げかけたところ，ハルシネーション率は17％から33％にとどまり，最も正答率が高いLexisNexis社のLexis+ AIでも65％であった。判例データベースへの接続は誤りを減らす方向に働くものの，これを根絶するものではない。したがって，利用者の側で確認の工程を設ける必要がある。
3 架空の判例引用が制裁に至った事例
生成AIが生成した架空の判例が法廷に提出され，裁判所の制裁に至った事例として最もよく知られているのが，米国ニューヨーク州南部地区連邦地方裁判所のMata v. Avianca, Inc.事件（事件番号22-cv-1461）である。2023年，原告代理人が却下申立てに対する意見書において，ChatGPTが生成した6件の完全に架空の判決（実在の裁判官の名を用いて作出されたものを含む）を引用して裁判所に提出した。同年6月22日，担当のP. Kevin Castel判事は連邦民事訴訟規則11条違反を認定し，代理人及びその所属事務所に5,000ドルの制裁金を科すとともに，架空判決に名前を使われた各裁判官への訂正書簡の送付を命じた。裁判所又は審判機関が生成AIの幻覚的な内容への依拠を認定した事案を継続的に集計しているデータベースによれば，この種の事案は令和8年8月6日現在で合計1,846件に達しており，米国が全体の約7割を占める。
第3 当ブログにおける防止方法
当ブログにおける誤り防止は，単一のルールによるものではなく，生成，引用及び出典の明記，公開前の検証，事後の再発防止並びに作業体制の設計という複数の段階にわたる一連の仕組みとして組み立てている。以下，工程ごとに説明する。
1 生成段階――記憶から書かせない
生成AIに法令の条文を書かせる場面では，AIの記憶や学習データからの書き起こしをそのまま採用せず，e-Gov法令検索から取得した公式データの条文本文のみを用いることとしている。生成AIは，条文の内容自体はおおむね正しくても，条番号や項番号を実際とは異なる形でもっともらしく生成することがあるため，条番号，項番号及び号番号を一件ずつ照合する。
もっとも，公式データを取得しさえすれば足りるというものではない。当ブログの運用では，次の限界を実際に経験するたびに記録し，個別の代替手段を整えてきた。すなわち，①改正前の条文（旧法や経過措置が関わる場面）は現行条文の取得だけでは対応できないこと，②法令名を正確に特定できないと類似する別の法令に誤って行き着き得ること，③条文本文の一部が取得の過程で欠落することがあること，④最高裁判所規則のように公式の法令データベースに収録されていない法令があること，⑤附則や別表のように条文番号の体系の外にある部分は同じ方法では取得できないことである。④については，裁判所ウェブサイトが公開している規則の公式PDFを確認する方法によっている。本記事で後記の民事訴訟規則85条を引用するに当たっても，この方法により条文本文と見出しを確認した。
条文を根拠に「〜が必要である」「〜はできない」と断定する文を書く場面では，取得した条文本文について，ただし書やかっこ書の有無，これが結論を反転させないか，原則を許容した上で例外を定める規定なのか要件を課す規定なのか，及び引用しようとする内容が本当にその項に含まれるかを確認することとしている。条文の本文だけを読んで結論を組み立てると，ただし書によって結論が逆転する場面で必ず誤るためである。
2 裁判例の確認――記載する前に実在と内容を確かめる
裁判例については，出力に書く前に必ず裁判所ウェブサイトの裁判例検索で実在及び内容を確認することとしている。確認の対象は，裁判所名，裁判年月日及び事件番号が一致する裁判例が実際に掲載されているかという点だけでなく，記事に書こうとする判旨や規範が判決の本文によって裏付けられるかという点にも及ぶ。特に，ある裁判例の判示が限定的な場面について述べたものであるにもかかわらず，これをより広い一般命題の根拠として引用していないかという射程の照合を行う。
裁判所ウェブサイトに掲載されていない裁判例については，判例秘書等の商業データベースで個別に全文を確認できたものに限り引用可能とし，個別に確認していない裁判例は，実務書その他の文献に紹介されていても，孫引きによっては引用しない。文献が紹介する裁判例は，上告審の有無，裁判年月日又は結論を誤っていることがあり，実際に，ある実務書の紹介に基づいて記録した内容を裁判所ウェブサイトで検証したところ，紹介されていた上告審が実在しないことが判明した例がある。また，裁判所ウェブサイトで発見できないことは，その裁判例が存在しないことの証明にはならないため，「存在しない」ではなく「裁判所ウェブサイト未掲載」と書き分けている。下級審の裁判例は，最高裁判例と比較して掲載率が必ずしも高くないためである。
3 引用・出典段階――読者が検証できる形で示す
出典は本文に明記することとしている。インターネット上で第三者が確認できる根拠（裁判所ウェブサイトや弁護士会の会報等）は，URLを本文に記載する。これに対し，ログインを要する商業データベースで確認した根拠は，第三者が同じURLを開くことができない以上，URLを掲載せず，実際に確認した書誌情報及び頁を記載することとし，確認していない頁を推測で書くことはしない。法令，裁判例及び文献は，散文の中に埋め込まず箇条書きで示し，裁判所ウェブサイトに掲載されている裁判例については，本文中でその裁判例に言及する箇所ごとに，個別の詳細ページへのリンクを設定することとしている。
4 公開前検証段階――執筆と検証を同じ工程に混ぜない
記事を対外公開する前には，独立した確認の工程を設けている。本文中の全ての引用及び全ての法令条文並びに用いない旨を定めている表現を機械的に照合し，一件でも確認できない事項又は違反があれば公開を止める仕組みであり，記事を執筆する工程とは別の機会に行うこととしている。
この工程を分けているのは，文章を書いている最中は，その文章の流れに乗って未確認の引用をそのまま書き進めてしまう危険があり，執筆の作業と確認の作業を同じ工程に置くと，この危険を防ぎにくいという経験によるものである。実際，過去に公開した記事において，検索結果に表示された裁判例の識別番号を照合しないまま本文のリンクに用い，公開後の検証によって当該番号が全く別の事件を指していたことが判明した例がある。執筆の後に検証するのでは，誤った引用が本文に組み込まれた状態のまま公開まで通ってしまう。
5 事後の検証と再発防止
誤りが生じた場合には，その失敗の型を個別に記録し，同じ型の誤りが繰り返されたときには，対応を一段強めることとしている。これまでに記録された型としては，前記の識別番号を未照合のまま用いる誤りのほか，条文が削除されたという結論を裏付けの確認なしに述べてしまい，実際には存在する条文を存在しないものとして扱ってしまう誤りがある。ある条文が改正によって削除された場合であっても，その条番号が空いたままになるとは限らず，同じ番号に全く別の内容の条文が置かれていることがあるためである。この型の誤りは，条文を引用していないという理由で確認の対象から外れやすい一方，読者が現行法令を引けば直ちに露見する点で危険が大きい。
6 作業体制の設計上の工夫
このほか，生成AIに特有の傾向を踏まえた工夫も講じている。生成AIは利用者の意に沿う回答を優先する傾向があるとされることから，AI自身が作成した文章を，別の者が作成した草案であるかのように扱わせて添削させる，根拠が弱い点を挙げさせるといった方法により，この傾向を相殺することとしている。
また，条文や裁判例という動かない事実の層は機械的に確認する一方，そこからどのような評価や見立てを導くかという層は，性質上，同じようには確認できないものと位置づけている。この区別に基づき，AIが示した独自の見立てをそのまま署名記事に用いることはせず，弁護士本人が採否を判断したものに限って公開版へ反映することとしている。事実の層について求められる慎重さが評価の層にまで無自覚に及ぶと，正確ではあるが当たり障りのない記事に倒れるため，両者を意識的に書き分けている。なお，個別の事案への当てはめを留保する趣旨の定型的な断り書きは用いず，個別の論点ごとに「当該事案では」等の限定的な表現を用いて，確信の程度を書き分けることとしている。
第4 弁護士業務に関する指針との関係1 弁護士会が示している考え方
東京弁護士会は，2025年3月27日に「弁護士業務における生成AIサービスの適正利用ガイドライン」を施行している。同会の会報に掲載された特集記事によれば，このガイドラインは，出力結果を業務に用いる場合には一次資料の確認を含む検証を行うことを推奨している。もっとも，同ガイドラインは，生成AIの適正利用を促進するための推奨事項であって，遵守を義務付けるものではなく，綱紀及び懲戒の直接の基準とされるものでもないとされており，その内容が秘密保持義務（弁護士職務基本規程第23条等），信用（同規程第6条）及び法令等の調査義務（同規程第37条）等と関係するものとして位置づけられている。出力内容の適切性について弁護士が原則として最終的な責任を負うという点は，同ガイドラインの内容としてではなく，弁護士の誠実義務及び専門家責任の観点から，同特集記事の執筆者の見解として述べられているものである。同特集記事に掲載された注意点の一覧表も，出力内容の検証という項目において，架空判例，誤引用及び誤った制度説明等のハルシネーションが生じる可能性を踏まえ，一次資料その他の信頼できる資料により確認すべきことを挙げている。
日本弁護士連合会のAI戦略ワーキンググループも，2025年9月，「弁護士業務における生成AIの利活用等に関する注意事項」を取りまとめ，2026年2月に更新版を公表している。同注意事項は，会員限りの資料とされ，会員外への交付等を控えるべきものとされているため，本記事ではその内容を引用しない。なお，同注意事項は，日本弁護士連合会としての公式な見解を示すものではなく，綱紀・懲戒の直接の基準とされることも想定していないものとされている。
2 これらの指針と当ブログの方法との対応
前記第3で述べた方法は，弁護士会が示す考え方のうち，出力内容を検証した上で専門職として独立した判断を行うという部分を，記事の作成という場面において具体的な工程に落としたものと整理することができる。当ブログの記事は訴訟における主張立証とは異なるが，条文及び裁判例を根拠として示す点では共通しており，誤った条文又は架空の裁判例を掲げた場合に生じる不利益も同様である。
根拠となる規律としては，次のものが挙げられる。
弁護士職務基本規程第37条（法令等の調査）第1項は，「弁護士は，事件の処理に当たり，必要な法令の調査を怠ってはならない。」と定め，同条第2項は，「弁護士は，事件の処理に当たり，必要かつ可能な事実関係の調査を行うように努める。」と定める。同規程第7条（研鑽）は，「弁護士は，教養を深め，法令及び法律事務に精通するため，研鑽に努める。」と定める。同規程第6条（名誉と信用）は，「弁護士は，名誉を重んじ，信用を維持するとともに，廉潔を保持し，常に品位を高めるように努める。」と定める。民事訴訟規則第85条（調査の義務）は，「当事者は，主張及び立証を尽くすため，あらかじめ，証人その他の証拠について事実関係を詳細に調査しなければならない。」と定める。
これらの規律は，いずれも生成AIの利用を直接の対象とするものではないが，生成AIが出力した条文や裁判例をそのまま用いる行為が，調査を怠ったものと評価される場面があり得ることを示している。当ブログが，記事の作成という場面においてまで確認の工程を設けているのは，この理解に基づく。
第5 残された課題
前記の実証研究が示すとおり，判例データベースへの接続は誤りを減らすとしてもこれを根絶するものではなく，本記事で述べた方法も，人が定めた手順を実行するものである以上，実行の漏れが生じ得る。手順を定めていること自体が正確性を保証するわけではないため，公開後に誤りが判明した場合の記録と手順の見直しを継続する必要がある。また，生成AIの技術動向及び各弁護士会の指針は今後も変化し得るため，本記事の内容は令和8年8月時点のものにとどまる。
以上の検証工程を，作業時間ではなく一次資料の確認，事実評価，説明可能性及び意思決定支援という専門価値の観点から整理したものとして，AI時代に弁護士の価値は「作業時間」からどこへ移るか―一次資料，事実評価，戦略判断及び意思決定支援（AI作成）がある。
出典・参考資料1 法令・会規
①弁護士職務基本規程（平成16年11月10日会規第70号）第6条・第7条・第23条・第37条（日本弁護士連合会）
②民事訴訟規則（平成8年最高裁判所規則第5号）第85条（裁判所ウェブサイト）
③連邦民事訴訟規則（Federal Rules of Civil Procedure）第11条（コーネル大学ロースクール法情報研究所）
2 裁判例
①Mata v. Avianca, Inc., 678 F.Supp.3d 443（米国ニューヨーク州南部地区連邦地方裁判所，2023年6月22日，事件番号22-cv-1461（PKC），判決文（カリフォルニア大学バークレー校ロースクール））
3 文献
①M. Dahl, V. Magesh, M. Suzgun & D. E. Ho, "Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models," Journal of Legal Analysis, Vol.16 No.1（2024年）64頁～93頁（Oxford Academic）
②V. Magesh, F. Surani, M. Dahl, M. Suzgun, C. D. Manning & D. E. Ho, "Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools," Journal of Empirical Legal Studies（2025年）1頁～27頁（スタンフォード大学）
③特集「弁護士業務における生成AIの利活用と留意点」LIBRA Vol.26 No.7-8（2026年7-8月号）2頁～18頁のうち，有本真由「弁護士業務における生成AI活用上の主な注意点」14頁～18頁（東京弁護士会）
④日本弁護士連合会AI戦略ワーキンググループ「弁護士業務における生成AIの利活用等に関する注意事項」2026年（令和8年）2月更新版（会員限りの資料）
4 ウェブ資料
①AI Hallucination Cases Database（Damien Charlotin運営，令和8年8月6日最終更新分を確認）
②e-Gov法令検索（デジタル庁）
③裁判所ウェブサイト 裁判例検索（最高裁判所）