偽のAI引用が上訴審に達し、Connecticut Supreme Courtが弁護士に警告

Connecticut州最高裁は、Google Newsの見出しとなった問題を具体的な警告へと変えた。弁護士は、事実の正確性を人工知能に委ねたからといって、その責任を免れることはできない。

この警告は、弁護士Ian G. GottliebとGLG Lawによる不備のある上訴書面を受けたものだ。文書には、捏造された引用、不正確な出典表記、法的根拠に関する誤った説明が含まれていた。Gottliebは、家主による2件の上訴に関する準備書面を作成する際、OpenAIのChatGPTを使用したことを認めた。

この出来事は、一人の弁護士のミスにとどまらない。裁判所は、AIの実用的な利点を維持しながら、法的主張の信頼性を支える検証義務を弱めない方法を判断している。争点は明確だ。起案の高速化と、提出される一語一句に対する個人の説明責任が競合している。

同様の問題は以前にも起きている。米国各地で、弁護士が生成AIによって作られた実在しない判例を提出し、罰金、懲戒処分、あるいは依頼者の請求権への悪影響につながった例もある。Connecticutの対応は、この問題を個別の法廷での叱責から、再現可能なガバナンスのモデルへと移すものだ。

浮かび上がるルールは単純だが、重大な意味を持つ。弁護士はAIを利用できるが、提出前にあらゆる引用、出典、法的命題、証拠を確認する個人的責任を負い続ける。

Connecticut、AIの失敗を検証ルールに転換

Connecticutの対応が対象とするのは、人工知能そのものではなく、未検証の情報だ。

Connecticut州司法府は、生成AIを通じて作成された引用、法的根拠、証拠を対象とする要件を採用した。弁護士および本人訴訟の当事者は、裁判所へ提出する前に、その資料を独自に検証しなければならない。

このルールは、大規模言語モデルに固有の弱点を扱うものだ。AIハルシネーションとは、架空の判例や引用を含む、信頼できる裏付けを欠いた自信に満ちた出力を指す。システムが法的文書に関連する言語パターンを学習しているため、その文章はしばしばもっともらしく見える。

この表面的な信頼性が、法的なハルシネーションを特に危険なものにしている。架空の判例には、もっともらしい事件名、裁判所名、日付、判例集の引用、要約が含まれることがある。元となる判決が存在しなくても、各要素は実在する法的根拠のように見え得る。

Connecticut州司法府は、違反には重大な制裁が科され得ると警告した。利用可能な措置には、提出書面の却下、請求の棄却、欠席判決の言い渡し、または事案に適したその他の救済が含まれる。こうした可能性により、検証は単なる職業上の礼儀ではなく、訴訟リスクの一部となる。

このルールは、一般的なチャットボットを使う場合にも、専門的な法律製品を使う場合にも適用される。この区別は重要だ。専門的なインターフェースは、誤った安心感を生むおそれがあるためだ。ブランド、引用、洗練された書式があっても、それだけで法的根拠の存在は証明されない。

司法府のアプローチは、実務上非現実的な問いも避けている。裁判所は、すべてのプロンプトを再現したり、どのモデルがどの文を変更したのかを正確に特定したりする必要はない。提出者が、得られた資料を権威ある情報源と照合したかを問えばよい。

この基準は適用しやすく、回避しにくい。弁護士は、補助者、請負業者、検索エンジン、チャットボットが提供したという理由で、捏造された引用を正当化することはできない。提出書面への署名は、弁護人に責任を負わせる。

Connecticutは、今回の見出しとなった出来事以前から、この問題に関する正式な取り組みを始めていた。同州のAI legal committeeは、司法制度全体における責任ある利用を検討する任務を与えられた。表明された懸念には、公平性、説明責任、平等性、透明性、持続可能な導入が含まれる。

委員会の対象範囲は、問題の広がりを示している。生成AIは、法的リサーチ、文書レビュー、翻訳、証拠、司法行政、司法への市民アクセスに影響を及ぼし得る。引用の正確性は、最も目立つ失敗形態にすぎない。

それでも、捏造された法的根拠は、裁判所が明確な線引きを行える領域を提供する。裁判官は、まず引用された判例が実在するかを確認しなければならない状況では、主張を効率的に評価できない。相手方も、もっともらしいが架空の参照を調査しなければならず、負担を負う。

Google News経由でこの記事にたどり着いた読者にとって重要な変化は、ChatGPTの禁止ではない。Connecticutは、既存の職業上の義務を、AI時代に明示的な検証要件へと転換した。

この設計は、実験の余地を残している。弁護士は引き続き、ソフトウェアを使ってブレインストーミングを行い、文章を再構成し、文書を要約し、リサーチの手がかりを特定できる。ただし、生成された出力を、検証済みの法として扱うことはできない。

Google Newsの注目は、2件の上訴における9つの誤りに続いた

複数の誤りが通常のレビュー工程をすり抜け、州最高裁にまで達したため、この論争は州全体への警告となった。

Gottliebは2026年7月7日、Connecticut Supreme Courtに出廷した。7人の判事は、係属中の2件の上訴における提出書面をめぐり、GottliebとGLG Lawが制裁を受けるべきではない理由を説明するよう命じていた。

事件は、MiddletownおよびHartfordの公正家賃委員会の決定に異議を唱える家主に関するものだった。この背景は重要だ。根本にある紛争は、住宅費と借家人・不動産所有者の権利に影響するためである。引用の不備は、害のない内部草案にとどまるものではなかった。

地元報道によると、裁判所に提出された一覧では、訂正を要する誤りが9件特定された。不正確な出典表記や、引用先の法的根拠には存在しない引用文が含まれていた。

Gottliebは、準備書面の作成を支援するためにChatGPTを使ったと述べた。起案過程で正確な情報が置き換えられたと主張したが、変更がいつ起きたのかを正確には説明できなかった。

この不確実性は、一般的なワークフロー上の問題を示している。利用者は検証済みの資料から始め、モデルに改善や再構成を依頼し、裏付けのない詳細を含む書き換え文を受け取ることがある。誤りは、初期リサーチではなく変換の過程で入り込む。

Gottliebは、誤りを見落とした責任を認めた。審問で彼はこの出来事を弁護士にとっての「worst nightmare」と表現し、判事らに寛大な扱いを求めた。彼の代理人は、控えめな罰金と追加の専門研修を提案した。

この弁護士は、根底にある法的命題自体は正確だったとも主張した。この主張は、論点の大まかな方向性と、それを支える法的根拠の完全性との間に重要な区別を設けるものだ。

裁判所は、その区別を完全な抗弁として受け入れることはできない。結論が正しいからといって、捏造された引用が許容されるわけではない。法的推論は、先例が実際に何を判示したか、どこまで適用されるか、裁判所がどの言葉を用いたかに依存している。

偽の引用は、通常の当事者対抗による検証も妨げる。相手方の弁護士は、存在しない判断を区別し、限定し、反論することはできない。その代わりに、その参照が架空であることを証明する時間を費やさなければならない。

Yale Law SchoolのJerome N. Frank Legal Services Organizationは、借家人を代理する中で誤りの特定に協力したと報じられている。この出来事は、ハルシネーションが、限られた資源で活動する法律支援チームを含む相手方に作業を転嫁することを示している。

このConnecticutでの手続きは、AI生成の提出書面の誤りに対する制裁をめぐる、州最高裁として初めて報じられた対立だった。しかし、それは孤立して生じたものではない。

Connecticutの連邦裁判所はすでに、法的命題をハルシネーションで捏造したり、法律を著しく誤って説明したりする準備書面に対し、容認しない方針を示す通知を出していた。そのメッセージは、AIが作業を補助したかどうかにかかわらず適用される。

この最後の留保は核心的だ。裁判所は常に、適切なリサーチと誠実な開示を求めてきた。生成AIは誤りの速度、規模、見た目を変えるが、それを提出する許可を与えるものではない。

書籍から引用を誤って転記した弁護士も責任を負う。同じ原則は、ソフトウェアが文章を生成した場合にも適用される。Connecticutの警告は、職業として確立された基盤を放棄せずに、執行に関する文言を更新するものだ。

Google Newsの枠組みでは、この出来事は裁判官と新技術の間の新たな衝突のように見えるかもしれない。しかし、基礎となる事実は、より限定的で持続的な解釈を支持している。

裁判所が判断しているのは、AIが法務実務に属するかどうかではない。生成された資料が提出書面に入った場合、誰がリスクを負うのかを判断している。その答えは、文書を提出する者にリスクを残すものだ。

法的起案の高速化が個人の説明責任と衝突

生成AIは効率化を約束するが、起案が速くなっても弁護士の検証義務が軽くなることはない。

法務には、自動化に対する強い需要がある。弁護士は膨大な法的根拠を調査し、事実記録を比較し、定型文書を作成し、厳しい期限の下で文章を改訂する。生成システムは、こうした各業務の一部を加速できる。

こうした利点は、導入を促すに十分な現実性を持つ。モデルはアウトラインを提案し、密度の高い段落を簡潔にし、メモから論点を抽出し、別の表現を生成できる。また、利用者が思いつかなかったリサーチクエリの作成を支援することもある。

問題は、確率的な文章生成器を権威あるデータベースのように扱うときに始まる。大規模言語モデルは、もっともらしい単語列を予測する。引用した一節が司法判断の中に実際に存在することを、本質的に保証するわけではない。

法的リサーチには異なる基準が必要だ。弁護士は判断を見つけ、該当箇所を読み、その有効性を確認し、後続の法的根拠がその意味を変えていないか判断しなければならない。生成された要約だけでは、見た目によってこれらの手順を完了できない。

引用の検証は、存在を確認するだけにとどまらない。実在する判例でも、無関係であったり、破棄されていたり、後の法令や判例に取って代わられていたり、文脈を無視して引用されていたりすることがある。出典表記は、形式上は正しく見えても、誤ったページを指している場合がある。

これにより、複数のレビュー層が必要になる：

• 引用された法的根拠が存在することを確認する。

• 権威ある、または信頼できる法的情報源を開く。

• すべての引用について、その前後の文脈を読む。

• ページまたは段落の参照を確認する。

• 判例が述べられた法的命題を支持していることを確認する。

• 後続の扱いと拘束力のある法的根拠を確認する。

• 最終提出版に検証済みの文章が保持されていることを確認する。

最後の手順には特に注意が必要だ。弁護士は初期草案を検証しても、その後のAI支援による編集で正確性を失う可能性がある。したがって、バージョン管理は文書の書式だけでなく、法的な内容も対象としなければならない。

ここでConnecticutの事案は法律事務所に圧力をかける。「AIの出力を確認する」という方針だけでは、複雑な起案プロセスには曖昧すぎる。事務所には、明確なチェックポイント、担当レビュアー、何が検証されたかを示す記録が必要になる。

監督する弁護士もリスクに直面する。上級弁護士は、若手の同僚があらゆるツールの限界を理解していると決めつけることはできない。能力には、システムの利用を適切に監督できる程度に、その仕組みを学ぶことも含まれる。

American Bar Associationは、Formal Opinion 512でこれらの義務を扱った。このガイダンスは、生成AIを能力、守秘義務、依頼者とのコミュニケーション、誠実な開示、監督、合理的な報酬と結び付けている。

この意見は、弁護士に機械学習エンジニアになることを求めるものではない。ただし、自身の業務に関係する利点とリスクを理解することは求めている。その基準は、ツールや専門的な実務が進化するにつれて変化する。

守秘義務には、ハルシネーション以外にもリスクがある。弁護士がクライアント情報を公開AIサービスに入力すれば、製品の利用規約や管理機能によっては、機密データを漏らすおそれがある。引用が正確であるだけでは、ワークフローの安全性は確保されない。

開示要件にも差がある。AI利用に関する証明や情報提供を求める裁判所がある一方、通常の提出規則に委ねる裁判所もある。したがって弁護士は、全国共通の方針があると想定するのではなく、管轄裁判所の手続を確認しなければならない。

最も弁護しやすいワークフローは、AIを信頼できない起案支援者として扱うものだ。その出力は調査の手がかりにはなり得るが、法的権威の最終的な出典にはなり得ない。

このモデルは、慎重な専門家が経験の浅いリサーチャーのメモを扱う方法に似ている。資料は有用かもしれないが、クライアント、相手方、または法廷に届く前に、重要な主張はすべて確認しなければならない。

法律以外のナレッジワーカーも、同じ構図を認識すべきだ。生成された回答は調査を加速させられる一方、最終記録としては不適切な場合がある。規制対象や高リスクの業務では、提案と検証済みの証拠を分けることが不可欠だ。

検索可能なナレッジベースは、チームが原資料とレビュー履歴を保持する助けになる。ただし、どのような組織システムも、元の権威資料を確認する必要性をなくすものではない。

したがって、コネティカット州の警告は、広く信じられている自動化の約束に疑問を投げかける。起案時間を短縮しても、総作業量が減るとは限らない。統制が弱ければ、その作業は訂正、制裁手続、評判の回復へと移されるだけかもしれない。

真のリスクは制度的汚染にある

捏造された引用は、法的情報が相互接続されたシステムを移動するため、一件の提出書面以上に害を及ぼし得る。

直接的な損害を受けるのは裁判所と相手方だ。裁判官や書記官は疑わしい法的権威を調査しなければならない。他の弁護士も、本来提出されるべきでなかった資料への対応にクライアントの資源を費やすことになる。

問題の弁護士に代理されたクライアントもリスクに直面する。裁判所は主張を排斥し、費用を課し、手続を遅延させ、あるいは請求を棄却する可能性がある。技術的には妥当な立場であっても、その裏付けが信頼できないと判明すれば信用を失いかねない。

影響は事件後も続き得る。公開提出書面は、検索可能なデータベース、報道、社内調査コレクション、モデル訓練用コーパスに取り込まれる。訂正が公表される前に、架空の命題が複製されることもある。

これが制度的汚染である。虚偽の内容は、公式らしく見える法的文書に含まれることで信頼性を得る。その後の利用者は、反復を確認と誤認する可能性がある。

生成システムは、誤りを低コストで再現・再表現できるため、この危険を増幅させる。捏造された一つの法的権威が、覚書、クライアント向けアラート、オンライン要約、後続のプロンプトに現れるかもしれない。反復されるたびに、その出所は見えにくくなる。

裁判所自体も伝達エラーを免れない。裁判官は当事者対立構造に基づく書面、書記官の調査、出典確認に依存している。整った提出書面であっても、裁判所が最終的に問題を見抜いたとしても、追加の検証負担を生み出し得る。

その負担は司法へのアクセスを脅かす。大規模組織には、検証のためのチームや有料データベースがあるかもしれない。小規模事務所、公益弁護士、本人訴訟の当事者は、より限られた資源で業務を行うことが多い。

AIはそうした利用者の情報アクセスを助け得るが、信頼できない出力は彼らに不釣り合いなコストを課すこともある。したがってコネティカット州の規則は、説明責任と実務上の実装可能性のバランスを取らなければならない。

虚偽の法的権威がもたらす結果は深刻であるため、厳格な検証義務には合理性がある。しかし裁判所は、規則を明確に伝え、許容される支援と危険な依存を区別する教育を提供すべきだ。

研修には具体例を含めるべきである。利用者は、捏造された事件名、改変された引用、誤解を招く要約がどのように現れるかを理解する必要がある。「AIリスク」に関する抽象的な警告だけでは、日々の行動を確実に変えることはできない。

制裁にも比例性が必要だ。意図的な欺瞞、無謀な軽視、不十分な監督、単発で訂正済みの誤りは、同一の事情ではない。裁判所は伝統的に、救済措置を選ぶ際に行為、損害、通知、是正を考慮する。

懐疑的な問いは、AI固有の新たな規則が既存の義務を超える価値を持つかどうかだ。弁護士にはすでに裁判所に対する誠実義務があり、書面を提出する前に合理的な調査を行わなければならない。

その異論にはもっともな点がある。弁護士が手作業で引用を捏造した場合も、同じ事実上の問題を引き起こす。技術が、根本にある検証不足から注意をそらすものになってはならない。

コネティカット州のアプローチは、ツールを禁止するのではなく出力に焦点を当てることで、この懸念に部分的に答えている。この規則は既知の失敗モードを明示しつつ、専門職責任の中核を技術中立的に保つ。

全国的な事例もこの重視を裏付ける。2023年、Mata v. Avianca訴訟では、ChatGPTによるものとされた存在しない判決を提出した弁護士が制裁を受けた。この事件は、生成された法的権威に関する初期の公的警告となった。

マイケル・コーエンは後に、Google Bardが存在しない判例を提示した際、それを強化された検索の一種だと誤解していたと述べた。裁判報道によれば、彼の弁護士は十分な検証を行わずにその資料を提出した。

チャットボットと検索エンジンの違いは、依然として重要である。検索システムは既存のページを取得して順位付けするが、その結果も評価を要する。一方、生成モデルは、取得情報に似たまったく新しい文章を合成できる。

製品はますますこれらの区分を曖昧にしている。検索インターフェースは現在、要約を生成し、チャットボットは引用やウェブ結果を表示する。利用者が、どの記述が出典に基づき、どの記述が合成によるものかを見分けるのに苦労するのは当然だ。

この曖昧さにより、インターフェース設計もリスク方程式の一部となる。ベンダーは、出典箇所を示し、不確実性を表示し、裏付けのない引用が検証済みの文章として表示されないようにすることで、混乱を減らせる。

しかし、専門職としての責任をなくすことはできない。リンクされた出典であっても、実際に開いて読まなければならない。引用バッジは取得の証拠であって、生成された文が文書を正確に表している証明ではない。

コネティカット州の事例は、公的な議論における検証の隔たりも浮き彫りにしている。ニュース集約サービスは、読者が命令、審理記録、または適用規則を探し出すより速く、劇的な見出しを拡散させることがある。

Google Newsは報道を発見するのに有用だが、司法上の要件に関する最終権威ではない。弁護士は、集約された見出しから裁判所の公式資料と関連する専門職規則へ進むべきだ。

この出典規律はAIにも同様に当てはまる。発見と検証は別々の段階である。効率的な発見ツールが、いつの間にか権威として扱われるときに問題が始まる。

コネティカット州の警告が法律事務所とAIベンダーに圧力をかける

次の段階では、事務所が明確な義務を、現実の締切下でも機能する統制へと変えられるかが試される。

大手法律事務所はすでに、承認済みツール、保護対象データ、人によるレビュー、ベンダー評価に関する方針を策定している。小規模な実務でも、同等の技術部門やコンプライアンスチームがないまま、同じ倫理的義務を負っている。

コネティカット州の規則は、単純で監査可能なプロセスの価値を高める。事務所が引用を検証するのに、精巧なAIラボは必要ない。信頼できる出典へのアクセス、明確な責任所在、そしてレビューに十分な時間が必要だ。

実務的な方針では、許可される利用を定義すべきである。ブレインストーミング、整形、要約、翻訳、引用生成には、それぞれ異なるリスクがある。すべてのAIとのやり取りを同等に扱えば、規則は緩すぎるか、従うことが不可能になる。

事務所は、明確な出典レイヤーも維持すべきだ。検証済みの判例、法令、規則、契約、記録資料は、生成された文章と区別可能な状態を保たなければならない。レビュー担当者は、どの記述がそれらの出典に直接たどれるかを把握する必要がある。

最終化には、別のチェックポイントが必要となる。すべての引用と引用文は、初期の調査メモだけでなく、提出用に準備された版で検証すべきだ。自動比較は支援になり得るが、責任ある弁護士が結果に責任を持たなければならない。

クライアントとのコミュニケーションにも同様の明確さが求められる。弁護士は、AI利用がクライアントに知らせるべき重要な理由を生むのはどのような場合かを判断すべきだ。関連する要素には、守秘義務、ツールの役割、契約上の制限、誤りの結果が含まれる。

最初の観察シグナルは、コネティカット州がGLG Lawの件をどのように扱うかだ。最終的な制裁や詳細な意見書が出れば、裁判官が過失と故意の虚偽表示をどのように区別するかが示される。

厳しい処罰は、裁判所が教育から抑止へ移行しているとの見方を強めるだろう。研修に重点を置く抑制的な救済措置であれば、初期の執行がなお是正的であることを示唆する。

二つ目のシグナルは、他州裁判所による採用だ。同様の証明規則が導入されれば、複数の管轄で実務を行う事務所にとって、より広い運用上の基準線が生まれる。

広範な採用はコネティカット州のモデルを強化する。規則が分岐すれば、コンプライアンスは複雑化し、全国規模の事務所には、内部的に実行可能な最も厳格な基準を採用する圧力がかかる。

三つ目のシグナルは、ベンダーの行動である。リーガルAIプロバイダーは、より優れた引用検証、出典の固定、バージョン追跡、生成された文言に直接の裏付けがない場合の警告を追加できる。

目に見える改善は偶発的な誤用を減らすだろうが、最終責任を弁護士から移すものではない。専門製品の内部で失敗が続けば、モデルの外部で独立した確認が必要であることが改めて示される。

リーガルテクノロジー企業には、コミュニケーション上の課題もある。検証を説明せずに速度を強調するマーケティングは、危険な期待を促しかねない。製品は、どの作業を自動化し、どの判断が有資格の専門家に残るのかを説明すべきだ。

裁判所は、本人訴訟の当事者にも目を配る必要がある。証明要件は正確性を高め得るが、無料の公開ツールを使う人にとって、不慣れな手続は混乱を招くおそれがある。平易な言葉による案内とアクセスしやすい出典リンクは、その負担を減らせる。

より大きな教訓は訴訟の外にも及ぶ。医師、会計士、技術者、研究者、経営者も、精査に耐えなければならない証拠を扱っている。生成AIは各専門職を支援できる一方、その裏付けが許す以上に確実に聞こえる記述を生み出すこともある。

チームは、生成された成果物に依拠する前に、四つの問いを投げかけるべきだ。

• この主張を裏付ける原資料は何か？

• その資料が草案の主張どおりの内容を述べていると、誰が確認したのか？

• 後の編集によって、検証済みの文言は変わっていないか？

• 最終出力の責任を誰が負うのか？

これらの問いは意図的に平凡なものだ。コネティカット州の警告は、異例の技術的解決策を求めているのではない。より速い制作プロセスの中で、組織に可視化された説明責任を取り戻すことを求めている。

Google Newsを通じてこの話を追う読者にとって、長期的に重要なのは、また一つ恥ずかしいハルシネーションではない。検証が、AI支援を受けた専門業務における標準的かつ文書化された段階になるかどうかだ。

コネティカット州最高裁判所はすでに立場を明確にしている。洗練された出力は、確認済みの法的権威の代わりにはならない。弁護士は起案の一部を自動化できるが、提出書面の署名の下にある責任まで自動化してなくすことはできない。

この原則は、法務チームに次の一手を明確に示している。AI支援のワークフローをすべて見直し、生成された主張が最終文書に入り込む可能性のある箇所を特定し、一次情報に照らして検証する担当者を割り当てるべきだ。

専門職が生成AIを使うかどうかは、もはや問題ではない。すでに使っている。問われているのは、その検証体制が、業務に求められる信頼を損なうことなく、ソフトウェアと同じ速度で進化できるかどうかだ。