Arun SubramanianのリーガルAI警告：効率化が、検証を担う弁護士を弱体化させる可能性
連邦裁判所への提出書面で不正確な引用が見つかったことを受け、Arun SubramanianはリーガルAIに警鐘を鳴らした。法律事務所には方針や研修があったにもかかわらずである。マンハッタンの判事は関与した弁護士への制裁を見送った。しかし、その判断はこの出来事を単発の起案ミス以上の問題として位置づけた。
直接の問題は、人工知能ツールの出力が検証されなかったことだった。より大きな問題は、将来その出力を検証できるのは誰なのかという点にある。従来ジュニア弁護士を育成してきた調査や起案をAIが担うようになれば、事務所は自らの検証体制を弱めるおそれがある。
この緊張関係が、この判断を一件の著作権訴訟を超えて重要なものにしている。リーガルAIは、より迅速な調査、短い起案サイクル、コスト削減を約束する。しかし、弁護士に虚偽の権威、弱い論理、文脈の欠落を見抜く方法を教える仕事を事務所が取り除けば、こうした利点は負債となる。
Subramanianの警告は、人間による監督について一般的に抱かれている前提にも疑問を投げかける。モデルの後段に弁護士を配置するだけで、事務所がプロセスは安全だと宣言することはできない。レビュー担当者には、機械の成果物を検証するための十分な経験、時間、独立性が必要だ。
したがって中心的な対立は、弁護士対AIではない。目先の効率性と、有能な弁護士を育てる時間のかかる徒弟的訓練との対立である。依頼者は今日、より速い仕事を受け取るかもしれないが、明日には信頼性の低い法曹界を引き継ぐことになる可能性がある。
Arun SubramanianのリーガルAI警告が実際に変えたこと
裁判所は、制裁を科さなかったとしても、AIによる引用ミスをより根深い研修・監督上の問題を示す証拠として扱った。
争いは、ニューヨーク南部地区連邦地方裁判所の著作権訴訟、Hill v. Foundation Media LLCで生じた。本人訴訟のLawand Hillは、配信された音楽作品に関連する著作権をFoundation Mediaが侵害したと主張した。
Subramanianは、治安判事の勧告を採用して事件を棄却した。しかし9月22日付の命令では、Hillの異議に対するFoundation Mediaの回答に含まれていた引用文と引用を別途問題視した。
判事は主任弁護士に対し、回答書の作成にAIが用いられたかどうかを申告するよう命じた。また、未検証のAI利用が問題のある記載を生んだかどうかも尋ねた。公開された裁判所命令は、争点となった参照箇所を特定し、その開示要件を示している。
この手続上の詳細は重要である。Foundation Mediaは本案では勝訴したが、裁判所はなお、その提出書面の信頼性を調査した。有利な結果は、文書がどのように作成されたかについての代理人の責任を消すものではなかった。
Foundation Mediaの弁護士Cynthia Aratoは謝罪し、誤りはShapiro Arato Bachの別の弁護士によるものだと説明した。事務所の申告によれば、その弁護士が最初の草案を作成し、提出前に文書を完成させた。
申告では、その弁護士の行為は事務所の方針と研修に反するものだったとされた。AIが生成した引用の検証を怠ったことは孤立した事例であり、裁判所を誤導する意図はなかったと説明している。
その後の提出書面では、起案プロセスの一部としてリーガルAI企業Harveyのツールが特定されたと、報道された事案の説明は伝えている。Reutersの報道によれば、HarveyとFoundation Mediaはコメント要請に直ちには応じなかった。
入手可能な記録は、Harveyだけが誤りを引き起こしたとは示していない。示しているのは、十分な人間による検証なしにAI支援の作業が提出書面に至ったということである。この区別は、専門職規則が定める通り、責任を文書を提出する弁護士に置くものだ。
Subramanianは説明を検討した後、制裁を科すことを見送った。この抑制を承認と取り違えるべきではない。彼はこの出来事を警告と表現し、AIが生成した法的文書には慎重な正確性確認が必要だと強調した。
したがって、この判断はリーガルAIのミスをめぐる枠組みを変えた。裁判所はこれまで、捏造された判例、金銭的制裁、弁護士懲戒に焦点を当てることが多かった。Subramanianは、目先の誤りを、将来のレビュー担当者を育てる法曹界の能力と結びつけた。
彼は、事務所がAI支援なしの初稿作成を義務づけることを検討すべきだと示唆した。この提案が意図的に不便なのは、AIが排除するよう設計された作業の中でこそ、価値ある学習の一部が起こるからだ。
この考え方は、引用をめぐる出来事を組織上の問題へと転換する。方針が存在していても未検証の提出書面が裁判所に届くなら、事務所はワークフロー設計、監督、インセンティブを検証しなければならない。文書化された規則だけでは、その負担を担えない。
Arun SubramanianのリーガルAI警告は、究極的には組織の記憶に関するものだ。事務所には、ソフトウェアが説得力ある形式で整えたかどうかだけでなく、なぜ主張が成り立つのかを理解する専門家が必要である。
引用ミスが露呈させた監督の空白
責任が広く割り振られていても、検証がワークフローの各段階に組み込まれていなければ、人間によるレビューは機能しない。
生成AIは、データ内のパターンから次に来そうな内容を予測して文章を生成する。洗練された引用文、判例名、正式な引用表記を含む回答であっても、デフォルトで真実を取り出しているわけではない。
ハルシネーションとは、信頼できる事実的裏付けを欠くにもかかわらず自信を持って出力される内容を指す。法律実務では、存在しない判例、改変された引用文、または誤った命題を支持する実在の判決という形を取ることがある。
こうした誤りが危険なのは、専門的な仕事に見えるからだ。捏造された引用には、もっともらしい裁判所名、日付、判例集の参照、法原則が含まれ得る。表面的な完成度により、浅いレビューでも十分だと感じられてしまう。
Foundation Mediaの事例は、監督がいかに分断され得るかを示している。一人の弁護士がツールを使い、別の弁護士が草案をレビューし、主任弁護士が結果に署名または提出する場合がある。各人が、他の誰かが出典確認を済ませたと考えてしまう可能性がある。
この構造は検証の空白を生む。方針は正確性を求めているかもしれないが、引用されたすべての権威資料を開き、すべての引用文を原典と照合する文書化されたプロセスを、誰も担っていない。
American Bar Associationは、Subramanianの判断以前からこの問題を取り上げていた。同協会のAI倫理意見は、弁護士が能力、秘密保持、コミュニケーション、監督、誠実性、合理的な報酬を考慮しなければならないとしている。
ソフトウェアが初稿を作成しても、こうした義務は消えない。弁護士は、裁判所に対する表明や依頼者に提供する助言について、引き続き責任を負う。
検証には、判例が存在することを確認する以上の作業も必要だ。レビュー担当者は、その判断が現在も有効な法であるか、関連する管轄で適用されるか、そして正確にその主張を支えるかを判断しなければならない。
モデルが正確な資料と巧妙な創作を混ぜ合わせると、プロセスはさらに難しくなる。大部分が正しい調査に基づく準備書面は、レビュー担当者の警戒心を下げる可能性がある。少数の虚偽要素は、他の点では信頼できそうな内容の中に隠れることがある。
エンタープライズ向けリーガル製品は、管理されたデータソース、権威資料へのリンク、セキュリティ設定、統合された調査システムなどを通じて、一部のリスクを低減できる。しかし、製品設計によって専門職上の責任を代理人からベンダーへ移すことはできない。
問うべきなのは、ツールに法務業界向けのラベルが付いているかどうかではない。そのワークフローが、有能な弁護士に最終的な分析を再現、検証、擁護させられるかどうかである。
シニア弁護士もまた、システムが高度である、または一貫して有用に見えるという理由で信頼してしまう傾向である自動化バイアスに抗う必要がある。繰り返し良好な出力を得ると、例外的な誤りはかえって見つけにくくなる。
健全なプロセスは監査証跡を残すべきだ。使用したツール、実行したタスク、出力を検証した人物、最終文書を支える一次資料を記録する必要がある。
事務所は、タスクごとに異なる管理を適用できる。社内会議の要約と、訴訟の結論を左右する申立書の起案では、リスクが異なる。求められるレビューは、誤りの影響に応じて厳格になるべきだ。
高リスクの業務には、出典レベルの確認、明確なレビュー担当者の割り当て、草案に異議を唱えるための十分な時間が必要だ。また、生成テキストに依存せず、弁護士が論理を再構築することも求められる場合がある。
この最後の段階は重要である。引用の確認だけでは、すべての失敗を特定できないからだ。準備書面は実在する判例を正確に引用していても、反対の権威を省略したり、記録を誤解したり、依頼者に不利益な戦略を追求したりする可能性がある。
Subramanianの対応は、処罰よりも監督を優先している。裁判所は事務所の説明と追加の安全策を受け入れたが、その警告は、次に急いで提出する際にもそれらの安全策が機能するのかを問うている。
試されるのは運用面だ。方針に価値があるのは、期限、依頼者からの圧力、コスト削減要求の下でも弁護士がそれに従える場合に限られる。
効率化の取引が脅かす法曹の徒弟的訓練
AIは、法律事務所がジュニア業務でかつて培われた判断力を補えるより速く、ジュニア業務を取り除く可能性がある。
ジュニア弁護士は伝統的に、反復を通じて学んできた。記録を読み、権威資料をたどり、草案を比較し、修正を受け、経験豊富な弁護士が法理を依頼者への助言に変える様子を観察する。
こうした作業の多くは時間がかかる。また、従来の法律事務所モデルではコストも高い。生成AIは、まさにこれらの調査、レビュー、起案業務を対象にしている。
効率化の根拠は理解しやすい。システムは、時系列を作成し、文書を要約し、契約文言を比較し、数分で草案を作成できる。その結果、弁護士は戦略や依頼者との関係により多くの時間を使えるようになる。
この結果は可能だが、自動的に実現するものではない。定型業務をなくしても、ジュニア弁護士により良い業務が与えられる保証はない。事務所は単に勤務時間を減らし、役割を狭め、評価する経験のない出力を監督するよう彼らに求めることもできる。
法曹の徒弟的訓練には、教育者が時に認知的摩擦と呼ぶものがある。学習者は不確実性の中でもがき、選択を行い、行き止まりに遭遇し、フィードバックを受ける。その努力が問題の心的モデルを構築する。
AIは、タスクとともにその苦労も圧縮する。ジュニア弁護士が独自の見解を形成する前に、洗練された草案が届く。その結果、編集が構築に代わる標準的な学習活動となる。
編集は有益なスキルを教え得るが、それは編集者が何が欠けているか、何が誤っているかを認識できる場合に限られる。初心者は、欠陥のある前提、不利な先例、戦略上の譲歩を見落としたまま、表現だけを改善するかもしれない。
これが、AIが弁護士研修にもたらすリスクの逆説である。事務所はジュニア弁護士に機械の出力を検証してほしいと考える一方、自動化は検証を教える経験を減らしている。
Subramanianが、一部の初稿をAI支援なしで作成するよう事務所に求めることを提案したのは、この逆説に直接対処するものだ。それは、弁護士が生成出力と自分の仕事を比較する前に、調査、整理、推論を行わなければならない、保護された実践環境を作り出す。
このアプローチにはコストが伴う。ソフトウェアがより速く草案を作成できるなら、依頼者は手作業に費用を払いたくないかもしれない。パートナーも、多忙な案件の最中に請求対象外の研修を行うことに抵抗する可能性がある。
しかし、そのコストはすでに存在している。従来の徒弟的訓練は、しばしば教育と明示されないまま、依頼者業務の中に研修を組み込んでいた。AIは、生産と専門職としての成長を切り離すことで、その補助を可視化する。
企業はいま、意図的な研修予算と測定可能な能力基準を必要としている。若手弁護士が、もはや自分の机に届かない仕事を通じて判断力を自然に身につけると考えることはできない。
法曹界全体も同様の結論に達している。2026年の判断力パイプライン分析は、AIが存在する業務の種類と、将来の弁護士が受託者としての注意義務、ビジネス判断、顧客からの信頼をいかに培うかを変えると論じている。
この分析は、手続的な生産作業と文脈に基づく判断を区別している。AIは文書を組み立て、パターンを認識できる。一方で弁護士は、どの事実が重要か、顧客がどの程度のリスクを許容できるか、助言の責任を誰が負うのかを判断しなければならない。
シンガポールのスンダレシュ・メノン首席判事も2026年に関連する懸念を示した。基礎的な調査・分析業務が置き換えられれば、弁護士がAI生成の成果物を検証する力が弱まるおそれがあると警告した。
その後の研修に関する演説では、AIが大幅に加速できる法務タスクと、若手弁護士が直面する雇用上の圧力を説明した。また、判断力、倫理性、責任、識別力、誠実性をより重視すべきだと訴えた。
こうした警告は、あらゆる非効率な慣行を温存すべきだという意味ではない。文書レビューは、以前の世代が量を通じて学んだからという理由だけで、遅いままであるべきではない。
むしろ法律事務所は、各業務が何を教えていたのかを特定し、その学習を意図的に再構築する必要がある。調査業務は情報源の評価を教え、起案は構成を教え、顧客との接点は不完全な情報の下での判断を教えた。
再設計された徒弟制度は、独立して作成する初稿、監督下でのAIとの比較、シミュレーション、情報源の検証演習、顧客との直接的な接触を組み合わせられる。それぞれの要素は、明確に定義された専門スキルを対象とすべきだ。
シニアによるレビューも、より可視化する必要がある。パートナーがAI支援の草案を黙って修正すれば、顧客を守ることはできても、若手弁護士は何も学べない。フィードバックでは、なぜ出力が不十分だったのか、レビュー担当者がどのように問題を見つけたのかを説明すべきである。
法律事務所は、請求可能時間やツール利用だけでなく、実証された能力を通じて成長を測るべきだ。若手弁護士は、独力で調査し、AIの出力を検証し、不確実性を説明し、提案を擁護できなければならない。
検証済みの先例、レビュー記録、判断の根拠を保持する検索可能な社内ナレッジシステムは、そのプロセスを支援できる。目的は受動的な保管ではなく、監督下の学習を強化する検索可能なナレッジベースである。
したがって、最も堅牢なリーガルAIのワークフローには、ツールを閉じたままにする時間も含まれる。弁護士は、生成された足場に頼らずに推論できることを示す機会を得てから、それを監督する役割を担う必要がある。
顧客は法律事務所が管理を約束するリスクを引き受ける
リーガルAIの顧客リスクは、虚偽の引用にとどまらず、機密性、戦略、コスト、将来の法的代理の質にも及ぶ。
顧客がAIの利用を求めることには、しばしば合理的な理由がある。より速い対応、より少ない請求額、より明確な文書、反復作業に費やす時間の削減を望んでいる。
Subramanianはその圧力を認めた。同時に、問題が起きた場合には顧客が不利益を被り得るとも警告した。欠陥のある提出書面が請求を弱めたり信頼性を損ねたりするなら、起案コストが下がってもほとんど慰めにはならない。
目に見えるリスクは、捏造された引用である。目に見えにくいリスクは、決定的な事実、手続上の論点、事業上の影響を見落としながらも、一見もっともらしく聞こえる助言だ。
法的代理には、単に文章を作成する以上のことが求められる。弁護士は顧客の目的を理解し、前提に疑問を投げかけ、秘密情報を守り、時には顧客が望む行動に反対する助言をしなければならない。
モデルは、こうした選択に対する専門家としての責任を負えない。顧客が技術の利用を求めた場合や、ベンダーが法務向けシステムとして売り込んだ場合でも、利用する弁護士に説明責任は残る。
したがって顧客は、法律事務所がAIを使用しているかどうかだけでなく、どのように使用するのかを尋ねるべきである。調査、要約、起案、契約レビュー、戦略的助言では、影響がそれぞれ異なる。
また、どの情報がシステムに入力されるかも確認すべきだ。秘密情報、秘匿特権のある通信、個人データ、商業上機微な文書には、製品の保持方針とアクセス制御に見合った保護措置が必要である。
ABAのガイダンスは、弁護士がツールの能力と限界を理解すべきだとしている。また、AIの利用を顧客とのコミュニケーションや守秘義務に関する義務と結びつけている。
この義務は、一般的な同意条項を複雑にする。顧客は、タスク、関係するデータ、期待される利益、利用可能な代替手段を知らなければ、AIの利用を有意義に評価できない。
コストも別の緊張を生む。AIが業務に必要な時間を減らすなら、顧客はその節約分が自らに還元されることを期待する。一方で法律事務所は、レビュー、研修、セキュリティ、ベンダー管理に資金を充てる必要がある。
これらの費用は現実のものだが、透明であるべきだ。顧客が自動化された作業について、架空の手作業時間を支払うべきではない。また、法律事務所が利益率を維持するために不可欠なレビューを削るべきでもない。
時間課金モデルは、法律事務所を両方向に動かし得る。効率化が収益を減らす場合には自動化を阻み得る一方、顧客が厳格な予算を課す場合には過度の自動化を促しかねない。
代替的な料金体系も、それだけで品質の問題を解決するわけではない。固定報酬は効率を促す一方、委任契約が成果物と統制を定めていなければ、最小限のレビューを促す可能性もある。
より良い契約はプロセスを扱う。承認された利用方法、守秘保護、検証義務、開示に関する期待、特定業務に顧客の同意が必要かどうかを定められる。
顧客は、誰が業務を行ったのかも知るべきである。モデルが土台を生成し、若手弁護士が限定的なレビューを行ったにすぎない場合、シニア弁護士は経験豊富な専門家が個人的に論点を調査したように示唆すべきではない。
だからといって、顧客がリーガルAIを拒むべきだということではない。責任ある利用は、法的サービスへのアクセスを改善し、定型業務を加速させ、予算を圧迫しかねない大規模な記録の検討を弁護士に可能にする。
これに対する重みとなるのは、司法へのアクセスである。有用なツールを厳格に禁止すれば、多くの個人や小規模組織には手の届かない高価なプロセスを維持することになり得る。
司法における議論でも、このトレードオフはますます認識されている。課題は、未検証の出力を専門家の判断として提示することなく、AI支援サービスをより利用しやすくすることにある。
連邦規則制度では、既存の義務がAIによる捏造された法的根拠を十分に扱えているかが検討されている。2026年10月の規則委員会議題では、現行のRule 11基準がすでにこの問題をカバーしているのか、より具体的な対応が必要なのかが議論されている。
この議論が重要なのは、裁判所の慣行が一貫しないことが不確実性を生むためだ。一部の裁判官はAI利用の開示や証明を求める。他方で、正確性、能力、合理的な調査という既存の義務に依拠する裁判官もいる。
全国的な規則は一貫性を生み得るが、開示だけでは品質を保証できない。AI支援であると記された提出書面でも誤っている可能性がある一方、慎重に検証されたAI支援の提出書面は専門家としての義務を十分に満たし得る。
顧客にとって最も有用な保護は、説明責任を伴う人間の判断であり続ける。開示、セキュリティ、検証は、その判断を置き換えるのではなく支えるべきだ。
法律事務所と顧客が次に注視すべきこと
次の試金石は、法曹界が司法からの警告を測定可能な研修・検証システムへと転換できるかどうかである。
最初の兆候は、裁判所の命令と制裁判断に現れる。裁判官は、既存の専門職規則で十分か、またどのような失敗が金銭的制裁、照会、または公の譴責に値するかを判断している。
ツール固有の証明要件が増えれば、裁判所が開示と文書化された検証を重視していることを示す。通常の正確性義務への依存が続けば、独自の統制を設計する責任はより多く法律事務所に委ねられる。
どちらの道筋も、根本的な義務をなくすものではない。裁判所は引き続き、弁護士が法的根拠、引用、事実上の主張、先例と論拠のつながりを検証することを期待する。
第二の兆候は、法律事務所が若手研修をどのように再設計するかである。プログラムが独立した調査、起案、情報源の評価を伴わず、プロンプトの作り方だけを教えるなら、AI教育を公表しても十分ではない。
有用な証拠としては、AIを使わない保護された課題、監督下での比較演習、シミュレーション・プログラム、能力テストが挙げられる。法律事務所は、シニア弁護士がAI支援業務についてどのようにフィードバックするかも説明すべきだ。
採用動向にも注意を払う必要がある。法律事務所が新たな徒弟制度を作らずに初級ポジションを削減すれば、判断力のパイプラインは細る。その影響が見えるようになるまでには、何年もかかるかもしれない。
第三の兆候は、顧客の行動である。企業の法務部門は、承認済みツール、データの取り扱い、人員配置、請求、開示を扱う外部法律顧問向けガイドラインをますます定めている。
顧客が効率性と検証可能な保護措置の両方を求めるなら、法律事務所には規律あるシステムを構築する商業上の理由が生まれる。顧客が速度とコストだけに注目するなら、検証と研修は資金不足のままになる可能性がある。
リーガルAIベンダーにも、その説明責任を支える圧力がかかる。購入者は、追跡可能な情報源、権限管理、監査ログ、安全なデータ処理、権威ある調査との統合を求めるだろう。
こうした機能はレビューを容易にできる。しかし、弁護士が顧客の目的を理解したか、適切な判断を行ったかを決めることはできない。
Hillの提出書面は有用な基準となる。同事務所には方針と研修があったと報じられているにもかかわらず、問題のある資料が裁判所に提出された。今後の保護措置は、形式的な規則と実際の行動の間にある経路を扱わなければならない。
法律事務所は、明確な責任所在から始められる。AI支援の文書にはすべて、情報源の検証、論理のレビュー、守秘、最終承認について責任を負う弁護士を特定すべきである。
次に、その作業の証拠を保存すべきだ。チェックリストは、提出前にチェックされた項目にすぎず、実質的な確認を反映していなければ役に立たない。
研修では、誤りを専門職上の結果と結びつけるべきである。若手弁護士は、捏造された引用が信頼性、顧客戦略、その後の提出書面を裁判所が信頼する意思にどのような影響を与え得るかを理解する必要がある。
シニア弁護士にも研修が必要だ。法理に関する経験があっても、モデルの挙動、データ統制、生成システムの失敗パターンに関する知識が自動的に得られるわけではない。
顧客は、AI支援業務を依頼する前に、いくつかの直接的な質問をできる。
どの業務でAIを使用し、どの業務は人間主導のままですか？
すべての法的根拠と引用を誰が検証しますか？
どのような顧客情報がシステムに入力されますか？
提供者はその情報をどのように保存または再利用しますか？
AIは人員配置、期間、料金にどのような影響を与えますか？
ツールが誤りを出力した場合、どうなりますか？
こうした質問のために、顧客がAIの専門家になる必要はない。顧客が評価できる言葉で自らのプロセスを説明することを、法律事務所に求めるだけである。
Subramanianの警告は、リーガルAIの終焉を予測するものではない。継続的な導入を前提とし、その隠れたコストに法曹界が向き合うよう求めている。
効率化という取引は、依然として魅力的だ。AIは反復作業を減らし、弁護士がより高付加価値な業務に時間を割くことを可能にする。この利益は、法律事務所が削減した時間の一部を監督と学習に再投資する場合にのみ維持される。
より難しい問いは、それを実行するかどうかである。徒弟制度を自動化しながら代替手段を用意しない専門職は、いずれ自動化を監督するために必要な判断力を欠くことになる。
アラン・サブラマニアンによる法務AIへの警鐘は、法律事務所、依頼者、裁判所、ベンダーに実践的な判断基準を示している。彼らのシステムは文書作成を速くするだけなのか。それとも、その文書に責任を持てる弁護士を育てているのか。
AI支援による法務業務を依頼する前に、誰がその内容を検証するのか、そしてその人物がどのようにして不備を見抜く力を身につけたのかを問うべきだ。法律事務所にとって次の一歩も同様に具体的である。独立したリサーチ、体系的なフィードバック、そして出典レベルでのレビューを守ることだ。効率化はこうした安全策をなくすためではなく、それを支えるために活用されるべきである。
