康涅狄格州最高法院：虚假 AI 引用进入上诉程序后警告律师

康涅狄格州最高法院将一则 Google News 头条转化为明确警告：律师不能把事实准确性委托给人工智能，然后逃避责任。

此次警告源于律师 Ian G. Gottlieb 和 GLG Law 提交的存在缺陷的上诉文件。其中包含伪造引文、错误引用，以及对法律依据的不准确描述。Gottlieb 承认，在为两起房东上诉案件准备书面陈述时使用了 OpenAI 的 ChatGPT。

这一事件的意义不止于一名律师的失误。法院正在权衡如何保留 AI 的实际效益，同时又不削弱使法律论证值得信赖的核验义务。因此，核心冲突十分明确：更快的起草效率，如今正与对每一个提交文字承担个人责任相竞争。

这种冲突此前已多次出现。美国各地的律师曾提交由生成式 AI 生成、实际上并不存在的案例，有时因此受到罚款、职业处分，或导致客户索赔受损。康涅狄格州的回应，正将这一问题从零散的法庭斥责，转向可重复执行的治理模式。

正在形成的规则很简单，但影响重大。律师可以使用 AI，但在向法院提交前，仍须亲自确认每一处引文、引用、法律命题和证据材料。

康涅狄格州将一次 AI 失误转化为核验规则

康涅狄格州的应对措施针对的是未经核验的信息，而不是人工智能本身。

康涅狄格州司法系统通过了一项要求，涵盖通过生成式 AI 生成的引用、法律依据和证据。律师和自行诉讼的当事人在向法院提交这些材料前，必须独立核验其真实性。

该规则针对的是大语言模型的一项典型弱点。AI 幻觉是指看似自信、却缺乏可靠依据的输出，其中包括虚构的案例或引文。此类文本往往显得可信，是因为系统已经学习了与法律写作相关的语言模式。

这种表面上的可信度，使法律幻觉格外危险。一宗虚构案例可能包含看似合理的案件标题、法院名称、日期、判例汇编引用和摘要。即使其背后的裁决根本不存在，每一个要素也都可能看起来像真实的法律依据。

康涅狄格州司法系统警告称，违规可能招致严厉制裁。可能的后果包括撤销提交文件、驳回诉求、作出缺席判决，或施加其他与案件相称的补救措施。这些可能性使核验成为诉讼风险的一部分，而不只是职业礼仪问题。

无论使用的是通用聊天机器人还是专业法律产品，该规则都适用。这一区别很重要，因为专业界面可能带来错误的信任感。品牌、引用和精致的格式，并不能独立证明某项法律依据确实存在。

司法系统的做法也避开了一个不切实际的问题。法院不必重建每一条提示词，也不必确定究竟是哪一个模型修改了某个句子。它只需问：提交人是否已根据权威来源核验了生成材料。

这一标准更容易适用，也更难规避。律师不能以助理、承包商、搜索引擎或聊天机器人提供了虚构引文为由辩解。文件上的签字意味着责任由代理律师承担。

康涅狄格州在最新头条出现前，就已就这一问题展开正式工作。其 AI legal committee 的任务，是审议如何在整个司法系统中负责任地使用 AI。其明确关注的问题包括公平、问责、平等、透明度和可持续采用。

该委员会的职责范围反映了问题的广度。生成式 AI 可影响法律研究、文件审查、翻译、证据、司法行政和公众获取司法服务。引用准确性只是最明显的失效模式。

不过，虚构法律依据为法院划出界限提供了清晰切入点。当法官必须先确认援引的案例是否真实时，就无法高效评估一项论证。对方当事人也要为调查看似可信、实则虚构的参考资料付出代价。

对于通过 Google News 看到这一事件的读者而言，重要变化并不是禁止使用 ChatGPT。相反，康涅狄格州已将一项既有的职业义务转化为 AI 时代明确的核验要求。

这一设计为试验保留了空间。律师仍可使用软件进行头脑风暴、重组文本、总结文件或发现研究线索。但他们不能将生成的输出视为已经验证的法律内容。

Google News 的关注源于两起上诉中的九处错误

之所以成为全州性警告，是因为多项错误穿过了常规审查流程，并进入了最高法院。

Gottlieb 于 2026 年 7 月 7 日在康涅狄格州最高法院出庭。七名大法官已要求他和 GLG Law 说明，为何不应因两起待审上诉中的提交文件而受到制裁。

案件涉及房东对 Middletown 和 Hartford 公平租金委员会决定提出的挑战。这一背景很重要，因为基础争议关乎住房成本以及租户和房产所有者的权利。引用失误并未局限于一份无害的内部草稿。

据当地媒体报道，提交给法院的清单列出了九处需要更正的错误，包括不准确的引用，以及在所引法律依据中并不存在的引文。

Gottlieb 表示，他使用 ChatGPT 协助准备书面陈述。他声称，准确的信息在起草过程中被替换，但无法确切解释这些变化发生在何时。

这种不确定性揭示了一个常见的工作流问题。用户可能先从已核实的材料开始，请模型改进或重组内容，然后收到包含无依据细节的改写文本。错误并非发生在最初研究阶段，而是在转换过程中进入文件。

Gottlieb 承认自己未能发现这些错误，应为此负责。在听证会上，他将此事称为律师“最可怕的噩梦”，并请求大法官宽宥。他的律师提议处以适度罚款，并要求接受额外职业培训。

该律师还主张，基础法律命题依然准确。这一说法区分了论证的总体方向与其支持性法律依据的完整性。

法院不能将这种区分视为完整抗辩。正确的结论并不能使伪造引文变得可以接受。法律推理取决于先例实际作出了什么裁决、其适用范围有多广，以及法院具体使用了哪些措辞。

虚假引用也阻碍了正常的对抗式检验。对方律师无法区分、限制或质疑一份根本不存在的判决意见。他们只能花费时间证明该参考资料是虚构的。

据报道，Yale Law School 的 Jerome N. Frank Legal Services Organization 在代理租户时协助发现了这些错误。因此，该事件显示，AI 幻觉会将工作转移给对方，包括资源有限的法律服务团队。

此次康涅狄格州程序，是该州最高法院首次被报道就 AI 生成的提交文件错误考虑制裁。但它并非孤立出现。

康涅狄格州联邦法院此前已发布通知，对虚构法律命题或严重歪曲法律的书面陈述采取零容忍态度。无论工作是否获得 AI 协助，这一立场都适用。

最后这一限定至关重要。法院一贯要求律师进行胜任的研究并保持坦诚。生成式 AI 改变了错误出现的速度、规模和表象，却不意味着可以提交这些错误。

律师从书籍中抄错引文，仍须承担责任。软件生成文本时，同样的原则依然适用。康涅狄格州的警告更新了执法措辞，却没有放弃这一职业既有的基础。

Google News 的叙事框架可能让该事件看起来像法官与新技术之间的又一次冲突。但其基本事实支持一种更狭义、也更持久的解读。

法院并非在决定 AI 是否应进入法律实践。它在决定，当生成材料被纳入提交文件时，谁应承担风险。它的答案是：风险仍由提交该文件的人承担。

更快的法律起草如今与个人问责相冲突

生成式 AI 承诺提升效率，但律师的核验义务不会因起草变快而缩减。

法律工作对自动化有很强的需求。律师需要检索庞大的法律依据体系、比对事实记录、准备重复性文件，并在紧迫期限下修改措辞。生成式系统可以加快每项工作的部分环节。

这些收益确实足以推动采用。模型可以提出提纲、简化密集段落、从笔记中提取争点，或生成替代表述。它还可帮助用户构思原本未必会考虑到的研究检索问题。

困难始于将概率型文本生成器视作权威数据库。大语言模型预测的是看似合理的词语序列。它们并不天然保证某段引文确实出现在司法判决中。

法律研究需要不同的标准。律师必须找到判决、阅读相关段落、确认其效力状态，并判断后续法律依据是否改变了其含义。生成摘要仅凭表面无法完成这些步骤。

引用核验也不仅是确认其是否存在。真实案例也可能不相关、已被推翻、被后续规则取代，或被断章取义。某项引用可能指向错误页码，却依然看起来格式正确。

这形成了多层审查：

• 确认所引法律依据确实存在。

• 打开权威或可信的法律来源。

• 阅读每处引文周边的段落。

• 核对页码或段落引用。

• 确认案例支持所陈述的法律命题。

• 审查后续处理情况和具有约束力的法律依据。

• 确保最终提交版本保留已核验的文本。

最后一步尤其值得关注。律师可能核验了早期草稿，却在后续 AI 辅助编辑中失去准确性。因此，版本控制必须涵盖法律实质，而不只是文件格式。

这正是康涅狄格州案件给律师事务所带来压力的地方。对于复杂的起草流程，一项写着“核查 AI 输出”的政策过于含糊。律所需要明确的检查节点、指定审阅人，以及显示哪些内容已获核验的记录。

负责监督的律师同样面临风险。资深律师不能假定初级同事了解每种工具的局限性。胜任能力包括充分了解系统，以便恰当地监督其使用。

American Bar Association 在 Formal Opinion 512 中讨论了这些义务。该指导意见将生成式 AI 与胜任能力、保密义务、客户沟通、坦诚义务、监督和合理收费联系起来。

该意见并不要求律师成为机器学习工程师。但它确实要求律师理解与其工作相关的益处和风险。随着工具和专业实践的发展，这一标准也会随之变化。

除幻觉问题外，保密性还带来另一项风险。律师若将客户信息输入公共 AI 服务，可能会因产品条款和控制措施不同而泄露敏感数据。仅仅确保引文准确，并不能使工作流程变得安全。

披露要求也各不相同。一些法院要求提交有关 AI 使用情况的证明或信息，另一些法院则依循普通提交规则。因此，律师必须查阅主管法院的程序规定，而不能假定全国存在统一政策。

最站得住脚的工作流程，是将 AI 视为不受信任的起草助手。它的输出可以提示应从何处查找，但不能作为法律权威的最终来源。

这一模式类似于谨慎的专业人士处理缺乏经验的研究助理所做笔记的方式。这些材料或许有用，但每一项具有实质影响的主张，在提交给客户、交易对手或法庭前都必须核查。

法律行业以外的知识工作者也应认识到同样的模式。生成式回答可以加快信息发现，但仍不适合作为最终记录。在受监管和高风险工作中，将建议与经核实的证据区分开来至关重要。

可搜索的知识库可以帮助团队留存源文件和审查历史。然而，任何组织系统都无法免除查验原始权威来源的必要。

因此，康涅狄格州的警示对一种流行的自动化承诺提出了挑战。起草阶段节省时间，并不一定会减少总工作量。薄弱的控制措施可能只是将这些工作转移到纠正、制裁程序和声誉修复之中。

真正的风险是制度性污染

一项虚构引文造成的损害可能不止影响一份提交文件，因为法律信息会在相互连接的系统中流动。

直接损害会落在法院和对方当事人身上。法官或书记员必须调查存疑的法律依据。其他律师则必须耗费客户资源，应对本不该被提交的材料。

违规律师所代理的客户同样面临风险。法院可能驳回某项论点、判处费用、延误程序，或驳回诉求。即便某一立场在技术上成立，一旦其依据被证实不可靠，也可能失去可信度。

后果还可能在案件结束后持续存在。公开提交的文件会进入可搜索数据库、新闻报道、内部研究资料库和模型训练语料库。在任何人发布更正之前，一项虚构命题就可能已被复制传播。

这就是制度性污染。虚假材料因出现在看似正式的法律文件中而获得可信度。后来的使用者可能会将反复出现误认为是确认。

生成式系统会加剧这一危险，因为它们能够以低成本复制并改写错误。一项虚构的权威依据可能出现在备忘录、客户提示、在线摘要和后续提示词中。每一次重复都会模糊其来源。

法院自身也不能免受传播错误的影响。法官依赖对抗式书面陈述、书记员研究和来源核查。即便法院最终发现问题，一份表面精致的提交文件仍可能带来额外的核验负担。

这一负担威胁到司法可及性。大型机构或许拥有可用于验证的团队和付费数据库。小型律所、公益律师和自行诉讼当事人往往只能在资源更有限的条件下工作。

AI 可以帮助这些使用者获取信息，但不可靠的输出也可能给他们带来不成比例的成本。因此，康涅狄格州的规则必须在问责与实际执行之间取得平衡。

严格的核验义务具有合理性，因为虚假权威依据的后果十分严重。但法院也应清晰传达规则，并提供培训，区分可接受的辅助与不安全的依赖。

培训应包括具体示例。使用者需要了解虚构案件名称、被篡改的引文和误导性摘要是如何出现的。关于“AI 风险”的抽象警告，无法可靠地改变日常行为。

制裁也需要符合比例原则。故意欺骗、鲁莽漠视、监管薄弱，以及一次已得到纠正的孤立错误，并不构成完全相同的情形。法院在选择救济措施时，传统上会考量行为、损害、通知和补救情况。

值得持怀疑态度地追问的是：新的 AI 专门规则，是否在既有义务之外增加了价值？律师本已对法院负有如实陈述义务，并且必须在提交文件前进行合理调查。

这一质疑有其道理。手动编造引文的律师，会造成同样的事实问题。技术不应分散人们对未能核实这一根本失职的注意力。

康涅狄格州的做法在一定程度上回应了这一担忧：它聚焦于输出，而非禁止某种工具。该规则明确了一种已知的失效模式，同时在核心层面保持专业责任的技术中立性。

全国范围的经验支持这种强调。2023 年，在 Mata v. Avianca 诉讼中，律师因提交归因于 ChatGPT 的不存在判决而受到制裁。该案成为生成式法律权威依据风险的早期公开警示。

Michael Cohen 后来表示，当 Google Bard 提供不存在的案件时，他误以为 Google Bard 是一种增强版搜索工具。根据法院报道，他的律师未进行充分核验便提交了相关材料。

聊天机器人与搜索引擎之间的区别仍然重要。搜索系统会检索并排序现有网页，尽管其结果仍需评估。生成式模型则可以综合生成全新的文本，使其看起来像是检索到的信息。

产品正日益模糊这些类别。搜索界面如今会生成摘要，而聊天机器人会展示引文和网页结果。使用者完全可能难以判断哪些陈述来自来源，哪些来自综合生成。

这种模糊性使界面设计成为风险方程的一部分。供应商可以通过展示来源段落、呈现不确定性，以及防止缺乏依据的引文被显示为已核实文本，来减少混淆。

但它们无法消除专业责任。即便附有链接的来源也必须打开并阅读。引文标识是检索的证据，并不能证明生成的句子准确反映了该文件。

康涅狄格州案件还凸显了公共讨论中的核验缺口。新闻聚合服务传播耸动标题的速度，可能快于读者找到命令、听证记录或适用规则的速度。

Google News 有助于发现相关报道，但并非司法要求的最终权威来源。律师应从聚合标题进一步查阅法院的官方材料及相关职业规则。

这种来源纪律同样适用于 AI。信息发现与核验是两个不同阶段。当一个高效的信息发现工具被悄然提升为权威时，麻烦就开始了。

康涅狄格州的警示给律所和 AI 供应商施压

下一阶段将检验律所能否将明确的义务转化为经得起真实期限考验的控制措施。

大型律所已经在制定有关获准工具、受保护数据、人工审查和供应商评估的政策。规模较小的律所承担着同样的伦理义务，却没有可相提并论的技术或合规团队。

康涅狄格州的规则提高了简明、可审计流程的价值。律所不需要精密的 AI 实验室来核验引文。它需要可靠的来源访问渠道、清晰的责任归属，以及足够的审查时间。

一项务实的政策应界定允许的用途。头脑风暴、格式整理、摘要、翻译和引文生成所带来的风险各不相同。将每一次 AI 交互一概而论，会产生要么过于宽松、要么无法遵守的规则。

律所还应保留清晰的来源层。经核实的判例、法规、规章、合同和案卷材料，应当始终与生成的文字区分开来。审阅者必须知道哪些陈述可直接追溯至这些来源。

定稿还需要另一个检查点。每一项引文和引述都应在准备提交的版本中得到验证，而不只是在早期研究备忘录中。自动化比对可以提供帮助，但负责任的律师必须对结果负责。

与客户的沟通也应保持同样的清晰度。律师应决定何时 AI 的使用构成告知客户的重要理由。相关因素包括保密性、工具的作用、合同限制以及错误的后果。

第一个观察信号是康涅狄格州对 GLG Law 事项的处理。最终制裁或详细意见将显示，大法官如何区分疏忽与明知虚假陈述。

严厉处罚将强化这样一种观点：法院正从教育转向威慑。以培训为重点的适度救济则表明，早期执法仍以纠正为主。

第二个信号是其他州法院的采纳情况。类似的证明规则将为跨司法辖区执业的律所建立更广泛的运营基线。

广泛采纳将强化康涅狄格州的模式。规则分化则会增加合规复杂度，并迫使全国性律所在内部采用最严格且可行的标准。

第三个信号是供应商行为。法律 AI 提供商可以增加更完善的引文验证、来源锁定、版本追踪，以及在生成语言缺乏直接支持时发出警告。

可见的改进将减少意外误用，尽管这不会将最终责任从律师身上转移出去。专门产品内若持续发生失败，将进一步证明需要在模型之外进行独立核查。

法律科技公司也面临沟通挑战。只强调速度而不说明核验要求的营销，可能助长不安全的预期。产品应明确说明其自动化了哪些任务，以及哪些判断仍由持牌专业人士负责。

法院也必须关注自行诉讼当事人。证明要求可以提高准确性，但不熟悉程序的人在使用免费公共工具时可能感到困惑。使用浅显语言的指引和易于访问的来源链接，可以减轻这一负担。

更大的教训超越了诉讼领域。医生、会计师、工程师、研究人员和管理者同样处理必须经受审查的证据。生成式 AI 可以协助每一种职业，同时也可能生成比其证据支持程度更为确定的陈述。

团队在依赖生成内容前，应提出四个问题：

• 哪个原始来源支持这一主张？

• 谁确认该来源确实表达了草稿所声称的内容？

• 后续编辑是否改变了已经核实的表述？

• 谁对最终输出承担责任？

这些问题刻意保持平常。康涅狄格州的警示并不要求某种奇特的技术解决方案。它要求组织在更快的生产流程中恢复清晰可见的问责机制。

对于通过 Google News 追踪这一事件的读者而言，持久的发展并不会是又一次令人尴尬的幻觉事件，而是核验是否会成为 AI 辅助专业工作中标准化、文档化的环节。

康涅狄格州最高法院已经明确了其立场：精致的输出不能替代经过核查的权威依据。律师可以自动化起草工作的部分环节，但无法自动化消除提交文件下方的签名责任。

这一原则为法务团队指明了直接的下一步：审查每一项 AI 辅助工作流程，识别生成内容中的主张可能进入最终文件的环节，并指定专人依据一手来源进行核验。

问题不再是专业人士会不会使用生成式 AI。他们已经在使用。真正的问题是，他们的核验体系能否在不牺牲其工作所依赖信任的前提下，跟上软件发展的速度。