xAI 就全美首部 AI 脱衣图生成禁令起诉明尼苏达州

在明尼苏达州全美首部 AI 脱衣图生成技术禁令原定于 8 月 1 日生效前数日，xAI 起诉了该州。这起联邦诉讼让 Elon Musk 旗下公司与试图阻止生成可识别人物私密图像工具的州政府正面交锋。随着争议进入 Google News，核心冲突已不止涉及一个聊天机器人或一项州法律。

明尼苏达州希望监管的是获取图像生成能力本身，而不只是惩罚传播未经同意图像的人。xAI 承认该州保护受害者的利益，但认为该法案同时阻断了合法、经同意且受宪法保护的表达。

这一差别带来了棘手的法律检验。政府历来主要针对有害图像、其传播行为，或制作图像的施害者。明尼苏达州则直接向提供脱衣图生成能力的服务施加义务，使执法更接近底层技术本身。

结果将影响明尼苏达州以外的地区。AI 开发者正日益在多个司法辖区运营图像生成器，而各地对于同意、私密内容和平台责任的定义各不相同。若裁决支持明尼苏达州的做法，将强化在有害图像传播前监管 AI 能力的努力。

明尼苏达州的脱衣图生成法改变了什么

明尼苏达州法律将法律压力从滥用工具的用户转向提供图像生成工具的公司。

据最初的法庭争议报道，xAI 于 7 月 27 日在联邦法院提交了长达 38 页的起诉书。提交诉讼时，明尼苏达州的新禁令距离原定生效仅剩五天。

该法案将“脱衣图生成”定义为修改或生成图像或视频，以呈现原始内容中不存在的私密部位。该规定适用于生成内容描绘可识别个人的情形。识别可以来自图像本身，也可以来自其旁展示的个人信息。

明尼苏达州法案禁止运营商允许州内人士访问受管制技术，也禁止为创建或支持生成脱衣图像或视频的服务做广告或推广。

这种做法不同于聚焦发布或持有未经同意私密影像的法律。此类规则通常在有人制作、分享或拒绝删除有害图像后追究责任。明尼苏达州则在传播发生前，针对获取生产机制的行为。

这一差别至关重要，因为相关技术往往具有双重用途。图像到图像生成、局部重绘和换脸可以服务于普通创作工作；同样的功能也可以将可识别人物的脸部或身体置入人工生成的色情场景。

明尼苏达州的执法机制授权州总检察长追究违法行为。每次非法访问、下载或使用，潜在民事罚款最高可达 50 万美元。这种风险使地理限制和自动拒绝机制成为重要的运营要求，而非可有可无的审核功能。

对 xAI 而言，Grok 在 X 内部的位置使合规更加复杂。用户可以看到公开照片、向聊天机器人提出请求，并要求编辑图像，无需转到其他应用。因此，创作工具和传播网络可能在同一环境中运行。

明尼苏达州法律试图从源头切断这一路径。支持者认为，预防比要求受害者在内容发布后寻找并删除副本更有用。xAI 则认为，该州为实现这一目标制定的限制过于宽泛，因而不符合宪法要求。

该公司称，该法律涵盖经同意制作的图像，包括图中人物自行生成的图像。它还反对被纳入的“私密部位”定义，称其涵盖通常会在公共场合露出的身体区域。

法院尚未裁决这些主张。它们提出了案件的直接问题：明尼苏达州究竟是精准针对有害行为，还是禁止了一整类视觉表达。

这就是为何该诉讼比又一起平台内容审核争议更具影响力。明尼苏达州正在检验：当一种生成能力可预见地同时支持合法和滥用性输出时，一个州能否控制对该能力的访问。

为什么 Google News 关注的不只是一场州级诉讼

该案暴露出全国性缺口：一边是移除滥用图像的法律，另一边是旨在阻止其生成的规则。

主关键词 google news 反映了许多读者将如何首次接触这场争议。然而，底层故事关乎一种可能远超单个新闻周期的监管模式。

联邦法律已通过 TAKE IT DOWN Act 处理未经同意的私密影像。该框架聚焦发布和移除，包括受害者可要求受覆盖平台删除符合条件内容的程序。

明尼苏达州进一步向上游推进。其法律提出的问题是：在任何人生成图像之前，运营商是否应当让脱衣图生成工具无法使用。这一选择减少了对受害者的依赖；否则，他们必须发现内容、记录证据、识别托管方并提交删除请求。

删除系统仍然必不可少，因为任何访问禁令都无法消除所有生成器。开放模型、境外服务、本地软件和重新包装的图像编辑器，仍可能在受监管平台之外提供服务。一旦图像生成，它也可能以快于单一公司响应速度的方式跨越账户和服务传播。

不过，下游执法会将大量成本转嫁给图中人物。一张合成图像可能在成功投诉移除原始副本之前，便传到同学、雇主、亲属或匿名论坛。即使首个平台采取行动，复制品仍可能长期存在。

受害者并不局限于拥有大量公众曝光度的人。2026 年一项社区研究考察了从 4chan 收集的 24,105 项合成、未经同意的露骨内容。研究人员将 55.8% 的目标归类为非名人，相较此前研究中的 4.7% 显著增加。

这种变化削弱了“深度伪造滥用主要威胁演员、音乐人或政治人物”的假设。如今，施害者只需要一张容易获得的照片，以及愿意将其转换的服务。社交资料、学校照片和工作场所页面都提供了大量输入素材。

该研究还发现，开源系统在所观察内容中发挥了重要作用。Stable Diffusion 系列模型生成了 42.7% 的分析图像，而 Wan 生成了 66.5% 的视频。

这些数字不应被视为所有合成私密影像的市场份额。它们描述的是一个被研究的社区和一个数据集。然而，它们说明了为何监管单一公司无法消除这项技术能力。

明尼苏达州的做法回应了可获取性问题。能够将自然语言请求转化为编辑图像的服务，消除了制作令人信服的操纵内容过去所需的大量专业技能。这种可获取性既能扩展合法创作，也能扩大滥用。

因此，该法律向面向消费者的生成器公司施压，而不只是针对明确以脱衣工具为卖点的服务。通用助手或许从不自称为脱衣图生成产品，但用户仍可测试提示词、上传照片并探查其安全防护。

由于 Grok 兼具广泛可见度、图像编辑与生成功能，xAI 面临尤其严格的审视。这场争议此前已引发公众对用户通过该服务请求女性和儿童性化描绘的担忧。

今年 1 月，由两党组成、涵盖 35 个州和领地的总检察长联盟要求 xAI 加强保障措施。他们的Grok 信函要求采取更强有力的预防、移除、账户暂停、举报，以及限制其他用户编辑他人内容的措施。

该联盟包括明尼苏达州。其要求表明，州官员为何认为自愿审核并不足够。他们并非仅仅要求 xAI 发布更严格的条款，而是希望其采取技术措施，防止通过 Grok 和 X 生成相关内容。

该诉讼如今将这一政策分歧转化为一场宪法层面的较量。Google News 读者看到的是更广泛斗争的开端：安全防护究竟应继续作为公司政策，还是应成为可强制执行的法律义务。

xAI 的言论自由主张遭遇明尼苏达州的预防策略

主要对立并非 xAI 与某一名民选官员，而是平台自主裁量与法律强制预防之间的冲突。

xAI 表示，它并不质疑明尼苏达州阻止传播未经当事人同意制作的人工裸体图像的利益。其挑战主张的则是，该法案超出了这一被普遍接受的目标。

该公司将该法律描述为过度宽泛、基于内容的限制。基于内容的法律会根据表达的主题或信息进行监管，通常会触发严格的宪法审查。

按照 xAI 的论点，州政府不能仅因部分输出令人反感或有害，就禁止广泛类别的图像工具。起诉书称，明尼苏达州涵盖了合法图像，包括经同意的作品以及人们为自己创作的图像。

该公司还称，该法案没有为善意阻止滥用的运营商提供安全港。安全港可在公司遵循明确保障措施的情况下保护其免于承担责任，即使有意规避规则的用户偶尔成功绕过防护。

对于任何概率性 AI 系统而言，这种缺失都会带来现实担忧。过滤器可以拒绝明显的请求，但用户可以改写指令、修改源文件，或组合多项看似无害的操作。接近严格责任的规则可能会在运营商采取了大量预防控制措施后仍对其加以惩罚。

xAI 表示，Grok 的条款禁止侵犯隐私的非法、有害或滥用活动。该公司还称，它可以暂停或终止账户，并举报疑似儿童性虐待材料。

条款和执法政策固然重要，但不能决定本案结果。书面规则无法证明模型会在多大程度上一致地拒绝被禁止的编辑请求，也无法说明平台会多快识别用户发布后的输出内容。

明尼苏达州总检察长 Keith Ellison 将问题聚焦于受害者而非生成器。他将非自愿 AI 脱衣图生成描述为对尊严的攻击，会带来情感、个人和职业层面的后果。

这一立场缩小了道德分歧，但没有消除法律分歧。双方都认为未经同意的性影像会造成伤害；他们的分歧在于，明尼苏达州是否制定了足够精准的限制，以及服务运营商是否应承担直接责任。

这种差别很重要，因为在生成时很难推断是否获得同意。模型接收的是照片和提示词，但它无法可靠地知道谁拥有该图像、谁出现在其中，或每一位被描绘者是否都已同意。

平台可以选择封禁整个相关类别。这会减少滥用，但也会排除已同意的成年人、长相类似真人的虚构角色、教育材料、医疗场景以及部分艺术表达。

平台也可以要求用户声明自己已获得同意。声明能提供证据并增加操作阻力，但不良行为者仍可能撒谎。身份验证可以强化这一流程，但也会带来隐私、安全和可访问性问题。

第三种选择是地理封锁。xAI 在 1 月宣布，将在相关输出违法的地区阻止涉及真人的某些编辑。基于地点的控制措施有助于遵守不同司法辖区的规定，但虚拟专用网络和用户位置的不确定性会限制其效果。

这些选择说明了为何平台自由裁量权对开发者颇具吸引力。它允许每项服务结合过滤器、账户历史、身份信号和人工审核。公司还可以随着用户发现新的绕过方式而更新防护措施。

明尼苏达州的预防策略则基于不同前提。如果可预见的滥用会伤害从未同意参与的人，服务提供商不应独自决定哪些防护措施已足够。

这种分歧将塑造宪法分析。法院可能认定明尼苏达州追求了极具说服力的利益，但选择的方法过于宽泛。法院也可能得出结论：对产品或服务访问的监管，与有害行为之间存在足够紧密的关联。

裁决可能取决于法条细节，而非对所有 AI 监管作出全面判断。定义、例外、执法标准以及是否存在更狭窄的替代方案，都可能决定一项涉及言论的法律能否经受审查。

因此，本案并不是在就 deepfake 滥用是否值得监管进行公投。它要问的是，州政府可以将控制点设在哪里，才不会压制过多合法表达。

双用途图像工具让简单禁令难以实施

技术难题在于，一款看似无害的图像编辑器，也可能提供与专门去衣服务相同的底层能力。

去衣并不是某个模型功能上带有通用开关的单一特性。多种技术路径都能产生类似结果，包括换脸、图像修补、基于提示词的编辑和视频生成。

图像修补会替换选定区域，并利用周围像素和文本提示词构建新内容。这项功能可用于移除物体、修复照片或更换服装等常规编辑。它同样可能捏造原始图像中从未出现过的私密部位。

换脸也带来类似问题。用户将一个人的脸放入另一张图像或视频中。喜剧滤镜和创意应用依赖这一功能，但滥用者可以选择露骨的目标图像。

一项系统性的安全审计识别出 420 款换脸应用，并对其中 155 款符合条件的应用进行了人工测试。研究人员发现，70% 的应用缺乏防止在裸露图像中进行换脸的技术防护措施。

研究人员称，受测应用中没有一款自称为去衣应用。这一发现很重要，因为应用商店标签和营销用语并不能可靠地揭示一款产品允许什么行为。

仅限于公开售卖“脱衣”功能服务的规则，会漏掉具备等效能力的通用图像编辑器。更宽泛的规则可以覆盖这些工具，但也会增加限制合法软件的可能性。

Apple 和 Google 已下架明确以去衣功能为卖点的应用，但审计发现，功能上存在风险的应用仍然留存。分发控制可以减少用户随意发现这些应用的机会，却无法消除底层模型或工作流程。

Grok 又增加了一个维度，因为它接受对话式请求。专用编辑器会呈现可供审核人员直接测试的按钮和设置。通用模型可能会因措辞细微差异、上下文线索、上传图像或后续提示而作出不同响应。

开发者通常会组合多层防护。分类器可以检查源图像，另一个分类器可以评估请求，最后的系统可以扫描生成结果。账户限制和速率限制还可以增加额外阻力。

每项控制都可能产生错误。漏报会放行滥用内容，误报则会阻止合法内容。攻击者还可以利用裁剪、拼写错误、间接表达或迭代编辑来试探边界。

这些局限性支持了 xAI 对安全港的要求。开发者认为，如果技术上无法实现完美预防，责任应取决于合理的防护措施和及时响应的执法。

同样的局限性也强化了明尼苏达州的担忧。服务提供商可能以检测并不完美为由，回避有实质意义的预防责任，让图中被描绘的人承担失败代价。

可行的监管框架需要可衡量的义务。这可能包括有记录的风险测试、与年龄有关的控制、提示词和输出筛查、事件报告、快速投诉处理以及独立评估。

然而，明尼苏达州的法律并不是针对模型开发的详细安全标准。它禁止访问受覆盖的技术，并以高额民事处罚来支持这一禁令。

这种结构让法院可供评估的技术基准更少。核心问题变成了受覆盖类别是否清晰，以及该州所选择的限制是否合乎比例。

这与普通内容审核之间的差异很重要。平台通常可以审查已发布的帖子，并判断其是否违反规则。生成式工具必须在图像尚未存在前评估意图和同意情况。

同意尤其难以判断，因为它存在于像素之外。被描绘者的脸并不会显示是否已获授权。元数据可以被移除或伪造，而拥有照片并不必然意味着有权将照片主体性化。

最保守的平台回应，是拒绝对可识别的真人进行性化编辑。这一规则比区分自愿和非自愿请求更容易执行，但也会阻止更广泛范围的合法表达。

这一权衡正处于诉讼核心。明尼苏达州倾向于更广泛的预防，因为伤害可能立即发生且不可逆转。xAI 则认为，宪法不允许该州通过压制受保护图像来解决这一问题。

xAI 的主张并未解决什么

xAI 的挑战指出了可能存在的立法起草问题，但这并不能证明自愿性防护足以保护 Grok 中被描绘的人。

该公司的条款禁止非自愿去衣，其诉状描述了针对规避防护措施者的执法行动。这些表述确立了 xAI 的正式立场，但并未独立衡量系统在持续对抗性使用下的表现。

公共政策不能假设书面规则就等同于技术预防。用户经常大规模测试新发布的模型，分享成功的提示词，并在提供商修补一种方法后迅速调整策略。

1 月的反弹表明，图像生成行为能多快成为监管议题。在用户生成涉及女性和儿童的性化编辑后，各国政府开始质询 Grok。此后，xAI 宣布将在此类编辑违法的地区实施基于地点的限制。

这一回应表明，公司可以根据司法辖区调整访问权限。它也提出了一个问题：既然自愿的地点控制在运营层面可行，为何可执行的本地限制会违宪。

答案部分取决于范围。公司可以选择保守政策，并在不面对政府处罚的情况下予以修订。法定禁令则会使运营者因其无法控制的定义而面临法律后果。

每次违规最高 500,000 美元的罚款加剧了不确定性。如果每次成功生成、访问或下载都会带来单独的风险敞口，少量绕过就可能造成巨额责任。

因此，缺乏安全港可能会阻碍公司在明尼苏达州提供合法的图像功能。法律资源较少的服务提供商可能会封锁其整项服务，而不是去解释边界。

这种结果将支持 xAI 的过度宽泛论点，但并非不可避免。执法选择、司法解释和后续指引，都可以缩小法条在实践中的适用范围。

公司更广泛叙事还面临可信度问题。一个两党州检察长联盟表示，xAI 早期的改动并不充分，并要求就 Grok 的控制措施作出详细回应。

该联盟特别要求为 X 用户提供一种方式，阻止他人调用 Grok 编辑他们的帖子。这一要求指出了一个具体的产品设计问题。发布普通照片的人可能不会预料到，第三方能通过同一网络附带的聊天机器人对这些照片进行转换。

用户层面的退出选项可以减少这种风险，尽管它无法解决照片被复制到其他地方的问题。除非更安全的设置成为默认选项，否则这也会给潜在目标增加另一项负担。

独立研究使人们难以将去衣视为一个狭窄的边缘案例。换脸审计发现，多款消费级应用的防护措施薄弱。4chan 研究观察到目标明显转向非名人。

这两项研究都不能决定明尼苏达州法律是否合宪。但它们解释了为何立法者寻求在发布前进行干预，以及为何仅靠平台规则会招致怀疑。

竞争又增加了一层复杂性。Google 和 OpenAI 等公司通常会对色情内容及涉及真人的滥用施加限制。开源图像系统则更难治理，因为用户可以在托管服务之外运行或修改它们。

因此，一项聚焦托管访问的法律可能会给显眼的公司带来负担，却漏掉本地生成。明尼苏达州可以监管服务于该州居民的企业，但无法移除已在全球范围内分发的权重和代码。

这一缺口并不意味着监管毫无用处。法律经常在不消除所有路径的情况下减少伤害。但这意味着政策制定者应衡量受影响的服务是消失、改进防护措施，还是仅仅将用户引导至其他地方。

任何一方的过度主张都会掩盖真正的问题。诉讼并未证明明尼苏达州只禁止了有害行为。法律的通过也未证明访问限制将实质性减少受害。

证据必须来自实施过程。监管者需要事件数据，公司需要可复现的安全测试，法院则需要清晰记录，说明这些定义如何影响合法和非法用途。

Google News 的报道可能会让这场争议看起来是二元对立：言论自由对受害者保护。更困难的问题在于校准。一项有效政策必须在保留对已记录滥用的强力回应的同时，不能将每项生成式图像功能都视为非法。

Google News 头条之后值得关注的三个信号

下一阶段将揭示，此案究竟会带来一项范围狭窄的明尼苏达州禁令，还是形成一套更广泛的生成式工具监管蓝图。

第一个信号是联邦法院对任何初步救济请求的回应。初步禁令可以在诉讼继续期间暂停执法。法院通常会考虑胜诉可能性、不可弥补的损害、相互竞争的损害以及公共利益。

若裁决强调过度宽泛或基于内容的监管，将强化 xAI 的挑战。它还可能鼓励其他图像服务提供商在类似结构的法律生效前对其提出质疑。

一项有利于明尼苏达州的裁决将强化该州的预防模式。其他立法机构或可借鉴其对访问、推广和运营方责任的关注，而非完全依赖删除义务。

具体的裁判理由将比眼前的胜负更重要。法官可能会质疑私密内容的定义、对双方自愿图像的处理方式，或缺乏安全港条款，但并不意味着完全否定上游监管。

第二个信号是明尼苏达州或其他州是否会为善意保障措施制定合规标准。明确的标准可以包括拒绝测试、经验证的同意机制、对上传照片的默认保护，以及快速事件响应。

这类标准将回应 xAI 关于不确定性的部分论点。它们也将使监管机构能够区分投入预防措施的公司，与蓄意设计为促成滥用的服务。

如果立法者加入经过谨慎界定的安全港条款，明尼苏达州现行法规在维持运营方责任的同时，可能会降低其受到挑战的脆弱性。如果官员拒绝任何调整，法院可能认为该法律的限制超过必要程度。

第三个信号是 xAI 的产品行为。读者应关注 Grok 是否扩大地域封锁、改善用户控制、公布安全测试结果，或改变 X 内部的图像编辑方式。

更强的保障措施将支持明尼苏达州的主张，即服务提供商层面的控制既可行也有必要。持续存在的绕过方式则会削弱 xAI 关于自愿规则足以应对风险的保证。

若在明尼苏达州全面关闭合法编辑功能，则会提供不同的证据。这可能表明该法规难以进行选择性适用，也可能反映出一种旨在限制责任的战略性商业应对。

国际动态提供了另一个参照点。英国已着手将制作或索取未经同意的色情深度伪造内容定为犯罪，并推动限制提供去衣化工具。其法律应对也促使 xAI 宣布实施本地控制措施。

这些政策并不能决定美国第一修正案相关问题。它们表明，各国政府日益希望在图像传播之前就明确责任归属，而不只是等受害者提出删除请求之后再处理。

对开发者而言，实际的教训是，应将涉及同意问题的图像编辑视为一种需要技术证据支持的产品风险。政策、过滤机制、用户控制、升级处理记录和地域合规系统都将面临更严格的审查。

企业采购方应询问，图像模型能否识别并拒绝涉及真实人物的高风险转换。他们还应审查供应商如何记录故障，以及用户绕过控制措施时如何应对。

知识工作者和普通 AI 用户则有不同的理由关注此事。出于日常职业或社交目的发布的照片，可能在未经当事人参与的情况下成为模型输入。因此，图像工具的安全性会影响那些从未选择使用这些工具的人。

xAI 的诉讼不会解决围绕合成私密图像的所有问题。但它可能确立各州是否有空间监管对生成式能力的访问，以及宪法对这一策略施加何种限制。

继续关注法院对受保护表达的处理、任何安全港提案，以及 Grok 可衡量的变化。这些信号将表明，Google News 的标题会成为持久的法律先例，还是一个警示：明尼苏达州的首次尝试起草得过于宽泛。