SpaceXAI 就其 AI 裸体化禁令起诉明尼苏达州

在一项具有开创性的 AI 裸体化禁令即将生效前数日，SpaceXAI 起诉了明尼苏达州，使 Grok Imagine 的图像编辑工具面临直接的法律压力。

该法律针对允许用户生成可识别人物逼真裸体图像的服务。运营商每一次违法访问、下载或使用，均可能面临最高 50 万美元的民事罚款。

SpaceXAI 辩称，明尼苏达州制定了一项基于内容的言论限制，其范围远超立法者原本希望遏制的具体滥用行为。该公司表示，若要合规，就必须限制所有明尼苏达州用户对 Grok 图像编辑功能的合法使用。

这一表述带来了艰难考验。明尼苏达州希望在有害图像产生之前加以阻止，而 SpaceXAI 则认为，软件不会仅因用户可能滥用它，就失去宪法保护。

这场争议不只关乎露骨的深度伪造内容。它还涉及：在任何人发布或传播有害内容之前，各州能否在通用 AI 工具层面施加责任。

明尼苏达州法律将如何改变 SpaceXAI 的处境

明尼苏达州正将责任从请求生成滥用图像的个人，转移至提供工具的公司。

SpaceXAI 在法律材料中仍被标注为 X.AI LLC。该公司在法律于 2026 年 8 月 1 日生效前不久，向联邦法院提起挑战。总检察长 Keith Ellison 被列为被告，因为其办公室有权执行该措施。

这项法律在立法过程中被称为 HF 1606，禁止网站、应用程序或其他服务的所有者启用裸体化功能。它也禁止服务提供商为用户生成裸体化图像。

最终的明尼苏达州法律将裸体化定义为生成或修改图像，以展示原图中不存在的私密部位。输出图像必须足够逼真，使理性人士会将该身体与可识别主体关联起来。

这一界定之所以重要，是因为它并不涵盖所有虚构裸体图像。图像必须描绘可识别的个人，其呈现出的身体也必须与该人具有逼真的关联。

不过，该法律并未明确将责任限制在未经图中人物同意而生成的图像。SpaceXAI 表示，这一遗漏会波及自我编辑、获授权的艺术创作、医疗项目、讽刺作品以及其他可能受保护的表达。

该法还包含一项不同寻常的豁免：若生成图像需要用户具备实质性的技术或艺术技能，服务即可不受禁令约束。

这一区分将自动化的消费级功能与手动编辑系统分开。使用复杂图形软件的专业人士可能符合豁免条件，而输入一段简短 Grok Imagine 提示词的人则未必如此。

因此，明尼苏达州的做法既针对内容，也针对可及性。立法者正在回应那些将原本困难的图像操纵流程，简化为上传照片加一条简短指令的工具。

该法律还禁止为从事相关活动的服务做广告或宣传。这项规定的范围超出已完成的图像，并延伸至图像产品的营销方式。

受影响者可提起诉讼，要求获得最高为实际损失三倍的补偿性赔偿。法院还可判处惩罚性赔偿、法律费用、禁令及其他适当救济。

总检察长还可就每一次违法访问、下载或使用，单独寻求最高 50 万美元的民事罚款。法律并未将这项罚款表述为对每张生成图像一律适用的固定罚金。

这种差别很重要。一张图像可能涉及多项具有法律意义的行为，而一次未成功的请求，仍可能引发关于违法访问或使用的争议。

追缴的罚款必须用于支持服务于性侵、家庭暴力、虐待儿童及其他犯罪受害者的组织。明尼苏达州将救济机制围绕受害者服务设计，而非一般性州财政收入。

州长 Tim Walz 于 5 月 7 日签署该措施，此前它获得了压倒性的立法支持。众议院以 132 票赞成、1 票反对通过，参议院则一致通过。

这些票数使此案在政治层面上不同于许多围绕科技监管的争议。SpaceXAI 所挑战的并非一项几乎没有制度性支持、仅由狭隘党派推动的试验。

它挑战的是一项获得两党立法者以及公民自由组织和受害者倡导团体支持的法律。即便最终决定案件的是宪法原则，这个广泛联盟也将影响公众论述。

SpaceXAI 并不否认明尼苏达州在阻止非自愿私密影像方面具有正当利益。其诉状所攻击的，是立法者所选择的方法。

据法院报道，该公司称该法律是对言论和视觉表达的过度宽泛限制。它还认为，该法没有为善意采取保护措施的服务提供商设置安全港。

安全港将保护那些部署合理控制措施、回应举报并移除违禁材料的服务提供商。明尼苏达州法律并未提供这类明确的合规路径。

对 SpaceXAI 而言，眼下的担忧是运营问题。该公司表示，如果法律按现有形式生效，就需要限制明尼苏达州用户使用 Grok Imagine 的编辑能力。

这可能涉及地理封锁、移除功能、更严格的图像过滤，或更广泛地拒绝编辑真人照片。每一种选择也都会阻止部分合法请求。

由此形成了本文的核心张力。明尼苏达州设计了工具层面的禁令，因为立法者认为，针对用户的惩罚往往在损害已经发生后才会到来。

SpaceXAI 则认为，这种预防性模式牺牲了过多的合法表达。法院必须决定，这一负担在宪法上是否可以接受。

为何 Grok Imagine 面临的压力大于专用应用

法律的宽泛措辞让通用图像模型必须为专用裸体化服务所定义的同类能力承担责任。

狭义的裸体化应用具有一种容易识别的用途。用户上传照片、选择输出风格，然后获得伪造的裸体或性化图像。

Grok Imagine 则不同。它能生成和编辑多种图像，包括虚构场景、幽默变换、设计概念和动态照片。

但当保护措施失效或用户绕过这些措施时，通用模型同样能够完成被禁止的变换。明尼苏达州法规关注的是服务允许什么，而不是运营商如何描述产品。

这种设计使 SpaceXAI 处于困难境地。其图像系统并不需要一个公开宣传的“脱衣”按钮，便可能落入法律范围。

自然语言请求可以引导模型改变服装、身体姿势或可见的人体结构。同一套编辑架构既支持无害的服装变换，也支持具有伤害性的性化操纵。

过滤系统必须从请求和上传图像中推断多项事实。它们必须判断主体是否真实、可识别、已同意，以及是否以受法律涵盖的方式被呈现。

同意是最棘手的问题。模型通常无法得知上传者是否拥有该照片，或是否得到图中人物的许可。

一概拒绝能避免这种不确定性，但也会阻碍合法工作。宽松的系统能保留有用的编辑功能，却会为滥用留下缺口。

SpaceXAI 表示，其规则已经禁止用户在未经同意的情况下创作真人的性化图像。其公开的举报流程涵盖涉及可识别人物的生成、上传和分享的私密内容。

该公司称，个人无需拥有账户即可提交举报。它还承诺会尽快移除经确认有效的被举报材料，并在 48 小时内完成处理。

这些政策针对的是内容出现后的检测与移除。明尼苏达州法律则试图阻止底层生成能力本身可被使用。

这种差异解释了为何合规承诺无法解决这场诉讼。强大的举报系统可以减少传播，但无法阻止第一份副本被保存或在其他地方分享。

SpaceXAI 还表示，它使用技术控制措施，并会对规避措施的用户采取行动。当公司能够识别责任人时，账户限制和针对用户的诉讼可以遏制不当行为。

州政府可以回应称，这些措施仍依赖于发现。受害者可能永远不会知道图像的存在，尤其是在有人私下生成图像，或在 X 之外传播时。

自动化生成的规模使这一缺口尤为显著。一个人可以迅速生成大量变体，并在平台收到任何投诉之前保存文件。

这种能力将生成式 AI 与旧式手动编辑工具区分开来。过去，技术技能即便不能影响最终表达所受的法律保护，也曾构成实际障碍。

明尼苏达州围绕这一差别设计了豁免条款。该法规将实质性的人类技能视为表达性工具与自动化消费级裸体化之间的界线。

SpaceXAI 认为这条界线在宪法上并不稳定。第一修正案通常不会因为创作某种表达需要付出更多努力，就给予它更强保护。

这一豁免还可能造成奇怪的产品结果。难以使用的工具或许仍可提供，而更安全、更易用的工具却会因为自动化降低了用户的工作量而变得违法。

反过来，明尼苏达州可以辩称，自动化改变了风险。需要专业知识的工具无法在普通用户群体中造成同等规模的滥用。

这正是该案将对 SpaceXAI 之外的公司产生重要影响的原因。通用图像服务提供商必须判断，普通编辑功能是否会在各州特定定义下产生被禁止的输出。

OpenAI、Google、Meta、Adobe 及其他提供商已对性内容和真人编辑采取不同限制。它们的产品设计各不相同，但都面临同样的身份识别和同意问题。

一些提供商拒绝广泛类别的性图像。另一些则在有限条件下允许成人内容，但对可识别人物施加更严格限制。

明尼苏达州法律引入了不同的标准。它并非只询问服务提供商是否采取了负责任的政策。

它询问的是，该服务是否允许访问被涵盖的能力本身。这种做法将模型行为转化为法律风险，而不再只是信任与安全指标。

对开发者而言，地理位置可能成为图像生成技术栈的一部分。服务可能会依据州法律、用户年龄、身份状态和上传图像类型，加载不同政策。

这种架构也带来自身风险。定位系统会出错，虚拟专用网络可以绕过区域限制，严格过滤器也会产生误判。

因此，公司可能会依据最严格州的标准制定一条全国性规则。明尼苏达州可能在未正式监管州外用户的情况下影响他们。

SpaceXAI 的挑战旨在阻止这种结果。该公司希望法院将该法规视为对合法图像创作的直接负担，而不只是消费者安全要求。

SpaceXAI 将这场争斗定位为言论与预防之间的冲突

核心争议在于，明尼苏达州能否在用户将 AI 输出转化为违法行为之前，就对一项 AI 能力进行监管。

SpaceXAI 最有力的论点涉及范围过宽。当一项法律在涵盖政府可以监管的行为的同时，也限制了大量受保护的表达时，该法律就容易受到挑战。

该公司承认，未经同意的性图像会造成严重伤害。它也承认，各州可以惩罚非法传播行为。

其诉状称，明尼苏达州通过禁止访问一类图像生成功能，跨越了宪法界限。即使图像始终处于私密状态，或获得了图中主体的同意，该禁令仍然适用。

设想一名成年人编辑自己身体的图像。此人身份可辨，修改后的图像可能十分逼真，也可能描绘被衣物遮盖的身体部位。

按照 SpaceXAI 的解读，该法规仍可能追究服务提供商的责任。缺乏明确的同意例外，使这一例子成为该公司挑战的核心。

医学教育则提供了另一种存在争议的情形。对一名授权该项工作的可识别患者进行逼真修改，可能有助于解释手术、解剖学或治疗结果。

艺术家和电影制作人也可利用图像编辑创作讽刺作品、纪录片式重建或虚构场景。这些用途并不会消除隐私担忧，但会使一刀切的禁令变得更复杂。

明尼苏达州则采用不同的框架。立法者重点关注的是将私密图像滥用自动化，并通过普通消费者界面提供这类服务的平台。

立法记录将“去衣化”描述为一种产品功能，而非抽象的艺术技巧。这一区别可能有助于该州将法律辩护为商业监管。

难点在于，该法规通过生成图像的内容运作。执法取决于输出是否以逼真的方式，将某些身体部位与可识别个人关联起来。

基于内容的言论规则通常会受到严格的宪法审查。明尼苏达州必须证明，其法律与一项压倒性的政府利益高度契合。

保护人们免受性剥削构成强有力的利益。更棘手的问题是，该法规是否对言论施加了超出必要范围的负担。

缺乏同意例外为 SpaceXAI 提供了直接的切入点。更狭窄的法规可以聚焦于未经同意的输出、未成年人、恶意意图，或以滥用用途进行营销的服务。

明尼苏达州可以回应称，服务提供商无法在生成时可靠地核实同意。基于同意的例外可能成为用户通过勾选框规避的漏洞。

这种回应揭示了其中的权衡。纸面上更精准的界定，可能会使实际执法变得更弱。

该法规对技术技能的豁免引发了另一场宪法争议。它保护劳动密集型创作，却对能生成类似图像的自动化创作施加负担。

支持者认为，这条界线是对规模问题的务实回应。SpaceXAI 则可以将其描述为对一种新媒介的歧视。

法院此前已在电子游戏、社交网络、推荐系统和合成政治媒体等领域面对相关问题。AI 生成又增加了一层复杂性，因为用户与模型共同产出结果。

服务提供商提供模型权重、训练数据、系统指令和安全控制。用户则提供提示词、上传图像和所要求的转换。

任何一方都无法完全控制每一项输出。这种不确定性使传统的出版者类比并不完全适用。

SpaceXAI 还反对最高民事罚款额度。法规文本授权对每一次违法访问、下载或使用处以最高 500,000 美元的罚款。

高额罚款可能促使公司屏蔽超出法律明确要求范围的更多内容。这种寒蝉效应构成其第一修正案论点的一部分。

该公司的担忧并非假设性的产品规划。一款模型可以处理大量请求，当违规行为被逐项计算时，理论上的责任敞口可能极其巨大。

不过，最高额度并不意味着每个案件都会被处以最高罚款。法院在评估民事制裁时，通常会考虑过错、损害、重复行为及其他情形。

因此，该公司必须区分潜在责任敞口与明尼苏达州现实中会寻求的罚款。如果案件越过早期禁令阶段继续推进，该州的执法选择将至关重要。

总检察长 Ellison 将这场争议聚焦于受害者，而非软件设计。他称强制性 AI 去衣化令人发指，并表示其可能造成情感、个人和职业层面的伤害。

Walz 作出了更简短的政治回应，称会在法庭上见到该公司，并称其“令人毛骨悚然”。这句话捕捉了公众愤怒，但并未回答宪法问题。

最有力的辩护来自承认这些问题的法律支持者。ACLU of Minnesota 支持 HF 1606，同时承认对 AI 图像的限制涉及自由表达。

其信函称，该措施通过对软件所有者施加民事罚款，在安全与言论之间取得平衡。信中还指出，该法律避免将个人用户因可能受保护的表达而定罪。

SpaceXAI 认为，正是这一结构构成问题。将目标对准工具提供商，可能压制所有用户的访问，包括具有合法目的的用户。

两种立场在内部逻辑上都自洽。明尼苏达州认为，服务提供商层面的责任是必要的，因为针对个人的执法来得太晚。

SpaceXAI 则认为，服务提供商层面的责任会将一项针对性滥用法律，转变为对表达性技术的事前限制。这正是法院必须解决的问题。

安全记录使 SpaceXAI 的宪法主张更加复杂

SpaceXAI 拥有严肃的法律论点，但 Grok 已有记录在案的滥用情况，使纯粹抽象的言论自由叙事难以成立。

这起诉讼发生前，Grok 生成的性化图像已受到数月审视。用户曾公开提示该服务修改真实女性的照片，在一些报道案例中还涉及未成年人。

SpaceXAI 随后宣布将采取更强的技术措施。该公司表示，Grok 将阻止涉及穿着暴露服装的真实人物的某些编辑，并在当地法律要求的地区实施地理限制。

这些变化表明，该公司能够限制特定请求。它们也支持 SpaceXAI 的说法，即其已采用比全面功能禁令限制更少的工具。

然而，安全措施并不等同于可靠预防。过滤器可能漏掉间接提示、陌生俚语、裁剪后的图像，或被拆分为多个编辑步骤的请求。

用户也会分享规避方法。一项能阻止直接指令的安全规则，可能在有人将同一请求重新包装为艺术修复或服装设计后失效。

公开可见的失败尤其重要，因为私下发生的失败更难衡量。平台可以删除 X 上的帖子，但用户仍可能保留下载副本，或通过独立的 Grok 界面生成图像。

SpaceXAI 的规则并未消除底层产品风险。它们只是确立了滥用行为违反公司政策。

该公司还起诉了被指控绕过其控制措施的用户。这种策略将责任置于故意滥用 Grok 的人身上，并提供了账户暂停之外的威慑。

然而，针对用户的诉讼发生在图像生成之后。一旦有人保存并重新传播图像，它无法恢复对图像的控制。

受害者面临尤其严苛的核实负担。他们可能需要证明是谁创建了图像、由哪个模型生成，以及文件如何在平台之间流转。

当内容仍留在公司控制的服务上时，其举报流程会有所帮助。但当生成文件流向私信、论坛或第三方网站时，保护作用就会减弱。

明尼苏达州围绕这一执法缺口设计了 HF 1606。其逻辑是，防止轻易创建图像，比要求受害者在互联网上追查副本能提供更强保护。

联邦层面的做法通常聚焦于发布和移除。TAKE IT DOWN Act 将某些未经同意的发布行为定为犯罪，并要求受覆盖平台支持删除请求。

明尼苏达州则更进一步上游。它在发布发生前，针对自动化生产机制的访问。

得克萨斯州采取了更狭窄的服务提供商责任路径。据报道，其规则聚焦于运营者在未经同意的图像出现时的知情程度与应对措施。

这种模式为服务提供商提供了基于通知与移除的合规路径。明尼苏达州的法律则没有提供类似的安全港。

这种对比有助于解释其中的利害关系。基于通知的系统容忍一定的初始伤害，因为责任会在服务提供商知情后增加。

能力禁令试图阻止初始伤害，却更容易波及合法创作。两种设计都无法免除对身份与同意作出艰难判断的需要。

其中还存在产品竞争问题。图像政策最严格的公司可以避免部分法律风险，但会提供更少的编辑选项。

拥有更宽松系统的服务提供商可以吸引寻求创作自由的用户。但它们也承担更高的内容治理成本和更多监管风险。

Grok 经常将自己定位为比竞争对手助手限制更少的产品。明尼苏达州的法律对这种产品定位施加压力，因为广泛的编辑自由会产生更多边缘案例。

不过，政策制定者不应假设一家服务提供商代表整个市场。专门的去衣化网站可以更换域名、在海外运营，或在主要应用商店之外分发软件。

限制一家知名美国 AI 公司，并不会自动消除专业化工具。执法可能将部分滥用活动推向问责性更弱的运营者。

这种不确定性强化了 SpaceXAI 关于精准界定的论点。对主流工具施加负担的法律，仍必须证明其能够有效应对预期伤害。

它也强化了明尼苏达州关于紧迫性的论点。如果广泛可用的通用模型添加了类似功能，那么仅监管不知名的专用应用会留下巨大漏洞。

法院不应将公司的安全措施视为经独立验证、毫无瑕疵的方案。SpaceXAI 表示其采用了广泛控制措施，但反复出现的公开担忧表明，模型层面的过滤仍是一个持续改进的过程。

法院也不应将每一次 Grok 图像编辑都视为天然具有滥用性质。该系统拥有许多与去衣化无关的合法用途。

平衡的分析必须同时把握这两个事实。Grok 的滥用真实到足以要求采取行动，而受到挑战的法规仍可能在宪法上范围过宽。

这就是为什么怀疑性的提问应当处于这篇报道的中心。SpaceXAI 是在捍卫合法的创作工具，还是在捍卫一种留下过多本可避免伤害的产品架构？

答案并不能由诉状或该州的政治言辞确定。它取决于技术证据、执法细节，以及法院对自动化表达的处理方式。

SpaceXAI 诉讼之后会发生什么

三个信号将表明，此案究竟会成为一场狭义的明尼苏达州争议，还是成为生成式图像服务的全国性规则手册。

第一个信号是法院对任何即时救济请求的回应。SpaceXAI 需要获得临时限制令或初步禁令，以避免在合规与执法风险之间作出选择。

快速批准禁令将强化该公司的主张，即 HF 1606 对受保护的表达施加负担。这也将表明法院对同意、范围过宽或技术技能豁免存在严肃担忧。

如果法院允许该法律生效，也并不意味着其合宪性已获确定。这只表明 SpaceXAI 未能满足紧急救济所要求的严格条件。

法院的论证将比初步结果更重要。若裁决聚焦于诉讼资格或程序时机，对其他 AI 提供商的指导意义将十分有限。

若裁决涉及基于内容的限制，其影响将更为广泛。它可能影响针对其他规范合成图像和自动化创意工具的州法律所提出的挑战。

第二个信号是 SpaceXAI 在明尼苏达州实际采取的产品应对措施。该公司表示，这项法律将迫使其对 Grok Imagine 施加限制，但这些限制的范围仍不明确。

如果只是针对涉及真实人物的色情编辑实施有限的地理封锁，将削弱“该法律摧毁通用图像编辑功能”的说法。这可能表明，实际合规是可行的。

若全面关闭真实人物编辑功能，则会强化该公司的寒蝉效应论点。这将表明，不明确的定义会迫使提供商进行过度拦截。

误判将提供有用证据。如果普通的泳装修改、历史图像修复或经授权的自我编辑无法正常使用，SpaceXAI 将拥有合法表达遭到限制的具体案例。

明尼苏达州将以不同方式审视同样的证据。若能有效拦截且错误很少，将支持其主张：提供商可以移除有害功能，而无需关闭整个创意系统。

第三个信号是其他州是否会效仿明尼苏达州，或采取更狭窄的替代方案。立法者将比较能力禁令、基于同意的规则、安全港机制以及通知与移除制度。

一波明尼苏达州式法案将抬高整个市场的合规成本。提供商可能会采用一项全国性政策，而不是维护五十套因州而异的系统。

更狭窄的法案将削弱明尼苏达州关于其设计具有必要性的立场。它们可能表明，政府可以在不禁止访问广泛工具类别的情况下保护受害者。

联邦层面的行动也可能改变局面。一项全国性规则可能优先适用并排除相互冲突的州要求，或为同意和提供商责任建立统一标准。

在此之前，图像公司仍将面临碎片化的义务。产品团队需要律师、安全研究人员和工程师，将法律定义转化为模型行为。

开发者应关注法院如何界定输出内容。如果 AI 生成图像获得普通言论保护，州政府将需要制定与同意、欺诈或传播相关的更狭窄监管措施。

如果法院将该服务视为商业产品，政府将拥有更大空间监管高风险能力。这一路径可能延伸至私密图像之外。

同样的逻辑可能适用于语音克隆、冒充他人、自动化骚扰，以及生成欺诈性文件的工具。因此，明尼苏达州的案件是对基于能力的 AI 监管的一次检验。

企业采购方也应关注。提供商的安全架构如今可能决定某项功能是否能在特定司法辖区内继续提供。

采购团队不能只依赖关于负责任 AI 的笼统保证。他们需要有文档记录的控制措施、区域可用性规则、报告渠道以及事件响应承诺。

使用图像工具的知识工作者应预期，对可识别人物的处理将更加严格。即使是获得授权的编辑，也可能需要验证，或转入专门的工作流程。

对受害者和倡导者而言，眼下的问题更简单：这项法律是否能减少滥用图像的供给，同时又不会设置使保护难以获得的程序性障碍？

明尼苏达州选择了预防，而非平台灵活性。SpaceXAI 选择提出宪法挑战，而不是悄然在全州范围内移除存在争议的能力。

现在，法院必须界定边界。它必须区分正当保护与可能过度控制合法视觉表达的法律。

读者应关注禁令裁决、Grok Imagine 在明尼苏达州的限制，以及其他州的仿效性立法。这些信号结合起来，将揭示哪一方的理论能经受真实产品的检验。

如果明尼苏达州能够为该法律辩护，SpaceXAI 和其他提供商将需要把防止滥用视为提供图像工具的前提条件。如果 SpaceXAI 获胜，立法者则需要围绕同意、意图或传播建立一种更狭窄的模式。

悬而未决的问题并非未经同意生成裸露图像是否会造成伤害，而是禁止访问某种自动化能力，是否是制止这种伤害最合法的方式。