top of page

五大出版商一边反对 AI 垃圾内容,一边扩大 AI 使用

3天前
讀畢需時 14 分鐘

据报道,HarperCollins、Simon & Schuster 和 Hachette 正在扩大生成式 AI 的使用,尽管它们同时也在应对 AI 对图书和作者构成的威胁。据称,五大出版商日益扩大的 AI 使用范围涵盖宣传文案、营销材料、电子邮件、视觉作品以及内部工作流程分析。

这正是核心矛盾所在。出版商希望科技公司和作者尊重版权、合同与创意劳动。然而,员工和经纪人表示,这些出版商已将 AI 引入自身运营,却并未始终获得作者同意,也未始终披露其使用情况。

现有证据主要来自匿名员工,因此具体规模仍未得到验证。不过,这些被披露的做法显示出信任问题正在扩大。出版商已不再只是站在场外讨论 AI,而是在决定自动化会进入哪些环节、替代谁的工作,以及谁将获知相关情况。

据报道,三大出版商已将 AI 纳入日常工作

眼下的变化并不是出版商刚刚发现 AI,而是员工描述这项技术正在没有明确公开规则的情况下进入常规出版工作。

10 月 9 日发布的一项出版业调查采访了二十多名从业者。他们据称来自 HarperCollins、Simon & Schuster、Hachette 以及行业内其他机构。

这些消息人士称,员工使用大型语言模型,即 LLM,来起草宣传材料、封底文案、电子邮件和营销素材。LLM 是通过预测从大型数据集中学习到的语言模式来生成文本的系统。

一些员工还报告了涉及封面图像和营销视频的 AI 相关试验。该文章并未证明每一家被点名的出版商都采用相同做法,也未证明每个部门都已采纳这些做法。

这一区分很重要。一家大型出版商包含许多品牌、团队、承包商和地区合作伙伴。某个部门的试验并不自动代表全公司的政策。

不过,这些说法描述的并不只是零星的个人使用。据报道,在 HarperCollins,高层购买了 Claude 的企业版访问权限,员工也可以使用 ChatGPT 和 Jasper。随后,员工被要求通过定期头脑风暴会议识别潜在应用场景。

HarperCollins 未对该调查作出回应。因此,其被报道的做法仍属于现任员工提出的指控,而非经公司确认的政策。

Simon & Schuster 承认,其各职能部门的员工可以访问数量有限的一组企业 AI 工具。该公司表示,这些工具的使用完全自愿,并且仅限于已通过内部审查的产品。

该公司称,其目标是让员工能够投入更多时间与作者开展更深入的创意工作。这一解释将 AI 定位为运营支持,而非出版判断或人际关系的替代品。

Hachette 则提出了更狭窄的区分。一位发言人表示,当 AI 有助于图书触达读者时,公司支持将其用于运营目的。该公司称,不支持创意性应用,包括使用 AI 与作者和合作伙伴进行生成式沟通。

员工的说法使这些边界变得复杂。据报道,文学经纪人怀疑部分拒稿邮件带有熟悉的生成式模式。三家出版商的员工告诉记者,他们认为其中至少一部分怀疑是准确的。

这些情况均无法证明某一封具体邮件来自 LLM。文本检测器和文体信号在单独使用时仍是不可靠的证据。重复措辞可能引发疑问,但无法确定无疑地证明作者身份。

更站得住脚的结论应当更为有限:据报道,AI 工具已存在于大型出版商的工作流程中,但员工、经纪人与作者对允许的使用范围尚未形成共同认知。

一篇后续报道聚焦封面设计与宣传,进一步凸显了这一冲突。该报道认为,反对低质量 AI 图书的出版商,如今可能正在将类似技术用于自己的图书周边环节。

问题并不在于每一段生成文字或每一张生成图片是否都应被称为“垃圾内容”。问题在于,出版商能否要求外部人士保持透明,同时又让自身做法难以被审查。

五大出版商使用 AI 造成同意缺口

当作者未出版的作品在未经明确许可或实质性披露的情况下进入模型,五大出版商对 AI 的使用便成为治理问题。

据报道,经纪人已在合同中加入条款,禁止出版商将书稿提交给 LLM。这一限制针对的是具体风险,而非对自动化的笼统担忧。

未出版书稿包含的不只是文字。它可能包含具有商业敏感性的创意、个人信息、保密报道内容,或所有权尚未完全厘清的材料。

将这类书稿上传至面向消费者的 AI 服务,可能使其暴露在第三方的基础设施和数据保留政策之下。企业产品或许能提供更强控制措施,但这些保护取决于合同、配置以及实际工作流程。

因此,封闭环境与公共云工具之间的区别十分重要。封闭系统将数据保留在受控网络或获批准的技术边界内;开放服务则会将内容发送至外部提供商运营的基础设施。

不过,“企业版”并不自动意味着毫无风险。出版商仍需要规定哪些员工可以上传内容、哪些文件可以上传、数据会保留多久,以及供应商是否可以使用这些数据。

据报道,一名 HarperCollins 员工称,编辑曾询问能否将整部书稿粘贴进开放式 LLM。该消息人士称,公司的法务团队告知他们不应这样做。

这一被报道的干预令人鼓舞,但也说明此类问题很容易出现。当工具与日常办公软件并列出现时,员工可能会把敏感书稿视作另一份等待摘要的普通文件。

同样的担忧也适用于宣传文案。模型若不接收图书相关细节,就无法生成准确的书封文案。如果这些细节来自完整书稿,那么营销捷径就会变成一项数据治理决策。

经纪人希望出版商披露这一决策,因为作者是在特定合同下授予出版权的。这些协议未必预见到书稿会由外部模型提供商处理。

当 AI 参与封面艺术创作时,同意同样重要。封面是作者公共身份的一部分,读者也越来越将合成图像视为有关图书本身的信号。

此前的争议表明,来源不清可能损害这种身份。Tor 旗下 Bramble 品牌曾因创作者发现 Gothikana 封面中使用了生成式图库素材而遭到批评。

一项封面艺术审查发现,相关图库条目已标注为由 AI 生成。Bramble 在该报道发表前未予置评。

Tor 还曾因 Christopher Paolini 的 Fractal Noise 遭遇相关争议。该公司表示,其设计师从一家信誉良好的图库提供商处获得授权,却不知道该素材可能是合成生成的。

在一本 Sarah J. Maas 平装书设计中出现带有 AI 标记的图库图像后,Bloomsbury 也作出了类似说法。其设计团队称,他们并不知道该图像是如何制作的。

这些事件揭示了供应链问题。出版商无需由员工亲自输入提示词,也可能引入生成式材料。图库、代理机构、自由职业者和海外合作伙伴都可能将 AI 素材置入最终设计中。

因此,明确规则必须覆盖来源追溯,而不只是工具访问权限。出版商需要知道图像来自哪里、如何被标注,以及附带哪些权利。

同样的原则也适用于文本。团队需要保留哪些材料进入模型、以及输出在发布前如何变化的记录。缺少这些来源记录,争议发生后披露便只能靠猜测。

面临类似信息风险的组织,往往需要一套受控的知识工作流程。出版业版本还必须加入合同许可、供应商控制措施,以及可审计的人工决策记录。

反对 AI 垃圾内容的立场如今与出版商实践相冲突

行业反对 AI 垃圾内容的最有力论点依赖于人类创作、许可与信任,而这些恰恰是低调的内部 AI 使用正在承受压力的价值。

出版商有正当理由反对大规模生产的合成图书。作者曾发现,模仿其生平的传记、虚假书名以及挂靠在知名作者姓名和读者群上的生成式配套图书。

当 Kara Swisher 的回忆录临近出版时,搜索结果中据称出现了大量带有可疑封面和泛泛文字的非官方传记。有一次搜索在正版回忆录之后列出了 16 本第三方图书。

这一仿冒图书问题表明,自动化出版如何利用作者的知名度。即使质量低劣的图书,也可能分散注意力、误导买家,并让作者承担维权工作。

Amazon 要求使用其自助发布平台的出版商在提交时标识 AI 生成内容。不过,这类信息在历史上并非每次都会以面向消费者的标签形式出现。

Amazon 还限制了自出版作者每天可发布的图书数量,并限制某些摘要或练习册。这些措施旨在打击垃圾信息和误导性列表,而非直接禁止生成式工具。

传统出版商将自己定位为另一种筛选机制。它们挑选书稿、核实权利、编辑文稿、委托设计,并为成书附加机构信誉。

这一角色使未披露的 AI 使用更具后果。读者面对五大出版商旗下品牌时,并不会带着面对陌生平台商品列表时的同样预期。

这一冲突还延伸至版权。出版商和作者已就科技公司使用图书训练模型提出挑战。发行公司则对 AI 开发商对实体图书的需求作出了回应。

Ingram Content Group 告知客户,AI 公司正越来越多地购买实体作品,潜在用途可能包括扫描和模型训练。该公司为出版商提供了一种选择退出机制,以避免向明确直接购买的此类公司销售图书。

Ingram 也承认,其无法始终判断买家的用途。其出版商退出机制承诺作出合理努力,而非建立完整屏障。

这一事件说明了出版业的公开立场:图书承载着宝贵的人类表达,公司不应将这种表达视为不受治理的技术输入。

作者完全可以追问:为什么原则一到出版社内部就发生变化?如果科技公司将一本书输入模型需要获得许可,那么内部营销上的便利并不能抹去这一顾虑。

出版社可以回应称,运营用途不同于训练商业基础模型。这一区别在法律和技术层面都具有重要意义。

受控系统或许可以在不将稿件加入训练数据集的情况下对其进行总结。供应商协议也可能禁止模型训练,并限制存储。

然而,如果不知道使用了哪一种系统,作者就无法评估这些保障措施。保密会让本可辩护的区别变成缺乏依据的保证。

因此,核心对立并不只是出版社与 AI 公司之间的冲突,而是出版业对人工把关的承诺,与其日益自动化的现实之间的矛盾。

这一承诺并不要求禁止每一种模型。它要求对外部机构、供应商、高管和初级员工采取一致的标准。

效率压力正蔓延至编辑、公关与设计师

出版社正在工作量加重、人员缩减以及高管推动自动化的背景下引入 AI,使所谓的“自愿”采用难以与职场胁迫区分开来。

员工描述称,团队规模不断缩小,而留下的员工要负责更多书目。一名员工表示,一些大型团队已缩减至五六人,工作量却增加了一倍甚至两倍。

这一说法尚未得到整个行业范围内的独立验证。但它仍能解释,为何生成式工具甚至会在不信任它们的员工中扩散。

负责更多图书的公关人员可能会让模型先起草一版文案,因为另一种选择就是错过截止日期。编辑可能会借助模型总结材料,因为他们没有时间再把另一份内部文件读第二遍。

这些选择在软件政策上看似是自愿的,但在实际工作中可能近乎强制。压力来源是工作量,而不一定是直接要求使用某个特定模型的命令。

据报道,HarperCollins 员工曾成为负责为高层购买的工具寻找应用场景的“AI Champions”。这一称谓暗示了参与意愿,但员工称他们是被指派,而非自由报名。

Simon & Schuster 此前曾通过内部竞赛邀请员工提交 AI 创意。员工后来表示,在他们多次于会议中提出异议后,公司减少了一些推广压力。

更尖锐的争议涉及工作流程监控。Simon & Schuster 员工得知,公司曾探索 Skan AI 的 Blueprint 产品,据报道这源于所有者 KKR 的兴趣。

工作流程分析软件会观察员工如何完成任务,并识别管理层可能自动化的流程。它能够暴露瓶颈,但员工可能将同一系统视为监控。

员工组织了一封公开信,反对引入 Skan AI 或类似产品。他们担心,自动化发现机制会为替代他们的工作绘制路线图。

随后,Simon & Schuster CEO Greg Greeley 告诉员工,公司尚未决定部署 Blueprint 或其他生产力监控系统。他将这项审查描述为早期探索。

这一回应缩小了已获证实的说法范围。公司审查过该产品,但现有报道并未显示其实施了监控计划。

这起事件仍揭示了员工认为利害攸关的是什么。AI 进入出版业不只是作为写作助手,也正作为能够衡量工作并推荐自动化方案的管理工具出现。

封面艺术家、译者、编辑和公关人员面临着同一种不确定性的不同版本。每个角色都包含重复性任务,但也都依赖高管可能低估的情境判断。

例如,封底简介很短,但撰写它仍需理解类型、读者预期、事实边界以及作者的声音。

翻译带来了更为尖锐的取舍。HarperCollins CEO Brian Murray 此前曾认为,AI 为出版社带来的机会多于风险,尤其是在翻译图书和有声书方面。

员工后来报告称,他们在大型国际书展上看到带有披露说明的 AI 翻译稿件。这表明至少有部分版权出售方正在试验透明的使用方式。

翻译可以扩大读者接触原本可能无法获得的作品的机会。但它也可能淡化文风、误读文化指涉,并减少人类译者的有偿工作机会。

出版社不能只凭产出速度来评估这种取舍。它必须评估错误率、编辑监督、权利、署名,以及读者是否知道文本是由何种流程塑造的。

独立出版商 Meg Reid 清晰概括了正在形成的分野。大型企业出版社很可能追求效率,而小型出版社则可以通过强调人类参与本身就是产品的一部分来竞争。

这种分化为独立出版社提供了潜在的市场定位。经过验证的人工流程可以成为卖点,而不再是隐形成本。

AI 检测无法解决“出版社使用 AI”的争议

检测工具无法提供出版社所需的确定性,因此合同、来源记录和披露政策必须承担起这一责任。

当前争议在很大程度上依赖员工说法和可辨识的写作模式。这两种证据形式都无法衡量整个市场。

当就业面临风险时,匿名消息源理应得到保护。但匿名也使读者无法评估某项主张背后的每一个角色、文件或直接观察。

因此,这些报道应被视为得到多名员工支持的可信指控,而非对每一家大型出版社工作流程的审计。

AI 检测器又增加了一层不确定性。它们估计文本模式是否类似机器生成,但这种估计并不能证明文档是如何创作的。

人类写作可能触发误报。经过编辑的模型输出可能逃过检测。相比长篇稿件,一封短邮件或一句营销文案提供的证据更少。

这一问题在 Shy Girl 争议期间变得明显。Hachette 旗下 Wildfire 出版品牌曾在英国出版这部恐怖小说,之后又停止发行。

Hachette 旗下 Orbit 出版品牌也在内部审查后暂停了原定在美国的出版计划。作者否认使用 AI 写作,并表示一名参与编辑的熟人曾使用过它。

一项对 AI detection limits 的行业调查描述了出版社使用多种工具的情况,同时承认所有工具都可能出错。研究人员还解释了如何编辑模型输出以规避检测。

该案例表明,检测器评分不能替代流程证据。它无法识别谁使用了模型、哪些段落被改动,或这种使用是否违反合同。

检测还会带来公平风险。文风公式化、英语非母语者的表达模式,或风格非传统的作者,都可能在没有可靠证据的情况下受到怀疑。

出版社需要在出版前收集证据。合同应明确生成内容、AI 辅助编辑、翻译、图像,以及被禁止上传的稿件。

制作系统应记录获批准的工具,并保留委托资产的来源记录。供应商应在交付成品前披露其中的合成组件。

当 AI 对作者的文本、封面、营销、翻译或有声版产生实质影响时,作者应获得说明。当方法改变了读者对其所购买内容的合理认知时,读者也需要得到披露。

并非每项自动化操作都需要警示标签。拼写检查、搜索、排期和文件转换长期以来一直在支持出版工作,却不会改变作者身份。

边界应聚焦于实质性贡献和风险。让模型起草护封文案不同于软件修正标点。生成封面图像不同于调整人工插画的尺寸。

即使这些类别也需要判断。公关人员可能使用模型头脑风暴短语,然后完全重写文案。另一位则可能在改正标题后直接发布首个输出。

有用的政策应同时描述这两种情况,而不是宣称所有 AI 使用都完全相同。它还应说明谁拥有最终决定权,以及谁负责审查结果。

最大的未知数是真实采用率。现有报道并未证实有多少图书包含生成内容,或模型输出有多频繁地未经改变便流向公众。

它同样无法证明被点名的公司没有内部政策。一些公司可能已有规则,只是员工认为这些规则不完整、不清晰,或执行不一致。

这些局限削弱了“大型出版业已全面自动化”这样的广泛说法,但并未消除对透明治理的已证实需求。

三个信号将揭示出版业是否选择信任

下一阶段将取决于披露政策、可执行的合同条款,以及自动化改变人员配置或已出版图书的证据。

第一个信号是 HarperCollins、Simon & Schuster 和 Hachette 是否公布详细的 AI 使用标准。一项有意义的政策不能止步于宣称已提供获批准的工具。

它应说明稿件能否进入外部系统、作者何时必须同意,以及如何识别生成的艺术作品。它还应涵盖译者、自由职业者、代理机构、图库供应商和海外出版合作伙伴。

公开政策将强化这样一种观点:出版社可以在不放弃人工把关的前提下使用 AI。持续的模糊性则会强化一种指控,即公司只要求他人保持透明。

第二个信号是合同 AI 条款的普及。报道称,文学经纪人已在限制稿件使用,但相关措辞与执行方式仍大多不公开。

标准条款可以区分运营处理与训练,定义获批准的环境,并要求在生成式使用前发出通知。它们还可以规定当出版社或承包商违反这些条款时的补救措施。

如果这类条款成为常规做法,行业就等于接受:作者同意并不由一般出版许可所默认包含。如果出版社抵制它们,信任冲突将进一步加深。

第三个信号是对劳动力和成品的可衡量影响。读者应关注更多员工反对意见、工作流程监控试点,以及编辑或公关团队的有记录变化。

他们还应关注封面、翻译、有声书和营销材料上的署名与披露。可见的记录将更容易区分审慎辅助与未披露的替代。

如果有证据表明 AI 减少了重复性的行政工作,却没有取代创意岗位,将支持出版社的效率论点。如果更多裁员伴随着更高的产出目标,则会支持员工的担忧。

同样的检验也适用于质量。出版社需要证明,生成的营销文案保持准确,封面拥有可辩护的权利,翻译保留了作者的原意。

对作者而言,眼下要做的是询问稿件提交后会发生什么。他们应明确编辑、公关人员和外部供应商是否可以使用生成式系统处理稿件。

对出版业员工而言,关键问题是:当工作量让人工工作变得不可能时,获批准的工具是否仍然是可选项。如果人员配置决策迫使员工采用工具,自愿政策便几乎毫无意义。

读者也可以通过要求来源信息来向市场施压。他们不必拒绝每一本经由软件处理的图书,但可以要求获得足够的信息,以便自行作出选择。

“五大”出版商使用 AI 的争议,归根结底是对机构公信力的一场考验。出版商售卖的不只是印刷页面,更是一种信心:有人对作品进行了筛选、核查,并以负责任的方式呈现。

行业会在自动化变得无形之前,记录下这份人类责任吗?还是要等到下一本引发争议的封面、合同或手稿迫使其再次作出解释?

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page