Generally AI – 第 2 季，第 1 集：生成式 AI 与创造力
- Aisha Washington
- 4小时前
- 讀畢需時 7 分鐘
Generally AI 的第二季以一个如今早已超出研究实验室范畴的问题开场：当软件几乎可以即时创作书籍、歌曲、采样、文章和图像时，创造力会发生什么？主持人通过实际实验、技术评估方法，以及已经在网上争夺关注度的合成媒体案例来探讨这一主题。
他们的对话揭示了两个同时展开的不同故事。生成式 AI 可以让市场充斥一次性消费的内容，但也能为艺术家提供异常灵活的原始创意来源。要理解其中的区别，不能只看机器能否生成看似可信的内容，还要追问其输出是否有用、可控、原创，以及是否值得人类受众投入时间。
AI 生成图书与丰裕经济学
本集从一项针对在线销售图书的荷兰调查开始。在约 323,000 个受检书名中，约有 2% 似乎由 AI 生成。估计占比大幅上升：从 ChatGPT 出现前约 0.1%，增至 2024 年 4 月的 4.2%。
这些数字说明，当创作一部书稿不再需要数月工作时，出版业会以多快的速度发生变化。主持人提到亚马逊规定每位作者每天最多发布三本书。这个限制或许能遏制工业化规模的上传，但按普通写作标准来看，这仍然是惊人的产出速度。
质量是另一个问题。许多疑似由 AI 创作的书籍获得了两星或更低评分。在一个尤其能说明问题的失误中，据报道，一位顾客收到的一本书包含的是 AI 指令，而非原本应有的正文——这表明有人甚至没有审阅最终文本就发布了这些内容。
问题不只是平庸书籍的增加。廉价的合成书籍可能挤占搜索结果，使可靠的作品更难被找到。接近本集结尾时，主持人描述了他们在一家荷兰书商网站搜索一本关于奥本海默的传记，却遇到了 AI 创作的替代品，而非显著展示与该电影相关、备受赞誉的传记 American Prometheus。他们尤其担忧健康、自助、管理和个人发展等类别正在吸引 AI 生成出版物。这些领域中的错误可能比一部缺乏灵感的小说造成更大伤害。
从新奇歌曲到无尽的合成音乐流
自播客第一季以来，AI 音乐已经取得了显著进展。主持人讨论了 Suno，并尝试设想围绕几乎任何提示词生成朗朗上口、制作精良的歌曲。一首以猫为主题的曲目展现了这项技术的即时吸引力：它欢快、令人难忘，而且无需知道它是如何制作出来的也能轻松欣赏。
这种易用性也带来了极端的产出。本集提到，一位创作者在一天内就在 Spotify 上发布了多张猫主题专辑。如果这种做法变得普遍，流媒体服务最终可能需要采用与图书平台类似的上传限制。
一位主持人尝试把生成的歌曲当作传统流媒体音乐的替代品。起初，这种体验很有趣，但这种持续不断的流行乐感很快令人疲惫。这揭示了被最初惊喜掩盖的局限：音乐可以听起来很合格，却仍然缺乏广度、克制以及持久的艺术身份。
这种区别很重要。能够生成一首悦耳歌曲的生成器，并不一定能创作出人们会反复回访的一组作品。新奇只能赢得一次关注；有意义的变化和艺术意图才能让关注持续下去。
AI 最适合作为创作素材，而非成品
当话题从自动生成歌曲转向音乐人可以主动操控的工具时，本集变得更加乐观。主持人讨论了 Google 的一项演示，其中 AI 生成的音乐元素与现场循环和表演混合在一起。在这里，机器的功能更不像自主作曲家，而更像一种可扩展的乐器。
这种协作模式提供了更有力的创作可能性。音乐人可以生成一种陌生的纹理，分离出其中的片段，改变它的节奏，将其与已有循环结合，并把它转化为原始系统无法预见的内容。人类仍然负责选择、结构、品味和方向。
AI 采样生成器让这种工作流程变得具体可感。本集讨论的一项服务可以根据诸如放克旋律、钢琴乐句或特定弦乐纹理等描述生成短音频片段。生成出的两到四秒声音可以被载入采样器，并重新编排为节拍。
主持人将这一过程比作在无限多箱唱片中翻找。不过，与传统的翻箱寻碟不同，源素材可以被请求，而非被发现。Teenage Engineering PO-33 采样器提供了一个动手演示，展示不完美的生成片段如何成为更大作品中的组成元素。
这是对 AI 辅助创造力更具生产力的定义：不是按下一个按钮就得到完成的作品，而是利用生成来扩大可供人类决策使用的材料空间。
为什么音频生成仍难以实现精确控制
采样实验也暴露了这项技术的弱点。输出并不一致，而要生成一个可用的声音可能需要反复尝试。一个片段可能开始得太早，带着别扭的铺垫出现，或者包含比要求更多的活动。
主持人谈到，想要获得一个单一且干净的声音有多困难。例如，要求一声鸭叫的提示词，可能会得到几声鸭叫或一段嘈杂的序列。模型似乎急于填满可用时长，而不是尊重静默在音乐中的价值。
一些瑕疵可能出现在将模型输出转换为音频波形的过程中。基于 token 的生成和解码可能会引入噪声或降低保真度。然而，更大的障碍在于交互。人类合作者能够理解诸如“让贝斯更暗一些”、“把那个音拉得更长”或“在这一击之前留出更多空间”这样的要求。当前工具无法始终如一地支持这类迭代式、具备音乐意识的反馈。
主持人设想了一些系统：它们可以用鼓或弦乐为贝斯线伴奏，甚至可能被集成进效果器踏板中。这样的工具能让音乐人与一台能响应的机器即兴合奏，而不是反复提交彼此孤立的文本提示词。本集认为，这种实时伙伴关系仍然更像一种愿景，而不是可靠的产品。
文本转采样工具与版权问题
本集讨论的另一款文本转采样应用既可以作为独立程序运行，也可以作为插件运行，让生成的片段能够被拖入虚拟乐器和鼓组中。一个本地运行的版本会将音乐生成模型下载到 MacBook 上，展示了许可宽松的模型如何成为许多不同制作工具中的组件。
生成的采样还可能成为从现有歌曲中提取录音的一种替代方案。传统采样可能需要复杂的权利清算，尤其对于创作高度依赖借用片段的音乐人而言更是如此。Beastie Boys 的专辑 Paul’s Boutique 展示了采样在创作上的强大力量，同时也让人回想起一个许可环境截然不同的时代。
合成采样并不会自动消除所有法律或伦理问题。不过，生成新的源音频可以减少对可辨认的受版权保护录音的依赖，并为以采样为基础的艺术家提供更多可重塑的素材。
在没有唯一正确答案的情况下衡量创造力
本集的第二个主要主题是评估。传统分类器可以根据已知标签进行测试，回归模型也可以与预期的数值进行比较。创造性生成很少有如此明确的目标。对于给定提示词，并不存在一首、一个篇文章或一张图像是普遍正确的。
语言模型训练仍然提供了可衡量的信号。下一个词元预测会产生一个损失值，而缩放定律将预期性能与模型规模、训练数据和计算量联系起来。但更低的损失只是一个代理指标。用户最终关心的是，模型能否回答问题、遵循指令、准确总结，或创造出有价值的内容。
MMLU 等基准测试通过答案可核查的问题来检验知识，而公开排行榜则比较模型在多项任务上的表现。这些方法在成功可以被客观评分时最为有效。对于开放式写作，它们的决定性就较弱。
文本指标提供了部分解决方案。BLEU 和 ROUGE 通过重叠的词语或词序列，将生成文本与参考文本进行比较，分别强调精确率和召回率的不同方面。基于 BERT 的评分则比较语义表征，因此能够识别以不同语言表达的相似含义。即便如此，与参考文本相似也不一定等同于质量或创造力。
图像生成面临同样的困境。弗雷歇 Inception 距离比较生成图像集合与参考图像集合的统计表征。基于 CLIP 的评分估计一张图像是否与其提示词相对应。两者都很有用，但都无法完全捕捉视觉连贯性、原创性或人类偏好。被用作评判者的模型也会继承自身的弱点——例如，难以准确计算物体数量。
人类偏好、模型排名与 RLHF
当客观评分达到极限时，主持人回到人类判断。人们可以并排比较两个输出，并选择更好的一个——即本集所说的“验光师”方法。即使不存在绝对质量分数，反复比较也能产生类似 Elo 的排名。
同一原则支撑着基于人类反馈的强化学习。评估者对同一提示词的多个回答进行排序，形成偏好数据；这些数据可用于使语言模型更有帮助性，并更好地与用户意图保持一致。
研究人员也可以让一个模型评估另一个模型，从而有可能降低人工审核的成本。但这会引入一个循环问题：机器评判者可能会复现偏见、忽略错误，或奖励与被测模型相同的表面特质。自动化评估可以扩大监督规模，但并不会让人类标准变得不再必要。
主持人的实用结论是：当 AI 帮助人们完成他们原本想做的事时，AI 就是成功的。因此，对于创意系统而言，最终检验并不只是技术上的合理性，而是人们是否认为结果有价值。
生成式 AI 的“聪明汉斯”警示
关于动物智能的收尾讨论带来了一个恰当的警示。聪明汉斯是一匹一度被认为能够进行算术的马，后来人们发现，它其实是在回应附近人类发出的细微提示。观察者将复杂的推理能力归因于由另一种机制产生的行为。
生成式 AI 也带来了类似的解释风险。流畅的语言或吸引人的媒体内容，可能让人们将意图和理解投射到系统身上。有时，最具创造性的行为发生在人类观察者身上：他们为模糊的输出赋予意义。
这并不意味着这项技术没有用。它只是澄清了其价值所在。生成式系统能够产出数量惊人的材料，但人们仍然决定哪些片段值得关注、应如何进一步发展，以及它们最终意味着什么。正如本集所展示的，丰裕很容易；判断力仍然是稀缺的创造性资源。
