top of page

查尔斯国王 AI 峰会邀请行业领袖,但未作出任何公开承诺

9月14日
讀畢需時 16 分鐘

据报道,查尔斯三世国王已邀请约 30 位知名人士参加在苏格兰举行的一场私人 AI 聚会,但目前尚无官方议程或经确认的嘉宾名单。计划中的查尔斯国王 AI 峰会将把商业领袖、政策制定者和伦理顾问聚集在同一场所。然而,活动不会产生已公布的协议、公开谈判或正式政策授权。

根据 9 月 7 日发布的报道,该会议预计将于 9 月下旬在艾尔郡的 Dumfries House 举行。这个时间点很重要,因为随后的一些新闻提醒将该活动描述为“本周”举行。而最初报道仅称其计划于当月稍后举行。

据报道的嘉宾名单包括 Nvidia 首席执行官黄仁勋、Google DeepMind 负责人 Demis Hassabis,以及梵蒂冈 AI 顾问 Paolo Benanti。相关计划浮出水面时,他们是否出席尚未得到公开确认。白金汉宫、The King’s Foundation、Nvidia 或 Google DeepMind 当时也未宣布该会议。

这一核实缺口正是报道的核心。这并非一场拥有已公布目标和谈判结果、已获确认的王室峰会,而是一场据报道将闭门举行的聚会;其意义取决于谁会出席,以及之后将发生什么。

更大的冲突在于精英准入与公众问责之间。私下对话可以鼓励那些很少坦诚交流的人直言不讳,但也可能令公民、开发者和企业无法判断讨论是否带来了任何改变。

查尔斯国王 AI 峰会报道实际确认了什么

现有最有力的报道确认的是一场计划中的私人聚会,而非已经完成的峰会或具有约束力的政策程序。

据报道,两名知情人士称,查尔斯国王已邀请 AI 领域的重要人物前往 Dumfries House。除政府部长及其他参与者外,约有 30 名行业人士获邀。具体日期尚未公开披露。

预计由 Ditchley Foundation 组织此次讨论。Ditchley 是一家英国非营利组织,以举办涉及政府官员、研究人员、商业领袖和国际政策专家的私人会议而闻名。其已发布的科技项目显示,该机构长期关注 AI、国家安全、科研机构和未来工作形态。

据报道,一名王室官员将国王的角色描述为召集、倾听和鼓励辩论。这一定义为聚会设下重要边界:查尔斯不会提出个人 AI 政策,也不会主导嘉宾之间的谈判。

Dumfries House 提供了一个极具象征意义的场地。这座 18 世纪建筑坐落于艾尔郡一处占地 2,000 英亩的庄园内,也是 The King’s Foundation 的总部。官方Dumfries House 历史显示,查尔斯于 2007 年领导一个财团,保护了这处房产及其馆藏。

这一地点符合他一贯运用公共影响力的方式。他常围绕长期社会、环境和经济议题召集机构。不过,君主的宪法地位限制了任何将此次活动视为替代政府决策机制的说法。

最初报道将黄仁勋、Hassabis 和 Benanti 列为预期嘉宾。三人分别代表 AI 权力结构中的不同部分。

黄仁勋领导 Nvidia,其处理器和软件支撑着训练和运行先进 AI 系统的大量基础设施。这使得他的公司成为算力、资本需求、能源使用以及先进硬件获取等议题的核心参与者。

Hassabis 则通过 Google DeepMind 代表一家重要的前沿 AI 开发机构。前沿 AI 是指能力处于当前发展前沿、具备高度通用性的系统。这类系统受到政策关注,因为其潜在用途和风险横跨多个领域。

Benanti 带来了伦理及宗教政策视角。他的参与将使讨论超越产品开发和企业投资,也会将这场聚会与有关人的尊严、工作、责任,以及自动化系统社会边界的持续辩论联系起来。

不过,被报道列入名单不等于已确认参与。行程可能改变,邀请可能被婉拒,未公布的议程也可能调整。因此,将三人都称为与会者会超出现有证据所能支持的范围。

对“峰会”一词也应保持同样谨慎。它是一个有用的搜索词,因为它概括了嘉宾表面上的资历层级;但它也可能暗示现有证据并未证明的正式程序。

更准确的描述是:一场由国王召集、与 Ditchley 共同组织的私人 AI 聚会。它的重要性来自接触高级参与者的机会,而非任何已披露的制定规则授权。

这一界定也有助于厘清消息来源链条。一些新闻提醒将相关说法归因于其他出版物,或将其压缩为简短标题。详细报道似乎最初来自 Politico Europe,后者援引了两名熟悉未公布计划的匿名人士。

这并不意味着报道不实。计划仍属私人且尚未完成时,匿名信源十分常见。但这意味着每一项公开说法都应保留原始报道的确定性程度。

因此,读者应记住三个事实:这场聚会于 9 月 7 日被报道,预计在 9 月下旬举行,且嘉宾名单仍未获确认。这些边界构成了本文关于影响力与证据之间张力的核心。

查尔斯为何此时召集 AI 领袖

这场聚会发生在英国多年来尝试将高层 AI 对话转化为共同测试、标准和公共监督之后。

查尔斯此前曾将 AI 描述为对人类能动性既带来机遇也构成威胁的技术。在 2023 年 10 月的一次AI 警示中,他提出疑问:这项技术会扩大繁荣与闲暇,还是会在超越人类思维之前吞噬工作岗位。

这一表述并未规定具体立法,却以至今仍定义政策辩论的方式提出了问题。能力更强的系统所带来的益处正在发展,同时就业、安全、权力集中和人类控制方面的不确定性也在增加。

随后,英国于 2023 年 11 月 1 日和 2 日在 Bletchley Park 举办首届 AI 安全峰会。各国政府、企业、学术界和民间社会组织齐聚一堂,讨论前沿系统的风险。

由此产生的Bletchley Declaration承认,先进 AI 在带来重大机遇的同时,也涉及网络安全、生物技术、错误信息和意外失控等风险。该声明还赋予开发者尤为重要的责任,要求其测试和管理能力异常强大的模型。

最初的声明名单包括 28 个国家和欧盟,随后新西兰也加入这一承诺。该联盟的广泛性表明,各方对合作必要性存在相当程度的共识。

在原则上达成一致比在执行上达成一致更容易。各国仍拥有不同的法律、经济利益、安全优先事项以及对创新的态度。开发者还掌控着评估自身系统所需的大部分基础设施和技术信息。

这一缺口有助于解释私人论坛的吸引力。正式会议需要经过谈判的措辞、公开立场和机构授权;规模较小的聚会则可在参与者将分歧转化为官方提案之前,让这些分歧浮现出来。

国王的出席也能吸引那些日程安排和商业利益鲜少契合的人士。王室邀请具有象征性分量,但不会让君主负责产业或监管政策。

这种召集功能在 AI 之外也有先例。查尔斯数十年来一直围绕气候与可持续发展,聚集商业领袖、慈善家、专家和公共机构。他经常强调跨领域合作,而非直接的行政权力。

AI 令这一模式面临更严峻的版本。气候讨论同样涉及复杂的科学和政治争议,但主要机构类别较为熟悉。前沿 AI 则将罕见的技术知识集中在少数私人实验室和基础设施公司之中。

黄仁勋和 Hassabis 正体现了这种集中。Nvidia 提供关键计算技术,而 Google DeepMind 则开发模型,并通过一家全球科技公司部署 AI。在立法者完成对策讨论之前,他们的决策就可能改变基础设施需求、研究重点和产品获取方式。

闭门论坛可以将这些决策与伦理和政府层面的关切并置。它可以鼓励参与者讨论那些他们在产品发布会、财报电话会议或电视听证会上会避免的话题。

可能讨论的议题仍未公开。安全评估、能源需求、劳动力冲击、科学应用、国家竞争力和国际协调都符合参与者的背景;在未经确认前,任何一项都不应被表述为议程内容。

这一时机也紧随公众对日益自主系统行为与控制问题再度升温的担忧。能够借助软件工具执行多步骤任务的 AI agents,引发了有关权限、监控和责任的实际问题。

这些问题将抽象的安全辩论转化为运营层面的议题。企业需要明确,当自动化系统访问数据或采取具有重大后果的行动时,谁应承担责任。开发者则需要在产品触及数百万用户之前就能发挥作用的评估方法。

政府也面临自身压力。它们希望获得投资、基础设施和生产率提升,同时选民期待针对欺诈、歧视、岗位流失和不安全部署的保护措施。

查尔斯国王的 AI 会议无法解决这些压力,但可以检验掌控系统不同环节的人能否以彼此兼容的表述来描述共同问题。

这是一个有限的目标,但并非无足轻重。共同定义往往先于共同标准。难点在于判断私人共识是否会以外部人士能够审视的形式出现。

私人准入既是峰会的优势,也是其弱点

鼓励坦诚讨论的隐私性,也使公众无法衡量这场聚会是否产生了有意义的问责机制。

高级管理人员在私下交流时的说法不同于官方声明。他们可以承认技术不确定性、商业激励或政策分歧,而不必立即影响市场或让所属组织作出承诺。

Ditchley 的会议模式正是围绕这种优势设计的。其讨论传统上优先重视坦诚交流和关系建立,而非公开谈判。这种形式可以帮助参与者识别分歧的真正根源。

在 AI 治理问题上,分歧往往集中于应由谁承担举证责任。开发者可以认为,僵化的规则会固化现有技术格局,或让更大的既有企业受益。监管者则可以回应称,企业不应部署风险仍未被充分理解的系统。

基础设施供应商则处于另一种位置。Nvidia 受益于 AI 算力需求的增长,但它也与担忧出口管制、能源容量以及对先进芯片产生国家依赖的政府密切相关。

伦理顾问提出的是更广泛的问题,而这些问题无法仅靠技术评估来回答。一个模型可以通过安全测试,却仍可能以充满争议的方式重塑就业、隐私、教育或公共服务的获取渠道。

将这些视角放在一起,能够揭示双边会谈容易忽略的权衡取舍。然而,私下举行的形式并不会自动将讨论转化为问责机制。

公众不知道最终的出席名单。也不知道劳工代表、独立安全研究人员、受影响社区或较小的 AI 公司是否获得邀请。公众无法判断商业利益是否主导了会场。

参与者也可能借助这场聚会的声望,却不接受新的义务。企业高管可以出席活动,笼统地支持负责任的发展,之后仍延续原有做法。

君主的中立性进一步加剧了这一衡量难题。查尔斯可以鼓励辩论,但不能像民选部长那样公开与企业谈判。他的宪法角色赋予这场聚会影响力,同时也限制了其正式后果。

这形成了本文的核心对立:私人影响力与公共问责。

私人影响力本身并不必然不当。政府和公民社会经常依赖保密讨论来理解正在发展的技术。在彼此尚未充分了解之前,早期对话可以防止参与者过早固化立场。

但当决策影响到劳动者、消费者、安全以及基本服务的获取时,公共问责仍然不可或缺。利益相关方需要证据证明,这些对话带来了更明确的承诺、更好的评估或更透明的报告。

2023 年的布莱切利进程提供了一个有益的比较。它将闭门讨论与公开发布的声明及主席总结结合起来。这些文件让外界能够识别参与政府、已阐明的风险以及达成共识的领域。

拟议在 Dumfries House 举行的聚会尚未公布类似安排。目前没有公开议程、参与者名册、联合声明,也没有后续行动时间表。

这种缺失可能反映出活动尚未最终确定,也可能是这种形式刻意保留的特征。无论如何,分析人士都应避免在政策成果尚未出现之前,就将其归功于一次会议。

最明确的积极成果不应是一份宏大的宣言,而应是由具备行动能力的组织支持、范围有限且可验证的举措。

例如,为独立模型评估人员提供更多访问权限,建立共享的事件报告机制,或明确暂停部署的标准。这些只是示例性措施,并非已报道的议程项目。

有价值的成果也可能涉及基础设施透明度。政策制定者日益需要更好地了解算力需求、电力使用、硬件瓶颈,以及 AI 能力的地理集中程度。

任何此类倡议都需要的不只是王室召集。企业需要公布承诺,政府需要具备执行权力,独立专家则需要获得证据。

缺少这些要素,这场活动仍只是关系建设。它或许重要,但其影响不应与治理混为一谈。

保密性还会带来传播风险。一场旨在建立参与者之间信任的讨论,如果公众看到的只有知名高管和专属场地,反而可能加深会场之外的怀疑。

这一风险之所以更大,是因为 AI 政策本就涉及集中的企业权力。构建先进模型的公司拥有数据、算力资源、专业人才,并能直接接触政治领导人。

除非批评者能够以独立证据挑战企业主张,否则邀请批评者并不能消除这种失衡。平衡的嘉宾名单很重要,但公开的程序更重要。

因此,查尔斯国王 AI 峰会受到评判的重点将不是举办地点,而是其后续行动。如果参与者公开具体成果,这种私下形式或许会被视为有益的准备;如果没有任何内容变得可见,这场聚会仍将是一场公共价值不确定的精英对话。

Nvidia 与 Google DeepMind 代表 AI 权力的两个层面

据报道,Nvidia 和 Google DeepMind 的出席将使基础设施控制与模型开发进入同一场政策对话。

Nvidia 和 Google DeepMind 并非在业务的每个领域都是直接竞争对手。它们在 AI 生产链中占据相互关联的位置。

Nvidia 提供广泛用于数据中心的处理器、网络产品和软件。Google DeepMind 则在 Alphabet 旗下开发先进模型并开展研究;Alphabet 同时也在设计自己的专用 AI 芯片。

这种关系兼具依赖与竞争。Google 可以使用 Nvidia 系统,同时扩展内部硬件能力。Nvidia 可以向多家模型开发商销售产品,同时构建使自身平台更难被替代的软件。

这对治理至关重要,因为 AI 能力并非仅由算法产生。它依赖于计算基础设施、能源、数据、工程人才和部署渠道。

只关注模型行为的政策会忽略其底层供应链。只关注芯片的政策则会忽略建立在其之上的系统。

黄仁勋可以谈论扩展 AI 的经济成本和物理要求。哈萨比斯可以谈论模型能力、科学应用、评估,以及围绕更通用系统的不确定性。

他们的视角能够阐明责任归属。硬件供应商并不决定模型的每一种行为方式。模型开发商也无法控制每一项基础设施约束或下游用途。

然而,共同参与也可能模糊问责。当有害结果涉及多家公司时,每家公司都可能将责任指向系统的另一层。

开发商可能将责任归咎于客户滥用。部署者可能援引底层模型的局限性。基础设施公司则可能表示,它们销售的是通用技术,无法控制具体应用。

有效治理需要让责任与实际控制权相匹配。组织应为其能够合理影响、记录和测试的决策负责。

布莱切利框架尤其将责任赋予前沿 AI 开发商。这一原则仍然适用,因为开发商决定训练方法、评估流程、访问政策和部署保障措施。

基础设施提供商承担不同的责任。政府可能要求它们遵守贸易规则、保障供应链安全、提高运营韧性,并提供有关集中依赖的信息。

私下聚会可以在不过早迫使各方达成一致的情况下探索这些边界。风险在于,关于集体责任的宽泛表述会让每位参与者都逃避具体承诺。

Google DeepMind 对英国举办的聚会还具有特殊的象征意义。DeepMind 创立于伦敦,哈萨比斯仍是英国最受国际认可的科学领袖之一。

据报道,对他的邀请将这场活动与英国的雄心联系起来:尽管规模更大的美国科技集团在商业上占据主导地位,英国仍希望保有对 AI 治理的影响力。

Nvidia 则代表了这一战略现实的另一面。全球大量先进 AI 开发依赖于一家总部位于美国、通过全球制造网络运营的公司所提供的基础设施。

英国可以主持对话并建立评估机构,但无法控制每一个关键层面。这使国际合作成为必要,也限制了单边影响力。

如果部长出席的消息得到确认,这一战略维度将更加突出。他们将进入一场涉及产业政策、国家安全、科研领导力和公共安全的讨论。

然而,部长们也需要将政府政策与王室主办的讨论区分开来。任何监管或支出决定都必须遵循正常的政治和行政程序。

据报道,本安蒂的参与又增加了第三个层面。他长期研究将 AI 视为人类和社会系统,而不只是工程产品的问题。

这一视角能够挑战狭隘的竞争叙事。更快的模型和更大的数据中心并不会自动带来可接受的结果。社会仍需决定自动化应出现在哪些领域,以及哪些决策必须保留人类责任。

最有价值的讨论应让这些层面直接形成张力。基础设施公司需要面对扩展规模的外部成本;模型开发商需要面对不确定性与滥用风险;政策制定者则需要面对自身有限的技术能力。

随后,伦理顾问将检验拟议的保障措施究竟是在保护真实的人,还是仅仅改善机构措辞。

没有证据表明这种确切的交流一定会发生。关键在于,据报道的参与者体现了这些相互竞争的责任。只有当讨论触及具体问题时,他们的出席才会赋予这场聚会实质内容。

读者应避免接受一种更简单的叙事:知名领导人聚在一起,共识便会随之出现。AI 治理涉及围绕利润、国家优势、获取渠道、透明度和可接受风险的实质冲突。

这些冲突无法通过声望解决。它们需要证据、可执行的责任,以及能够随技术变化修订规则的机构。

这场会议无法证明什么

出席能够说明接触机会和兴趣,但不能证明已经达成共识、取得监管进展,或 AI 系统变得更安全。

第一项不确定性涉及活动本身。原始报道出现时,白金汉宫和 The King’s Foundation 尚未公开宣布这场聚会。确切日期、最终嘉宾名单和议程仍未披露。

第二项涉及代表性。约 30 名参与者可以支持深入讨论,但这个人数无法代表所有受到 AI 影响的群体。

劳动者、教育工作者、艺术家、医疗专业人士、安全研究人员、小企业,以及受到自动化决策影响的人,都面临不同后果。他们的利益不能从高管出席中推断出来。

第三项不确定性涉及证据。高级领导人可以描述其系统,但许多重要主张需要独立测试。

模型评估很困难,因为结果取决于提示词、工具、访问级别和测试条件。当开发商将模型连接到外部系统后,其能力可能在部署后发生变化。

安全主张也可能迅速过时。一项能够阻止某种技术的保障措施,可能会在新方法面前失效。一项基准测试一旦被开发商直接针对性优化,也可能失去价值。

这使得获得模型和文档的访问权限变得重要。独立评估人员需要足够的信息来复现发现并识别局限。公共机构需要能够解读结果的技术人员,而不是完全依赖供应商。

私下讨论无法替代这些能力。它可以支持合作,但缺乏验证的合作会让信息不对称继续存在。

第四个不确定性涉及执行。自愿承诺可以比立法推进得更快,也能建立有益的规范。但它们同样可以在未经公众审查的情况下发生改变。

正式监管提供了更清晰的授权依据,但往往发展缓慢。它也可能过时,或带来中小企业难以承担的合规成本。

这是一项真实的权衡,并非负责任的政府与不负责任的行业之间的二选一。政策制定者需要制定应对可衡量风险的规则,同时为技术学习留出空间。

Dumfries House 的会议形式似乎适合讨论这种权衡,但无法解决它。

第五个不确定性涉及国王的角色。Charles 长期关注社会与环境议题,其召集有影响力人士的能力确实存在。

不应将他的角色描述为主导英国的 AI 政策。民选官员、监管机构、法院和议会仍承担这一责任。

这条边界既保护宪法中立性,也维护民主问责。这也意味着,任何具体成果都必须经由会议之外的机构落实。

还有一种风险是,与会者可能将这次聚会用作声誉背书。出现在一场有关负责任 AI 的讨论中,或许能传递严肃认真的信号,却未必需要实际运营层面的改变。

恰当的检验标准是会后的行为。组织是否披露新的评估实践、事件报告或治理程序?部长们是否宣布了职责明确、可供审查的政策?

沉默并不能证明会议失败。私下讨论可能会以公众看不见的方式影响后续决策。但这会使公众缺乏足够有力的证据来评估相关主张。

因此,报道应保持适度。这场会议之所以值得关注,是因为据报道受邀者的身份,以及召集他们的机构;它尚不是一个政策里程碑。

King Charles AI 峰会后值得关注的三项信号

只有当出席情况、公开后续行动和机构举措将私人对话转化为可观察的变化时,这场活动才会产生实质影响。

第一个信号是对会议及与会者的官方确认。王室公告、基金会声明或参与者披露,都将弥补当前的核实缺口。

确认将强化这样一种判断:Charles 正在围绕 AI 建立一个持续性的召集角色。若嘉宾名单显著更窄,则会削弱有关该聚会汇集了行业核心决策者的说法。

最重要的细节并非每一位传闻中的高管是否出席,而是现场是否除了企业和部长外,还包括独立专家与公共利益视角。

第二个信号是一份具体的后续文件。这可能是摘要、工作计划、评估承诺,或下一次会议的日程安排。

这份文件无需披露保密发言,但应说明讨论了哪些问题、哪些机构负责后续工作,以及预期它们提供何种证据。

这将强化私人对话支持公共治理的论点。若没有披露后续行动,则会加强另一种解读:这场聚会主要是在建立关系。

第三个信号是参与者在随后一到三个月内采取的行动。相关行动可能包括改善模型测试的访问渠道、正式的政府咨询,或公布由明确责任人负责的安全流程。

观察者应将任何公告与已在推进的工作进行比较。重新包装既有政策,并不能证明这次聚会促成了改变。

因果关系或许仍无法确立。更有价值的问题是,后续行动是否回应了会议所凸显的那些尚未解决的责任问题。

对于开发者和企业采购方而言,这些信号会影响实际决策。测试、披露和事件报告的规则,会影响组织能够部署哪些系统,以及应如何监控它们。

知识工作者同样需要一套严谨的方法,以区分报道、确认与结果。一份私人邀请不应被当作出席证明,而出席也不应被视为达成共识的证明。

追踪 AI 政策的团队可以维护一份来源记录,区分原始报道与官方文件。结构化的知识工作流能够在后续公告出现时保留这些区别。

King Charles AI 峰会值得关注,是因为它将象征性权威与集中的技术及商业力量汇聚在一起。它的弱点也同样清晰:公众无法评估一场自己看不到的对话。

因此,下一个有价值的新闻标题应当包含证据,而非仪式感。这场聚会是否举行、谁参与其中、随后出现了哪些可核实的承诺?在这些问题得到答案之前,这仍只是一次据报道旨在开启重要对话的尝试,而不是 AI 治理已经取得进展的证明。

 
 

免费开始使用

一款本地优先的AI助手

为了获得更好的人工智能体验,

remio 目前仅支持Windows 10+ (x64)和M-Chip Mac 。

你的 AI 工作伙伴

和 remio 一起高效工作

规划、创作、交付

一站式完成

bottom of page