Demis Hassabis 称 AGI 可能在数年内到来并改变社会

Google DeepMind CEO Demis Hassabis 表示，通用人工智能可能在数年内到来，同时强调具体时间仍不确定。

Hassabis 在其经过认证的 X 账号发布的帖子中预测，AGI 的影响规模可能达到工业革命的十倍，而发展速度则可能快十倍。AGI 通常指能够达到或超越人类水平、执行广泛智力任务的系统，不过研究人员和公司采用的定义各不相同。

他还指出了安全风险，并敦促美国为前沿 AI 建立一个由联邦政府监督的标准组织。

Hassabis 关于时间表和影响规模的声明

Hassabis 写道，能力日益增强的模型带来了涉及网络安全、核安全和生物研究的挑战。他认为，向智能体化和自我改进系统迈进的速度可能超过现有安全保障措施的完善速度。

“智能体化”系统能够在有限的人类干预下规划并执行多步骤任务。在实践中，用户可能会要求此类系统研究供应商、联系他们、比较报价并发起采购，而不只是生成一份清单。这种自主性可以节省时间，但也可能导致错误或恶意行为在人类介入之前扩散。

该帖子将这一潜在转型与工业革命相比较，但既未给出具体的到来日期，也未提供支持“十倍”估算的证据。因此，这些数字应被视为 Hassabis 的预测，而非经过测量得出的结论。

监管机构和行业面临的重大影响

Hassabis 呼吁美国建立一个以 FINRA 为蓝本的标准机构。FINRA 对自身的描述是一个由行业出资的私营自律组织，在美国证券交易委员会的监督下为经纪交易商制定并执行规则；它并非联邦机构。

将这一模式应用于 AI，可能意味着由实验室出资支持技术评估机构，同时接受联邦政府监督。Hassabis 提议让独立专家和开源社区代表参与其中，以降低仅由现有大型公司制定规则的风险。

对开发团队而言，有效的监管可能要求在发布前进行能力测试、提供书面安全论证、报告事故，并在模型跨越特定风险阈值时限制访问。如果缺乏统一标准，用户可能会看到包装精良的 AI 产品，却不知道这些产品接受过哪些网络、生物或自主性评估，也不知道相关故障是否已被披露。

帖子重点关注的风险

Hassabis 强调了网络安全、核安全和生物风险。他担忧的范围还包括变得更加智能体化或具备递归式自我改进能力的系统，即帮助设计、训练或优化更先进 AI 系统的 AI。这并不一定意味着软件会不受限制地自行改写；它也可以指 AI 加速由人类主导的模型研究。

这一警告与 DeepMind 的技术研究工作一致。其论文“通往技术性 AGI 安全与保障的方法”将风险划分为滥用、目标错位、事故和结构性压力等类别。DeepMind 的前沿安全框架针对网络、生物安全、自主性、有害操纵和 AI 研究加速等领域采用能力阈值和预警评估。

这些出版物描述的是拟议的评估和缓解方法，并不能证明当前系统能够自主造成灾难性危害。

政策提案详情

该提案的核心是建立一个标准制定组织，通过联邦政府监督的自律模式或公私合作模式运作。其董事会将由技术专家、公共利益参与者和开源社区代表共同组成。

行业缴费将承担大部分成本，这或许能让该组织招募专业研究人员，并获得独立测试所需的大规模计算资源。其代价在于治理挑战：由受监管公司提供资金，意味着必须建立严格的利益冲突规则、透明的方法以及联邦执法权，才能维持公众信任。

该提案将补充现有工作，而非从零开始。美国国家标准与技术研究院已经发布了一套自愿采用的AI 风险管理框架，涵盖治理、衡量和风险管理，但其职能与行业监管机构不同。

Hassabis 的提案并未附带任何实施时间表。

仍不明确的问题

该帖子没有提供支持 AGI 将在近期到来的能力数据，而“十倍”的比较目前也无法得到独立验证。定义差异同样使预测变得复杂：一个能够自动完成许多办公室任务的系统，可能符合 AGI 的经济学定义，但仍无法通过可靠推理、物理理解或科学发现方面的测试。

专家的预测存在显著差异。据 TIME 报道，Hassabis 此前曾预测 AGI 将在五到十年内到来，Anthropic CEO Dario Amodei 给出的时间更短，而 OpenAI CEO Sam Altman 则采用了另一种更侧重经济影响的定义。Meta 首席 AI 科学家 Yann LeCun 认为，达到人类水平的机器智能可能需要数年乃至数十年的渐进式发展。

这些不同观点使该帖子成为一次重要的政策干预，但并不代表共识性预测。

接下来值得关注的信号

关注美国政府机构或立法者是否作出正式回应，以及拟议机构在法律权限、成员构成、审计独立性和执法权力方面的具体细节。

还应关注 DeepMind 或其他竞争实验室是否会发布可复现的网络、生物安全、自主性和 AI 研究基准。对用户和企业团队而言，真正有实际意义的信号是，模型发布时是否开始附带可比较的测试结果、书面记录的局限性和事故披露，而不只是更宽泛的安全声明。