Google DeepMind 诈骗检测登陆新加坡手机，但部署才是真正的考验

Google DeepMind 与新加坡 GovTech 共同构建了一套两阶段的设备端诈骗检测器，让本地化 AI 保护更贴近私人对话。Google DeepMind 诈骗检测系统采用经过微调的 Gemma 模型，在受害者转账或泄露凭证之前识别操控行为。其核心承诺颇为独特：在不将对话上传至外部服务器的前提下，分析更多对话上下文。

这项公告回应了传统垃圾信息过滤器的一项弱点。社会工程诈骗可能先以数条无害的信息开场，随后才引入紧迫感、权威压力、保密要求或付款请求。仅评估链接、电话号码或单条信息的过滤器，可能会错过这一演变过程。

不过，双方尚未披露检测率、误报率、支持的消息应用，或公开发布日期。这使其不只是一次模型发布，而是对本地适配、保护隐私的 AI 能否成为可靠消费者安全功能的一次检验。

Google 已在 Google Messages 中提供对话式诈骗警告，而新加坡则运行多个系统，用于拦截电话、恶意应用和诈骗网站。这个新项目介于两种做法之间：将政府掌握的本地情报应用于面向个人设备部署的模型。

Google DeepMind 诈骗检测瞄准对话，而不只是链接

该项目最主要的变化，是从筛查孤立的技术指标，转向理解可疑对话如何随时间推进。

Google DeepMind 和 GovTech 于 2026 年 10 月 14 日在新加坡国际网络周期间宣布合作。根据项目公告，该模型面向 Android 设备设计，并在本地分析对话。

系统采用两个阶段。首先，轻量级分类器筛查传入信息，消耗相对较少的计算资源。看似无害的对话会被判定为安全，无需调用更大的模型。

可疑对话则会转交给经过微调的 Gemma 模型进行上下文审查。Gemma 是 Google 的轻量级开放模型系列，旨在支持受限环境中的部署。在该项目中，它会评估更大范围的对话内容，寻找与操控行为相关的模式。

这一设计很重要，因为许多诈骗并不会以明显的恶意链接开场。诈骗者可能先建立信任、冒充熟悉的权威人士，或营造看似例行的商务对话。只有在受害者接受了虚构情境后，资金请求才会出现。

据称，该模型会识别涉及公共机构、银行和本地人物的冒充行为。其训练材料还涵盖区域性诈骗手法和普通对话，帮助模型区分操纵性劝说与正常社交互动。

如果第二阶段识别出威胁，设备会显示实时警告。该警告会要求用户在分享敏感信息、凭证或资金前暂停操作。

这种方法让检测器更接近一层行为安全防护，而非传统的垃圾信息名单。它不只依赖某个发件人、号码或网站是否已被举报，而是尝试识别互动本身的结构。

该系统也应对了端到端加密带来的结构性问题。加密消息服务无法在服务器上例行检查消息内容。本地分析提供了另一条路径，因为设备本身已为其用户持有可读的对话内容。

设备端处理并不能消除所有隐私担忧，但它改变了数据暴露可能发生的位置。双方表示，对话数据会留在手机上，而不会被传送至 Google 或政府服务进行分类。

Google DeepMind 表示，微调工作在由 GovTech 管理、名为 Sovereign Sandbox 的 Google Cloud 环境中完成。训练数据始终隔离在该环境内。

该公司还表示，流程未使用私人公民数据和个人身份信息。它使用了从诈骗举报和情报来源中提取的匿名化材料，随后以合成对话和本地语料库测试模型。

这些细节描述的是模型和治理流程，而非已完成的消费者产品。Google 向新加坡媒体表示，安装和使用信息将在日后公布。

这一区别很重要。模型可能在受控测试中表现良好，但在实际部署后，仍可能面临电池限制、应用权限、多语言聊天、用户同意和对抗性行为等挑战。

新加坡的诈骗问题需要更早干预

该检测器之所以重要，是因为大多数损失发生在个人被说服授权操作之后，而不是软件被直接控制时。

根据该国的年度诈骗数据，新加坡在 2025 年录得 41,974 起诈骗和网络犯罪案件。这一数字较 2024 年下降 24.8%，但报告损失仍达到 9.131 亿新元。

损失中位数从 2024 年的 1,389 新元升至 2025 年的 1,644 新元。只有约 5% 的案件损失至少达到 10 万新元，但这些案件对总损失贡献显著。

最重要的是，81.8% 的诈骗案件涉及受害者自行完成的转账。受害者在受骗后自行授权付款。诈骗者无需攻破银行系统，也不必直接控制账户。

这一模式解释了为何系统聚焦于对话意图。恶意应用检测器可以拦截部分恶意软件，网站黑名单可以阻止访问已知域名，但两者未必能阻止受害者在合法消息应用中被说服数日后转账。

投资诈骗在 2025 年新加坡主要诈骗类别中造成的损失最大。政府冒充、求职、钓鱼和商业电子邮件入侵诈骗，也位列损失金额最高的类别之中。

每个类别都可能依赖不同的叙事，但其中若干类别共享相似的行为序列。攻击者先建立角色、累积可信度、加大压力，并缩小受害者认为可选的行动空间。最终的付款请求看似自然地源自这一虚构情境。

这正是本地化模型训练的价值所在。通用检测器或许能识别直接索要礼品卡或密码的请求，但当诈骗利用新加坡机构、本地语言习惯、区域支付方式或当前公共议题时，其表现可能不够可靠。

本地情境变化也很快。犯罪团伙会仿冒官方活动、冒充新近受到关注的人物，并在平台加强执法后转移至其他服务。因此，检测器需要频繁更新，同时不能将正常的私人行为误判为可疑。

新加坡已在诈骗链条的多个环节采取干预措施。其诈骗分析与战术干预系统会扫描网站、识别可疑基础设施，并支持打击工作。

政府表示，该系统每天评估超过 60 万个网站，并每月干扰约 2 万个恶意网站。这些数据说明了在私人对话之外自动筛查的规模。

其他措施则更贴近手机。自 2024 年年中以来，电信管控措施已帮助干扰超过 10 万条涉嫌被滥用的移动线路。新加坡还通过 Google Play Protect 推出了增强型欺诈防护。

截至 2026 年 2 月，这项保护已在 68.5 万台设备上拦截 290 万次涉及潜在危险应用的安装尝试。根据政府的反诈骗概览，它阻止了超过 56,600 个可能协助诈骗的不同应用。

这些系统针对的是已知基础设施或高风险软件。Google DeepMind 诈骗检测则瞄准剩余的人类决策节点：它试图在接触开始后、信任演变为完成转账前进行干预。

该检测器无需理解诈骗者身份的每一个细节才能发挥作用。它需要识别出足够多的操控结构，以创造一个及时的暂停时刻。这个暂停可以让用户有时间通过其他渠道核实请求。

对于知识工作者，同样的问题会出现在商务沟通中。攻击者可以冒充高管、供应商、招聘人员或客户，同时使用看似合法的服务。在这种情况下，上下文比任何单个可疑词语都更有价值。

团队已通过消息、会议和文档组织合法决策。可搜索的知识库可以帮助员工依据既有记录核验异常请求。设备端检测则可在核验发生之前提供警告。

两阶段设计在上下文与手机限制之间取得平衡

这一技术押注在于：小型筛查模型可以保持效率，而经过微调的 Gemma 模型只处理模糊的对话。

让语言模型处理每一条信息会带来实际问题。持续分析会消耗电池、电量、内存和处理能力。如果模型在没有初始筛选的情况下评估普通对话，也可能产生更多警告。

第一阶段分类器减轻了这一负担。它充当闸门，只将可能可疑的对话交给计算要求更高的上下文模型。这类似于一种安全管线：先通过低成本检查排除明显无害的活动，再进行深入检查。

第二阶段会获得更大的对话快照。额外的上下文有助于它评估多轮社会工程攻击，在这类攻击中，信息之间的关系比任何单个措辞都更重要。

以虚假的政府调查为例。开场信息可能只是询问收件人是否有空。后续信息才会引入官方身份、声称存在紧急问题、要求保密，并请求转账。

逐条信息的过滤器可能会把每一句早期表述都视为无害。对话级模型则可以评估不断累积的模式，识别互动正逐步收敛于孤立、紧迫和财务行动。

相同机制也可能应对求职诈骗。招聘人员可能先以看似可信的工作机会开场，将对话转移到另一个平台，随后索要预付款或要求进行账户操作。只有当模型连接起这些阶段时，警告才会变得有用。

这一设计相较集中式扫描也具备隐私优势。端到端加密会在消息在参与者之间传输时保护其内容。服务器端分析通常需要以某种形式获得端点之外的访问权限。

本地推理将分析保留在已获授权显示对话内容的端点上。这并不意味着该功能不可见或毫无风险，但它确实减少了将可读消息内容发送给远程分类器的必要。

Google 此前已走过这一路径。2025 年 3 月，它在 Google Messages 中推出了针对对话式诈骗的设备端警告。该功能会分析 SMS、MMS 和 RCS 对话，以识别可疑模式。

此前的系统确立了这一产品的大致理念。与新加坡的合作则围绕本地化诈骗话术进行了微调，并引入由政府管理的开发环境。

这使该项目与其说是一种全新品类，不如说是 Google 现有 Android 安全战略的本地化延伸。困难的问题在于，本地知识是否能相较于通用模型带来可量化的提升。

Google 也曾针对复杂威胁探索另一条路线。其增强保护模式可将选定分析发送至 Private AI Compute——一个旨在限制访问用户数据的安全云环境。

这种云端辅助设计可提供更大型的模型和更广泛的情报。新加坡项目则强调在手机端处理。两者共同展示了针对同一约束条件的两种竞争性应对方案。

完全本地化的检测能更有效地减少数据暴露，并且可在没有网络连接的情况下运行。云端辅助检测则可以获得更多计算能力，并更快响应新近发现的诈骗活动。

这种取舍并不存在一个普适的赢家。实用的系统或许会将大部分评估留在设备端，同时为希望获得更强保护的用户保留可选的云端分析。

不过，新加坡模型的价值取决于它能否轻量化到足以在普通手机上运行。若检测器仅限于高端设备，便会遗漏大量用户，其中包括最可能从额外警告中受益的人群。

合作方尚未说明所需芯片、内存容量、操作系统版本或存储占用空间。他们也没有说明该模型将运行在 Google Messages、ScamShield、Android 还是合作伙伴应用中。

集成方式决定检测器的覆盖范围。嵌入单一 SMS 应用的系统，无法检查 WhatsApp、Telegram、社交媒体或其他加密服务中的所有对话。

通知级分析可扩大保护范围，但需要敏感权限以及设备制造商的配合。由消息平台直接集成可提供更丰富的上下文，但需分别达成商业和技术协议。

因此，这项技术只解决了推理层的问题。分发、权限和应用支持将决定它实际能看到多少新加坡的诈骗活动。

隐私声明仍需产品层面的证明

在本地处理消息可减少数据暴露，但用户仍需要明确了解访问权限、同意机制、保留期限和误报问题。

公告称，对话数据将保留在设备上；同时也表示，训练过程未使用私人公民数据。这两项都是有意义的保障，但都未能完整说明最终产品会是什么样子。

部署后的功能需要获得查看消息或通知内容的权限。产品必须说明哪些对话符合分析条件、何时开始分析，以及联系人是否会与陌生发件人受到不同处理。

Google 现有的 Messages 保护功能提供了一个有用参考。Scam Detection 一直作为垃圾信息防护的一部分运行，适用于涉及陌生发件人的对话。用户可通过设置管理该功能。

新加坡系统可能会采用类似设计，但合作方尚未确认。他们也没有宣布用户是否必须主动启用、哪些应用将参与，或用户如何对警告提出申诉。

误报是最明显的运营风险。合法对话同样可能包含紧迫性、付款请求、保密要求或权威表述。银行、雇主、政府机构和家人有时也会以类似于单项诈骗信号的方式沟通。

模型必须区分完整的操纵模式与孤立词语。过多警告会导致警报疲劳，用户可能不经阅读便开始忽略通知。

漏报则带来相反的风险。如果用户认为未被标记的对话就是安全的，警告功能可能制造错误的安全感。产品文案必须将检测器定位为额外信号，而非保证。

目前没有公开基准能够解决这些疑问。Google DeepMind 和 GovTech 尚未发布精确率、召回率、误报率、按语言划分的结果，或不同诈骗类别下的表现。

他们也没有披露模型在陌生诈骗活动中的表现。合成对话可以测试特定行为，但犯罪分子一旦了解系统识别的线索，就会作出调整。

攻击者可能会拉长延迟时间、使用图片或语音留言、将指令分散到不同应用，或招募真人改变措辞。当诈骗在不同渠道之间转移时，以文本为中心的模型可能失去上下文。

数字发展与信息部长 Josephine Teo 在公告中描述了这种碎片化情形。受害者可能先在社交媒体上遇到攻击者，随后转到消息应用继续沟通，接到电话后，最终通过银行转出资金。

没有任何单一参与方能看到完整链条。设备端模型能提高对受支持对话的可见性，但若没有更广泛的数据共享，它无法自动串联每个阶段。

这种局限形成了核心矛盾。更多集成可以提升检测效果，但每增加一种信号，保护系统可能观察到的敏感活动也会随之增加。

本地推理缩小了风险，但实施细节仍然重要。即使消息分类在本地进行，诊断日志、用户报告、模型更新、崩溃报告和遥测数据仍可能形成独立的信息流。

Sovereign Sandbox 覆盖了生命周期中的另一环节。它将训练材料保留在由 GovTech 管理的环境内，限制微调过程中的非受控传输。

不过，匿名化并不能自动保证数据集不包含敏感模式。治理需要有记录可查的访问控制、保留限制、审计程序，以及测试重新识别风险的方法。

该项目的公开说明提供的是高层级保障，而非这些详细控制措施。对于初步公告而言这可以理解，但在部署时应带来更高透明度。

模型更新还涉及治理问题。诈骗手法演变迅速，因此模型需要新的情报。用户应当知道，更新是否只包含模型参数，还是会要求从设备获取新的对话样本。

合作方表示，系统将接受持续训练。但他们没有说明更新频率、评估门槛、回滚流程或独立监督机制。

独立测试将增强项目可信度。评估者应衡量英语及新加坡其他常用语言下的准确性，包括单次对话中的语码转换。

测试还应涵盖普通的高压力互动，例如合法催收、紧急工作请求、医疗讨论、家庭紧急情况和真实的银行安全消息。

一个好的基准应分别报告模型在已知和新型诈骗中的表现，也应衡量电池影响、警告延迟，以及用户收到警报后的结果。

这些指标比“模型能够识别操纵行为”这样的笼统说法更重要。没有它们，读者只能评估架构，而无法判断其现实世界的有效性。

消息平台面临一种新型安全压力

如果本地化设备端模型奏效，消息服务将面临在不削弱加密的情况下支持安全分析的压力。

平台常将隐私与内容检查描述为相互对立的选择。端到端加密使服务无法例行读取消息内容，同时也限制了集中式欺诈检测。

新加坡项目提供了另一种模式。平台可以在保留加密传输的同时，允许由用户控制的设备评估用户已接收到的内容。

这种方法并未终结政策争论。批评者仍可质疑该功能是否真正自愿、操作系统是否获得过度可见性，以及政府是否会影响模型行为。

不过，它改变了技术基线。平台不能再简单声称加密对话使上下文保护不可能实现。相反，它们必须说明支持哪些终端保护措施，以及这些措施采用何种治理机制。

Google 拥有优势，因为它控制 Android、Google Messages、设备端 AI 基础设施以及 Gemma 模型家族。它可以在一个产品栈中协调模型优化和操作系统集成。

独立消息公司可控的环节较少。它们可能需要依赖设备 API、发布自己的模型，或接受与操作系统供应商的合作。

Apple 通过控制 iOS 和 Messages 也面临类似压力。Meta 必须在 WhatsApp、Messenger 和 Instagram 之间平衡保护措施，同时维持加密聊天所承诺的隐私保障。

眼下的竞争并不只是 Google 与另一家公司的较量，而是本地、具备上下文感知能力的检测，与那些仅在可疑链接、号码或账户被识别后才采取行动的碎片化防御之间的竞争。

新加坡提供了一个严苛的试验场。其政府已将平台监管、基础设施干扰、银行干预、移动端保护和公众教育结合起来。

这营造了一个环境，使新模型能够补充既有控制措施，而非孤立运行。它也让官员能够将设备警告与已知诈骗报告及干预结果进行比较。

然而，在新加坡取得成功并不会自动迁移至其他市场。诈骗话术、语言、机构、法律标准和用户预期均因市场而异。

本地化同样会带来维护成本。每个国家或语言群体都可能需要新的数据集、评估套件、机构合作伙伴和治理安排。

National AI Partnership 为 Google DeepMind 与新加坡政府建立了结构化关系。其他市场可能缺乏等效机构，或可能抵制政府参与分析私人通信的系统。

因此，最可能的扩展路径将通过平台和设备制造商展开。DeepMind 表示，消息服务和操作系统供应商可以在本地集成轻量级模型。

Google 更广泛的 Android 战略已指向这一方向。该公司称，其手机和消息保护功能每月会标记超过 500 万通疑似诈骗电话和短信。

这一数字来自 Google，并不能证明新加坡模型的有效性。但它表明，Android 可以大规模分发安全干预措施，而这是独立政府应用无法实现的。

如果本地化模型在不造成不可接受的电池消耗或警告量的前提下带来更好的检测效果，平台面临的压力将会增加。用户可能开始期待将私密、实时的安全检查作为标准设备功能。

企业也应当关注。高管冒充和供应商欺诈往往会利用公开封锁名单无法识别的组织背景。

在本地处理的企业模型可以将请求与已知工作流程、获批准的付款程序和可信身份进行比对。这种可能性将项目机制扩展到了消费者诈骗警告之外。

它也带来了额外的治理要求。由雇主控制的检测工具不能沦为隐形的职场监控工具。任何面向企业的改造都必须设定明确边界。

对于个人用户而言，系统化整理的个人信息可以提供额外的验证层。一套个人知识系统有助于在可疑对话之外保存可信的细节、决策和联系人信息。

更广泛的启示并不是每条消息都需要自动判断，而是诈骗防范在用户能够行动前，将紧急主张与可靠背景信息进行比对时效果最佳。

三个信号将揭示该模型能否兑现承诺

下一阶段必须证明其分发能力、准确性和持续隐私保护，因为仅凭这项发布并不能证明其中任何一点。

第一个信号是明确的部署路径。Google 和 GovTech 需要说明具体应用、支持的 Android 版本、适用设备、语言以及用户同意机制。

在 Google Messages 内开展公开试点能够提供深度集成，但平台覆盖范围会更窄。通过 ScamShield 部署则可能与新加坡现有的举报体系相衔接，尽管这需要以适当方式获取对话上下文。

与第三方消息平台集成将扩大覆盖范围。但这也需要与那些严格控制加密数据和应用权限的公司合作。

发布后承诺提供的安装细节，应说明该模型是可下载组件、操作系统服务，还是应用专属功能。这一选择将决定谁能够使用它。

第二个信号是透明的性能证据。合作方应公布误报率、漏报诈骗数量、预警延迟和电池消耗等结果。

总体准确率并不足够。结果应分别呈现冒充、投资、求职、钓鱼及其他对话型诈骗类别的表现。

语言表现也值得单独报告。一款模型可能在整体上看似准确，却在较小语种群体、方言或混合语码对话中失效。

有力的评估应纳入此前未见过的诈骗活动和对抗性测试。它还应衡量攻击者是否能通过图片、缩写、延迟提出请求或跨平台跳转来绕过检测。

真实世界试点还应追踪用户收到警告后的行为。关键结果不只是模型能否正确标记对话，而是警报是否帮助用户停止操作、进行核实或举报相关互动。

第三个信号是面向持续更新的公开治理框架。该模型需要最新的诈骗情报，但更新过程不能悄然扩大数据收集范围。

用户应获得清晰说明，了解哪些数据保留在设备上。他们也应知道，当自愿举报诈骗时，哪些数据会离开设备。

独立审计可以验证生产环境中的行为是否符合公开声明。审计摘要无需披露会帮助攻击者的检测规则，但可以记录控制措施和测试方法。

这三个信号将强化或削弱该项目的核心论点。广泛、基于同意的推广，以及可信的基准测试结果，将支持因地制宜的端侧保护方案。

若仅有限发布且缺乏性能数据，该模型仍将只是一个颇具前景的演示。高电池消耗、频繁误报或狭窄的应用覆盖范围，都会削弱其实际价值。

Google DeepMind 的诈骗检测合作仍值得关注，因为它瞄准了许多防线失效的环节。它试图在劝诱导致授权付款之前识别这种劝诱行为。

其两阶段架构在技术上具备合理性，而新加坡既有动力，也具备认真测试它的制度经验。尚未解答的问题关乎产品执行，而非问题本身是否存在。

关注首个支持的应用、首批独立性能数据，以及首份详细的隐私审计报告。这些披露将表明，端侧 AI 会成为可靠的安全层，还是仍停留在吸引人的原型阶段。

在此之前，用户应把任何警告视为核实的理由，而不要把没有警告当作安全的证明。面对紧急请求时请暂停操作，通过独立渠道核实身份，并根据可信记录确认付款指示。