AI 校园安全工具可检测威胁——但无法预测暴力行为
Google News 再度将关注点投向承诺在袭击发生前识别校园暴力风险的 AI 系统。矛盾显而易见：这些工具能够发现预警信号，却无法可靠地预测哪名学生会实施暴力行为。
如今，这类技术覆盖多种不同任务。摄像头扫描可见武器，软件监控学生账户，预测模型则评估行为风险。每种系统都能缩短响应流程的一部分，但没有任何一种能够看见所有威胁，或理解所有情境。
这一区别划清了有用的检测能力与更宏大的预防承诺。AI 可以识别特定模式，并将人类注意力引向相关线索。它无法判定意图、诊断学生状况，或保证干预能够防止伤害。
目前最有力的证据仍支持多学科威胁评估，即将已记录的行为与训练有素的人工判断相结合。因此，AI 供应商、学区、辅导员、家长和民权倡导者正围绕同一个问题展开争论：算法的权力边界应止于何处？
最新 Google News 争论究竟改变了什么
Google News 最新的关注，将熟悉的产品推介转化为对证据更严苛的要求。
多年来，校园安防供应商一直在推广计算机视觉和预测分析。当前的争论在于，这些系统是否真正改善了安全结果，而不只是制造了更多警报。
计算机视觉是指识别图像中物体或活动的软件。在学校中，它可以监视现有摄像头画面，寻找可见的枪械、刀具、斗殴、未经授权的进入或异常移动。
预测分析的工作方式不同。它会分析与风险相关的历史和当前数据模式。其输出通常是一个评分或警报，而不是经过验证的未来行为预测。
学生活动监控构成了第三类。Gaggle、GoGuardian 和 Lightspeed Alert 等产品会扫描学校账户或设备，寻找与暴力、虐待或自残相关的语言。
这些类别常在公开讨论中同时出现，但它们解决的是不同的问题。摄像头可能在暴力发生前数秒检测到已亮出的武器；监控软件则可能在数天前标记出令人担忧的语言。
行为模型可能会整理辅导员、管理人员或临床人员已收集的信息。将这三类系统都视作“预测性 AI”，掩盖了它们在时效性、证据和运营风险方面的重要差异。
Security Info Watch 此前的校园安全分析介绍了视觉武器检测和暴力风险评估，并指出糟糕的数据、基础设施缺口、偏见、误报和漏报都是严重限制。
这很重要，因为识别一个物体的范围远小于预测个体行为。模型可以从标注图像中学习手枪的视觉特征，而人类意图并不存在同样稳定的特征。
光线、摄像头位置、衣着、物体角度和图像质量都会影响视觉检测。行为信号则更依赖于情境、文化、残障状况、语言和个人处境。
一名为作业研究暴力问题的学生，可能使用与表达威胁者相同的词语。虚构故事也可能包含令人不安的画面，却无法揭示作者的意图。
相反的问题同样重要。计划实施暴力的学生可能避开学校设备，从不在摄像头前展示武器，或没有呈现出系统能够识别的模式。
因此，这项技术在改变信息流方面比预测暴力行为更可靠。它可以将数千份文档或摄像头画面中的特定信号，转移到规模更小的审查队列中。
当工作人员了解其局限时，这很有价值。但若将警报视为结论、指控或自动指令，情况就会变得危险。
核心事件并非某个模型突然学会预见袭击，而是学校面临的压力日益增大：必须将宽泛的 AI 宣称转化为可衡量、可审计的安全表现。
这种压力首先落在供应商身上。他们必须展示检测率、误报率、漏报事件、响应时间，以及在不同校园环境中的结果。
它也落在学校领导者身上。他们必须说明收集哪些数据、谁审查警报、记录保留多久，以及学生被标记后会发生什么。
这些问题让故事超越了技术采购。它们使 AI 校园安全成为一项治理问题，涉及儿童、敏感数据、紧急决策和公共问责。
AI 校园安全最适合用于检测，而非预测
AI 可以检测明确界定的信号，但预测校园暴力要求它从不完整证据中推断未来行为。
武器检测系统的任务相对有限。它会在视频画面中寻找与训练数据中物体相似的目标，然后发送警报供人工审查。
即使是这一有限任务也取决于可见性。武器必须进入摄像头视野，保持足够清晰，并且与模型学习过的示例相似。
Antioch High School 枪击案暴露了这一物理局限。2025 年 1 月，一名学生将手枪带入 Nashville 这所学校，杀害另一名学生后自杀身亡。
根据一份详尽的武器检测评估，该校配备了 Omnilert 视觉枪支检测系统。系统未能识别枪支，因为它并未出现在已启用摄像头的可见范围内。
这一失败并不意味着计算机视觉永远无效。它说明，软件无法分析其传感器从未捕捉到的事件。
当清晰可见的武器进入受监控画面时，同一系统仍可能缩短响应时间。这是在威胁变得可观察后进行的检测，而不是在威胁出现前作出的预测。
音频分析也处于类似位置。传感器可以识别类似枪声或高度攻击性声音的模式，却无法仅凭声音可靠地还原动机。
安防专业人士越来越建议将传感器与视频核验、门禁控制、群发通知和训练有素的响应人员结合使用。这种分层模型假定每个组成部分都存在盲区。
一份 2025 年的传感器部署指南建议学校避免让系统自主决策，也建议在干预前进行人工审查，并提高有关训练数据和误报的透明度。
校园暴力预测比这些检测工具走得更远。它试图从通信内容、记录、行为或多种风险因素组合中推断未来危险。
由于针对学校的袭击仍然罕见，统计挑战极为严峻。当结果罕见时，即使模型灵敏度很高，也可能产生远多于真实预警的误报。
设想一个假设模型，它能够正确标记大多数未来袭击者。如果它同时将庞大学生群体中的一小部分人误判，工作人员仍可能收到数千条误报。
这些误报并非无害的行政噪音。每一条都可能引发问询、联系家长、纪律处分、紧急评估或执法部门响应。
漏报则带来相反的代价。系统可能在遗漏训练数据或受监控环境之外的威胁时，仍制造一种安全感。
预测还需要能够表明哪些历史学生确实存在风险的标签。这些标签往往反映早期纪律实践、报告模式以及获得支持机会的不平等。
如果过去的系统对某些群体实施了更密集的监控，其记录中就会包含更多已记录事件。模型可能吸收这种差异，并将其呈现为中性的风险信号。
评分无法修复存在偏见或不完整的源数据。由于结果带有数学精确性的外观，它反而可能让这些弱点更难被察觉。
因此，AI 的实际价值在于分流。它可以为审查排列信息优先级、关联相关记录，并缩短发现明确信号所需的时间。
这项工作仍需要人工团队来询问发生了什么、威胁是否可信，以及何种支持性干预适合当前情况。
边界应当保持清晰：AI 识别值得关注的材料，训练有素的人员决定其含义、紧迫性和响应方式。
真正的较量是警报与人工判断
主要冲突并非 AI 与旧式软件之间的对立，而是自动化警报与具备情境理解的人工评估之间的较量。
学校面临着可以理解的人手问题。一个学区产生的消息、摄像头画面、举报线索和事件报告，可能多到其安全人员无法逐一人工审查。
自动化提供了规模化能力。它能够持续扫描内容，并在数秒内发现特定模式，包括晚间或周末。
然而，规模化也会带来第二层工作量。每一条警报都需要核实、记录、沟通和恰当的响应。
如果学区缺少辅导员或训练有素的威胁评估人员，自动化可能只是扩大待处理队列，而无法改善预防效果。更多检测并不会自动创造更多干预能力。
一项重要的学生监控调查审视了 Vancouver Public Schools 的监控措施。该学区使用软件监控学生活动，以寻找暴力、自杀和其他危险迹象。
2023 年 10 月至 2024 年 10 月期间，近 2,200 名学生收到过警报，约占该学区总入学人数的 10%。
该系统针对自杀标记了超过 1,000 份文档，针对暴力威胁标记了近 800 份。一些警报让辅导员有机会联系需要帮助的学生。
另一些则误读了普通或创作性材料。一名学生因一篇虚构故事包含轻微暴力画面而被叫到校长办公室。
这个例子体现了警报与判断之间的张力。算法识别了与暴力相关的语言，却无法理解其文学用途。
辅导员可以通过与学生交谈来确认这一情境，而软件无法仅凭文本完成这种评估。
调查还发现了严重的数据安全问题。在一次公共记录处理过程中，记者获得了近 3,500 份敏感且未经删节的学生文件的访问权限。
这种暴露并非预测错误，而是围绕一个大规模收集高度敏感信息的系统所产生的治理失误。
该案例表明，绩效不能仅以已发送的警报来衡量。学校还必须衡量不必要的干预、数据暴露、学生信任以及遗漏的威胁。
人工评估也有弱点。工作人员可能忽视证据、采用不一致的标准，或让个人偏见影响决定。
健全的流程并不假定人工判断完美无缺。它采用有记录的标准、多学科审查、后续跟进和明确的升级规则。
近期的联邦研究提供了更扎实的比较依据。一项2026年的威胁评估研究分析了五个州166所学校中的2,349起案例。
研究人员发现，234起案例（即10%）在评估后发生了攻击。7起案例（即0.3%）导致目标对象严重受伤。
与非严重威胁相比，严重威胁发生攻击的可能性约高20倍。这一发现支持采用结构化的威胁分类，并对严重案例实施更有力的干预。
但这并不能证明AI模型能够独立完成这些分类。该研究考察的是一套全面的威胁评估流程，而非自主预测产品。
这一差别对采购决策至关重要。学区应询问，某项工具是支持经过验证的工作流程，还是试图取代该流程。
有用的软件可以汇总记录、跟踪后续行动，并提醒团队处理尚未结案的案例。它还可以在大型数据集中搜索明确、预先定义的指标。
风险更高的软件则会将不透明的相关性转化为针对个人的标签。这些标签可能在任何人检验底层证据之前，就影响教职员工的判断。
学校绝不应将算法评分视为实施惩罚的充分依据。它应触发审慎调查，而非有罪推定。
因此，最可信的架构应由人主导。AI负责处理规模化工作，而受过培训的专业人员掌握解释、干预和问责权。
误报是安全成本，而非小问题
一次误报会消耗注意力，也可能伤害学生；反复出错则会削弱人们对整个安全系统的信任。
供应商有时将误报描述为谨慎所必须付出的可接受代价。这种表述忽视了软件发出警报后会发生什么。
管理人员可能会将学生带离课堂。辅导员可能联系家长，安保人员可能搜查随身物品，警方也可能展开调查。
后果的严重程度取决于当地政策。一些学校将警报用于开启支持性对话，另一些学校则会将威胁性语言直接移交执法部门。
美联社的一项误报分析审查了堪萨斯州劳伦斯市1,200多条警报。其中近三分之二被学校官员归类为无须处理的问题。
200多起误报来自学生作业。据报道，摄影专业学生也因系统误将其作品归类为裸体内容而受到询问。
这些错误暴露出语境理解问题，但更大的问题在于响应设计。错误分类只有在机构据此采取行动时，才会造成实际后果。
田纳西州一名青少年因学校关联聊天中出现一则带有威胁意味的玩笑而被逮捕。其家人后来指称，她遭到拘留、审讯和脱衣搜查。
Gaggle CEO Jeff Patterson表示，该学区没有按产品预期方式使用该产品。他认为，这起事件本应成为一次教育契机，而不是交由警方处理的事件。
这一回应说明，供应商的准确率本身无法决定安全性。同一条警报在一个学区可能导向辅导，在另一个学区则可能导致刑事化处理。
因此，学校必须评估完整的决策链。它始于数据收集，终于学生最终遭遇的结果。
一项有用的审计应记录系统标记了什么、审查人员如何分类，以及随后采取了何种行动。它还应跟踪后续证据是否支持最初的担忧。
学区很少公布这条完整链路。供应商往往披露经过挑选的警报总量或干预案例，却不提供可比的漏报数据。
这造成了证据缺口。一则成功干预的叙述表明工具曾在某次事件中发挥作用，但无法揭示系统整体的有效性。
漏报更难统计，因为没有人会收到警报。学校通常只有在事故暴露出系统遗漏之处后，才会发现它们。
AI校园安全评估应报告两类错误。它们还应区分低级别关切与迫在眉睫、可信的威胁。
将所有警报合并为一个头条数字，可能让系统看起来更有效。有关欺凌的警报并不等同于识别出一场有计划的攻击。
隐私还会带来另一项成本。监控软件可能捕捉日记内容、医疗困扰、关系问题、性取向，或与AI聊天机器人的对话。
学生可能不知道哪些活动受到监控。如果他们认为每一句敏感表述都可能触发审查，也可能避免求助或表达自己。
这种寒蝉效应难以量化，但会影响辅导员能够获得的信息。监控可能削弱学生自愿报告关切所需的信任。
偏见则是另一个尚未解决的问题。语言模型和分类器可能会因群体不同，而对方言、与残障相关的沟通方式或情绪强烈的写作作出不同解读。
学区需要按子群体划分的表现数据来评估这一风险。总体准确率可能掩盖小规模人群中的糟糕结果。
系统的网络安全同样重要。集中存储敏感学生内容，会成为攻击者、疏忽共享和未经授权的内部访问所觊觎的目标。
学校应仅收集实现明确定义安全目的所必需的信息。它们应限制访问权限、设定删除期限，并记录每一次对外披露。
家长和学生也需要获得有意义的说明。学校使用“AI保障安全”这种笼统说法，并不能揭示系统的覆盖范围。
透明度应明确受监控的账户、警报类别、人工审查人员、升级规则、保留期限和申诉选项。还应说明执法部门是否会接收数据。
独立测试仍然不可或缺。供应商不应成为唯一判断其系统是否安全运行的一方。
可信的评估应使用真实的学校材料，涵盖边缘案例，并公布漏检率和误报率。它还应测试不同光照、设备、语言和人群条件。
学校还应在试点期间测试运营响应。即使警报在技术上正确，如果没有人及时审查，或不了解下一步该做什么，它仍然会失效。
问题不在于误报是否可以在任何情况下被容忍，而在于机构能否管理错误，而不将不确定性转化为无正当依据的惩罚。
更好的预防始于算法之外
在软件提供有用信息之前很久，校园暴力预防就已取决于人际关系和响应能力。
威胁往往会通过多种渠道出现。学生可能告诉同伴、公开发帖、提交令人担忧的作品、表现出不断升级的行为，或将武器带入校园。
没有任何单一传感器能观察所有这些渠道。有效的预防需要整合报告系统、行为评估、心理健康支持、实体安全和应急准备。
匿名举报热线可能有所帮助，因为学生往往比成年人更早注意到问题。其价值取决于快速审查、保密规则以及防范恶意举报的措施。
教师和辅导员也需要清晰的报告路径。如果一条警示停留在某间教室、收件箱或纪律档案中，它就会失去价值。
多学科团队可以将这些碎片信息连接起来。成员可能包括管理人员、辅导员、心理学家、安全专业人员，以及在法律允许的情况下参与的执法人员。
他们的职责不是给学生贴上危险标签，而是审视行为、判断紧迫程度，并找出能够降低风险的干预措施。
这些干预措施可以包括辅导、冲突解决、家庭参与、调整监管方式，或限制接触武器。当威胁具体且迫在眉睫时，紧急行动仍然必要。
AI可以通过整理信息来协助这一流程。它可能关联反复出现的报告、在受监控内容中识别明确威胁，或快速分派可见武器警报。
它无法补足缺失的服务。一个没有辅导员的学区，不会因为安装了能产生更多转介的软件就解决这一短缺。
RAND的监控证据综述发现，关于基于AI的学生活动监控的收益与风险，现有研究十分有限。该综述还发现，没有全面研究证明其对青少年自杀预防具有影响。
这一结论并不意味着该技术毫无价值。它意味着公开证据并不支持“监控本身能够预防有害后果”这类宽泛说法。
恰当的标准应更为狭窄。学校应询问，某一特定工具是否能改善既有预防流程中的某个明确定义环节。
对于摄像头系统，这一步可能是缩短从可见武器暴露到人工核验之间的时间。对于监控软件，这可能是发现明确威胁。
对于案件管理软件，其收益可能在于确保已分配的干预措施得到跟进。每项主张都可以被衡量，而无需假装能够预测未来。
采购应始于风险评估，而非产品演示。学区必须在选择技术之前识别自身实际存在的脆弱点。
一所出入口不受控的学校，面临的问题不同于内部沟通不畅的学校。农村学区的人员配置和响应条件，也与城市校园不同。
领导者随后应明确预期成果。“使用AI提升安全”过于模糊，无法评估。
更好的目标可能是在五分钟内审查紧急警报。另一个目标可能是在不增加不必要警方转介的前提下，减少尚未完成的威胁评估行动。
之后，学区可以基于基线测量开展有限试点。工作人员应使用一致的定义，记录部署前后的表现。
试点需要设定停止规则。过多误报、子群体表现不均、数据泄露或缺乏证据支持的供应商主张，都应暂停扩大部署。
在广泛部署之前，应征求学生和家长的意见。这些系统运行于学习环境中，而不是实验室或机场。
这种环境依赖于信任。学生必须相信，他们可以寻求支持、质疑某项决定并进行交流，而不会被自动视为嫌疑人。
实体安全仍然重要。受控出入、可用的门锁、摄像头覆盖、通信系统和应急预案，都能在预防失效时减少伤害。
这些措施也需要维护和培训。一台失修的摄像头、无人监控的警报渠道，或过时的联系人名单，都可能使原本有能力的软件失去作用。
技术应让经过演练的安全计划更快速、更具信息支撑。它不应成为计划本身。
这种分层方法听起来不如校园暴力预测那么戏剧化，但它更符合现有证据，也更符合当前AI的局限。
学校和AI采购方接下来应关注什么
下一项考验在于供应商和学区是否公布结果证据，而不是另一种模型是否生成更多警报。
第一个信号是独立验证。学校应寻找前瞻性研究，这类研究会长期跟踪部署情况，并与相似学校的结果进行比较。
这些研究必须报告误报、漏报、干预结果和子群体表现。由供应商资助的演示无法回答有关真实世界有效性的所有问题。
一项有力的研究还应将检测与预防区分开来。识别出展示中的武器是一种结果；阻止一场有预谋的袭击则是另一回事。
如果出现可信的独立证据，那么针对性部署 AI 的理由将更具说服力。持续依赖证词，会削弱有关预测校园暴力的主张。
第二个信号是采购透明度。学区合同应明确说明监测哪些内容、使用何种模型，以及如何衡量其表现。
合同还应规定数据所有权、保存期限、删除机制、安全控制措施，以及分包商的数据访问权限。同时也应界定何时向家庭或执法部门发出警报。
公开报告应披露警报类别及最终处置结果，同时不暴露个别学生身份。这样，社区便能区分真正的干预与常规误报。
透明的合同能增强信心，因为它们会将运营假设置于审查之下。保密的性能条款则可能表明，营销仍然领先于问责。
第三个信号是人工响应的质量。学区应报告，辅导员和威胁评估团队是否具备足够能力来审查警报并完成干预。
人员配置数据很重要，因为警报本身并不会产生预防效果。只有经过培训的人员对其进行评估并采取行动，它才具有价值。
学校应监测响应时间、案件结案情况、重复警报、自愿学生报告，以及不必要的纪律处分转介。这些指标能够揭示技术是在支持系统，还是让系统不堪重负。
更强的人力能力将支持 AI 发挥有限作用。若警报量不断上升而后续跟进没有改善，则会削弱其预防效果的主张。
Google News 的新闻周期仍会不断制造大胆的说法，称某些系统能够识别武器、情绪或高风险语言。采购方不应将可见度视为有效性的证明。
最站得住脚的结论仍然是有条件的。AI 可以帮助学校更快发现某些信号，尤其是在信号明确且可观察时。
它无法可靠地判断哪名学生会实施暴力行为。它也无法理解学校数据中记录的每一个玩笑、故事、危机、关系或文化背景。
它同样无法选择一种人道的回应。这个决定应由在公开规则下承担责任的人作出。
考虑采用这些产品的学校领导者应提出最后一个问题：该系统究竟会改善哪一项决策，又有什么证据表明它确实带来了改善？
如果答案只聚焦于警报、准确率声明或未来主义式的预测，那么该提案并不完整。应要求提供结果数据、独立测试，以及有据可查的人工审查流程。
Google News 可以将注意力引向这一承诺。社区必须决定，证据、保障措施和响应能力是否足以证明这种监控具有合理性。
下一项真正有意义的进展，不会是一个声称能够预见暴力的算法，而会是一所学校证明技术能够支持更早、更公平、更有效的人工干预。
