Nick Cammarata 的超位置挑戰建基於「90% 神經元」主張

Nick Cammarata 以一項引人注目的估算挑戰超位置理論：抽樣的 Qwen3-32B 神經元極點中，約 90% 各自只有一項主要工作。他在 2026 年 10 月發表的文章認為，神經網絡的組織性遠高於可解釋性研究人員原先假設。不過，這個數字源自初步審核，而早期獨立重測得出的結果較低。

爭議不止於一個百分比。Cammarata 表示，研究人員誤讀了那些促使超位置成為解釋神經網絡複雜行為核心理論的例子。他改為提出「遞迴泛化」：相關功能由共同的運算角色發展出來，而非被任意塞進同一處。

這項主張直接挑戰以將模型活動拆解為更清晰特徵為基礎的研究策略。OpenAI 和 Anthropic 已為此開發自動化解釋、稀疏自動編碼器及電路追蹤方法。Cammarata 的替代方案則從模型原生神經元出發，追問所謂的混亂是否只是工具有限所致。

「90%」主張改變了起點假設

重要的改變，不在於某一項可解釋性評分有所提升，而是 Cammarata 希望研究人員重新從原生神經元開始。

Cammarata 將其長達 65 分鐘的研究文章稱為工作假設，而非經同儕審查的論文。文章結合新實驗、互動式視覺化、歷史重新詮釋，以及一套關於神經網絡如何自我組織的更廣泛理論。

他對 Qwen3-32B 的初步審核聚焦於神經元極點。極點是神經元其中一個方向的一側，涵蓋強烈正向或強烈負向活動。這個區分很重要，因為兩個方向可以支援不同的運算效果。

Goodfire 的估算顯示，約 90% 已檢視的極點各有一項主要工作。據稱約 7% 有兩項相關工作，另有 2% 至 4% 仍未能解釋。Cammarata 明確表示，這些百分比取決於門檻、模型深度、電路密度，以及如何界定一項工作。

因此，這項分析並不代表每個模型都有 90% 已獲充分理解。它並未顯示研究人員可以從個別神經元預測所有行為，也沒有把可解釋性變成一個已解決的問題。

相反，這個數字支持一項較狹窄的命題：當研究人員以更好的工具檢視強烈激活時，大多數抽樣神經元極點似乎圍繞一致的功能組織。較小的相關分支可以存在，而不表示不相關概念被任意混合。

Cammarata 報稱曾檢視某個 Qwen3-32B 神經元的 1 億個 token。當中只有約 160 個 token 達到其激活範圍較強的一半。他利用這種分布主張，微弱活動不應與神經元最強反應具有相同的詮釋比重。

這個取向造成方法論上的分歧。聚焦主導因果行為的研究人員，可能會把微弱激活視為影響不大的殘餘而略過；另一位研究人員則可能把同樣的活動視為隱藏次要功能的證據。

文章亦展示了在 Qwen3-32B 和 Qwen3.6-35B-A3B 上隨機選取的 1,000 項神經元調查。這些報告檢視激活語境、輸出效果、連結和干預，旨在超越只根據相關文字例子所作的標籤。

其中一個展示的電路把多個 Qwen3-32B 神經元連接至一項與診斷相關的回答。據稱移除一小組神經元，會改變模型下一個診斷猜測。其他例子則把神經元連結至回答時的保留措辭、用戶信心及文化特定聯想。

這些干預比單靠標籤更具資訊價值。某個神經元在某一主題附近激活，可能只是與另一個過程相關。改變它並量度輸出，則提供它參與該運算的證據。

不過，局部的因果證據不會自動驗證完整的 90% 估算。該展示庫只涵蓋 Qwen3-32B 內部單元的極小部分，其解釋亦部分依賴自動化代理對語義一致性作出的判斷。

Cammarata 亦承認另一項限制：涵蓋語言模型工作的技術配套論文，尚未提供完整的實驗說明。公開文章提供了大量證據，但混合了有記錄的發現與更大的推測。

這個區分應指引讀者如何理解標題。Nick Cammarata 的超位置挑戰是一項有實驗支持的嚴肅研究提案。它仍是對主流觀點的挑戰，而不是已獲確立的替代方案。

為何著名的貓與汽車神經元如此重要

Cammarata 的論點取決於證明可解釋性研究誤解了其最知名的例子，而不只是於較新的模型中找到更清晰的神經元。

其中一個重要例子是 InceptionV1 的神經元 4e:55，這是一個早期圖像分類網絡。研究人員觀察到它會對貓臉和汽車前方作出反應。這種組合看來毫無關聯，使其成為多語義性的一個難忘例子。

多語義性描述一個單元會回應數個表面上無關的概念。超位置提供其中一種解釋：網絡透過重疊表示，呈現多於其可用維度的特徵。當稀疏特徵甚少互相干擾時，便可以共用容量。

Cammarata 曾共同撰寫 2020 年的電路研究，該研究協助塑造這種詮釋。這段歷史令他的立場轉變格外有分量。他正重新檢視曾影響自己早期立場的證據。

他的新解讀始於視覺結構。貓臉和汽車前方往往包含相近的 V 形幾何結構。因此，這個神經元或許是在偵測一種有用的構型，而非儲存兩個無關的物件類別。

這個分別聽來微小，卻改變了神經元所代表的事物。貓與汽車單元暗示概念被任意打包；V 形偵測器則顯示，在具有共同結構的例子之間出現一般的視覺泛化。

Cammarata 對早期工作中的另一條電路作出類似的仔細檢視。該電路看似把汽車資訊分散到多個與狗相關的神經元。研究人員將這種模式詮釋為資訊隱藏於高維組合之中。

新文章指出，下游沒有任何部分讀取這個所謂的隱藏編碼。Cammarata 現在把這種模式視為一般的組合與泛化。他表示，自己未找到另一條已發表、具有預期超位置結構的真實網絡電路。

這並非在數學上推翻超位置。缺乏第二條有記錄的電路，或許只是反映觀察有限。然而，這削弱了把一個早期例子視為現代網絡代表的修辭說服力。

架構亦是論點的一部分。InceptionV1 的最後一層曾被視為特別難以詮釋。Cammarata 把大部分混亂歸因於架構瓶頸、後期層的溢出，以及會生成誤導圖像的視覺化方法。

他重新訓練了具備 92,000、706 萬及 2,860 萬個參數的 ConvNeXt 圖像模型，規模範圍約相差 300 倍。他表示，模型在這些規模下大致仍然易於理解。

文章進一步報稱，在經修訂的設定中，一般的架構改善令最後一層 99% 至 100% 的神經元可被容易詮釋。根據 Cammarata 的說法，核心比較中的模型規模和訓練資料均維持不變。

這個結果支持對容量壓力的另一種解釋。神經元較少時，模型可能學習較廣泛的類別，例如一個神經元涵蓋多種汽車；有更多空間時，這些廣泛類別可以分離成更狹窄的專家。

這個過程不需要網絡把無關概念隱藏在一起。它更像一個分類體系隨容量擴大而變得更細緻。這些類別仍會透過其運算歷史互相連結。

Cammarata 把這個過程稱為遞迴泛化。一個神經元由一致的角色開始，然後取得透過拼寫、形狀、語境或電路功能而相連的分支。因此，看似混雜的情況可以具有內在脈絡。

其中一個語言例子由字元片段開始，連接至相關詞尾，最終連到 Miyazaki 這個名字。表面檢視可能會把其激活歸類為互不相關；沿著各層追蹤，則可看到日益具體辨識所構成的結構化序列。

因此，核心轉變既是歷史性的，也是技術性的。那些令研究人員遠離神經元的例子，如今可能反而支持直接研究神經元。更好的觀察改變了詮釋，而沒有改變已訓練的網絡。

Nick Cammarata 的超位置挑戰能否成立，部分取決於這些重新分析。若其他研究人員能重現結果，領域便必須重新考慮其典型例子實際展示了甚麼；若未能重現，原先對神經元的審慎態度仍然合理。

Nick Cammarata 的超位置挑戰瞄準稀疏自動編碼器

主要競爭在於研究模型的原生機制，還是把其激活拆解成一套新的特徵字典。

超位置研究之所以具影響力，是因為個別神經元往往看來並不可靠，難以作為解釋單位。研究人員因而採用稀疏自動編碼器，即 SAE。這些輔助模型利用一組較大、且大多處於非活躍狀態的特徵，重建神經活動。

這種方法旨在把密集激活轉化為較易理解的組件清單。它與玩具模型證據密切相關，後者顯示網絡可呈現多於可用維度的稀疏特徵。這些實驗為受控條件下的超位置提供了清晰機制。

Cammarata 並非認為玩具模型毫無用處。他反對的是由簡化環境推論至已訓練網絡的做法。在人為設計環境中出現的機制，未必主導現代語言模型。

他亦質疑，抽取出來的特徵字典能否保留模型的原生組織。每次重建都會涉及對稀疏度、特徵數量、訓練資料及可接受誤差的選擇。所得特徵可以易於理解，同時仍偏離原始運算。

當研究人員把重建結果作為主要研究對象時，這個疑慮會更嚴重。SAE 可以揭示有用模式，卻可能遺漏準確行為所需的資訊；它亦可能把一個原生機制拆分為數個習得特徵。

Anthropic 曾利用稀疏表示繪製語言模型中的概念。其 2024 年的特徵映射研究識別出涉及地點、人物、程式碼、偏見及安全相關行為的模式。其後的電路研究則把抽取特徵連接至模型運算之間。

Cammarata 認為，從原生 Qwen3-32B 神經元中有時可以復原可比較的電路。他的例子追蹤神經元群組之間的資訊，並量度移除它們後的變化。他以此作為證據，說明分解不一定總是必要的第一步。

這場分歧不只是神經元與特徵之爭。雙方都使用活化示例、因果干預、自動標註及電路分析。真正的問題在於，哪一種表徵應獲優先考慮。

以分解為先的研究者會把原生活化視為糾纏不清，並尋找更乾淨的基底。Cammarata 則把原生模型視為主要科學研究對象。他只會在直接調查發現特定需要後，才使用額外表徵。

這項區別會影響錯誤處理。重建出的電路可能需要誤差項，以解釋其特徵集合未能涵蓋的行為。原生神經元電路可避免重建損失，但人類對它的解釋仍可能不完整或有誤。

它亦影響可擴展性。即使有自動化，繪製數百萬個神經元的圖譜看來仍相當艱鉅。不過，稀疏字典可能包含更多特徵，而每個特徵都需要標註、評估，並連結至下游行為。

Cammarata 認為，AI 研究代理正是改變這條方程式的因素。代理可以提出神經元標籤、生成測試、檢視歸因圖，並修訂失敗的解釋。人類研究人員便能集中處理罕見機制及具爭議的個案。

OpenAI 在 2023 年探索過相關方向，要求 GPT-4 解釋 GPT-2 神經元。其自動化神經元研究為整個模型生成並評分解釋。OpenAI 報告指出，大部分解釋得分偏低，尤其是在較大型模型及較後層中。

Cammarata 對這段歷史的解讀，與「神經元雜亂無章」的簡單敘事不同。他表示，早期方法往往要求模擬器預測精確活化值。這類評分可能會因解釋遺漏了對神經元主要角色影響甚微的微弱細節而作出懲罰。

注意力機制帶來另一項複雜性。與某個主體相關的神經元，可能會在標點符號附近觸發，因為注意力頭把情境資訊放置在那裡。即使該神經元具有連貫的電路功能，模擬器仍可能判定該解釋不準確。

因此，Cammarata 傾向採用多種證據形式，包括高活化示例、生成的反例、輸出權重、相連神經元、訓練檢查點及干預。沒有任何單一指標能決定一項解釋是否正確。

這個更廣泛的過程，比起字典建構更像實驗生物學。研究人員會就某個組件形成假說、擾動它、檢視相連結構，並完善說法。Cammarata 主張，隨着周邊圖譜逐漸補全，連貫性便會浮現。

他偏好的比喻是一座城市，而非一個結。沒有地圖時，城市可能看似混亂，但其分區與道路有彼此相關的用途。把它切割成抽象碎片，或會掩蓋令它變得可理解的組織結構。

即使他的論述獲得支持，稀疏自動編碼器也不會消失。它們仍可用於搜尋大型活化空間，或分離所需模式。壓力將落在這類主張上：研究人員必須先解開每一個網絡，才能研究其運算。

Nick Cammarata 對疊加挑戰的較強版本認為，網絡本身已經完成大部分組織工作。可解釋性於是成為繪圖問題，而非復原問題。這將把大量研究工作重新導向原生電路。

一項獨立複測令標題數字面臨壓力

首次公開複測支持部分神經元層面的結構，但在更嚴格的定義下，未能重現 Goodfire 的 90% 數字。

獨立研究團體 IRSI 在文章發表後不久，檢視了當中的多項主張。其預先註冊的複測評估了 Goodfire 的摘要、抽樣的 Qwen3-32B 神經元、隨機方向，以及刻意混合的單元。

三個 AI 分類器審閱了 Goodfire 為 500 個 Qwen3-32B 神經元撰寫的描述。在八個層組別之間平衡結果後，多數投票把 78.3% 已描述的極性分類為只有一項主要工作。報告的 95% 區間為 75.5% 至 81.1%。

這個結果低於 Goodfire 約 90% 的估計，但並非崩跌至接近零。它顯示，在外部分類程序下，語義連貫性經常出現。它亦顯示，當評估者採用不同標準時，結果會顯著變動。

IRSI 自家的儀表板式標註工具得出更嚴格的結果。它把隨機抽樣神經元中 57% 至 65% 標記為單一工作單元。同一系統以相同方式分類 Goodfire 精選圖庫中的神經元，比例約為 70%。

研究人員警告，其工具所採用的標準可能比 Goodfire 更嚴格。他們的程序亦把約五分之一植入的雙工作混合單元錯分為單一工作單元。這些錯誤令研究人員無法就哪一個估計更接近現實作出明確裁決。

與隨機方向的比較得出混合證據。在較大的事後樣本中，65% 隨機神經元獲得單一工作標籤，相比之下，隨機方向為 31%。這個 34 個百分點的差距超過研究人員預先設定的門檻。

不過，預先註冊的樣本僅包含 48 個神經元。其 26 個百分點差距未達 30 個百分點門檻。較大的樣本提供了啟發性支持，但不能視為預先註冊的確認。

層位置令結果更為複雜。在某項事後分析中，早期層的隨機神經元與隨機方向獲得相近的單一工作比率。模型其他部分的差異則更為清楚。

這些發現揭示了任何乾淨的可解釋性百分比背後的困難。研究人員必須決定哪些活化應納入計算、相關子功能是否應歸為一類，以及負極與正極是否值得分別標註。每一項選擇都會影響結果。

自動評分器增添另一項不確定性。大型語言模型可以為雜訊模式產生流暢的解釋，也可能拒絕不符合熟悉分類的有效結構。

複測部分環節的盲測並不完整。一個分類器可憑接近 0.85 的曲線下面積分數，分辨神經元儀表板與隨機方向儀表板。部分 AI 標註器亦曾看過預先註冊內容，儘管其他標註器沒有。

Goodfire 公開的圖庫帶來另一個選擇問題。文章描述了涵蓋兩個模型的 1,000 次隨機選取調查。然而，閱讀摘要的外部評估者並未獨立重建整套測量流程。

這項審核也衡量神經元極性，而非對完整模型的理解。模型可以含有各自連貫的單元，卻仍依賴難以解釋的互動。注意力、殘差流、非線性閘門及分散式電路，都可能在神經元層面之上形成複雜性。

可讀的組件並不保證系統安全。工程師仍需辨識哪些電路會在某項特定決策中發揮作用，並確定這些電路如何隨提示、語言、微調及部署條件而變化。

90% 神經元的洞見亦不能證明欺騙或不安全規劃會以明顯標籤呈現。危險行為可能透過以陌生電路排列的普通組件而出現。乾淨的部件可以產生不透明的整體。

Cammarata 預期到這項反對意見的一部分。他的文章主張，當研究人員研究神經元周邊的生態系統時，神經元會變得更容易解釋。連結、注意力模式及因果干預會限制合理解釋的範圍。

這是一項研究計劃，而非已完成的安全方法。它需要標準化評估，以獎勵因果準確性，而不是具說服力的描述。它亦需要跨多個模型家族、架構及訓練機制進行測試。

技術配套論文將相當重要，因為現時文章橫跨多個論證層次。其視覺結果、語言示例及學習理論互相支持，但尚未構成一個外部團隊可直接重現的單一基準。

因此，懷疑論立場應保持精確。現有證據不足以把文章斥為軼事，也不足以宣告 AI 可解釋性已經解決。

合理的解讀介乎兩端之間。在多項測試中，原生神經元似乎比隨機方向具有更高結構性。單一工作神經元的確切比例仍取決於定義、抽樣及評估方法。

遞歸泛化提出另一套神經學習理論

這項更深層的主張，以關連運算角色如何一同成長的發展式解釋，取代任意的特徵打包。

疊加主要把容量視為儲存問題。網絡中的有用特徵多於可用維度，因此它會重疊稀疏表徵。低碰撞率令模型能保留比簡單的一神經元一特徵系統更多的資訊。

遞歸泛化則圍繞學習動力來界定問題。神經元透過由相關示例及鄰近電路產生的梯度而發展。新的角色會在既有機制已提供有用起點的位置形成。

依照這個觀點，隨容量增長，一個廣泛的汽車神經元可分化成專門的汽車機制。一個拼寫模式神經元可為共享相同片段的名稱或詞語取得分支。這些角色具有可追溯的譜系，而非任意配對。

Cammarata 主張，微弱而無關的特徵面對艱難路徑。它們必須在稠密的微弱活化所造成的干擾中存活，同時對訓練損失貢獻甚少。相反，相關延伸可重用既有電路，並獲得更一致的梯度支持。

他以電路競速及梯度飢餓等概念描述這個過程。相互競爭的機制會競相減少餘下誤差。一旦某條路徑學會某項功能，它便可能剝奪效率較低替代方案的有用梯度。

該理論提出可測試的預測。罕見事實應透過與其主題相關的電路傳遞，而不是透過僅因碰撞機率低而選定的無關維度。訓練檢查點應顯示，分支會從語義或功能上相連的機制中生長。

該主張亦預測，更大型、訓練更佳的模型在某些方面可能更容易繪製圖譜。更多容量容許更狹窄的神經元，而周邊電路則提供額外的解釋脈絡。規模增加部件數量，卻可降低每個部件內部的歧義。

這個結論違背常見直覺。較大型模型看來更難理解，因為它們包含更多參數。Cammarata 將工作量與工作的性質區分開來。

大型城市需要比村莊更大的地圖。它的專門分區仍可能比擁擠聚落更容易識別；在後者之中，每座建築都承擔多種用途。更多組件不必然意味更多概念糾纏。

現代架構可能有助於形成這種組織。Cammarata 強調一些能幫助更深層學習及防止後層溢出的改良。這些改良是為提升模型效能而採用，而非為可解釋性，但它們可產生更乾淨的內部分工。

這項論證在注意力方面仍未完整。語言模型的注意力頭數量遠少於多層感知器神經元。每個頭都可參與廣泛的路由模式，令一個頭一項工作的描述較不可信。

殘差流帶來另一項挑戰，因為它們混合了許多組件的貢獻。一個連貫的神經元可以寫入多個訊號互動的共享空間。理解原生神經元，並不代表毋須研究這些混合表徵。

遞歸泛化亦必須區分有意義的譜系與事後敘事。研究人員往往可以在兩個概念同時出現後，編造兩者之間的關聯。有力證據需要預測、保留測試，以及因果介入。

訓練檢查點提供了一條具前景的途徑。若兩項功能確實共享發展歷程，研究人員應可觀察到該分支隨時間形成。這個序列在不同訓練運行中重現的頻率，應高於任意解釋所預測的情況。

跨模型比較提供另一項測試。在不同隨機種子下訓練的相似任務，即使個別神經元未能完全對齊，也應產生相關的計算模式。反覆出現的結構將加強以下主張：學習會以可預測的方式組織機制。

這套理論亦需要對抗性案例。研究人員應特意尋找那些在仔細調查後，其最強功能仍彼此無關的神經元。這些失敗案例將揭示遞歸泛化的邊界，以及真正疊加表徵的起點。

Cammarata 對相反觀點提出一項嚴苛挑戰：在真實網絡內找出一個令人信服的疊加表徵電路。該電路應將不相關的功能壓縮在一起，並顯示下游機制讀取該混合表徵。單憑相關性並不足夠。

同一標準亦應適用於「乾淨網絡」論點。一個可信的解釋必須能預測超出用來建立其標籤的示例以外的活化和介入結果。它應識別相關連接，並能通過為推翻它而設計的測試。

若遞歸泛化成立，研究人員得到的不只是更清晰的圖表。他們將獲得一套把可解釋性與訓練連結起來的理論。這種連結或可讓工程師監察不受歡迎機制如何形成，而非只檢視已完成的模型。

它亦可能實現更精準的介入。團隊可識別為有害電路提供動力的環境、資料集模式或強化訊號，然後調整該來源，而毋須重新訓練每一項可解釋性工具。

這些可能性仍屬下游影響。目前證據支持的是針對性實驗，並非部署保證。企業買家和開發者不應把「神經元可讀」的主張視為安全證書。

對知識工作者而言，眼前的相關性屬間接但真實。模型供應商愈來愈常以可解釋性主張來支持信任、審計和管治。買家需要知道，這些主張描述的是相關性、因果電路，還是全面的行為覆蓋。

Nick Cammarata 的疊加表徵挑戰使這項區分更為明確。它指出模型的原生組織方式值得重新審視，但並未免除測試這些機制實際作用的責任。

三個訊號將決定這項挑戰是否成立

下一階段應把一項雄心勃勃的工作假設，轉化為可重現的量度、競爭性解釋，以及模型層面的安全測試。

第一個訊號，是有關語言模型神經元的技術論文承諾。論文應記錄抽樣方式、門檻、自動化代理提示、介入方法和失敗案例。釋出程式碼和活化資料，將讓獨立團隊重新運行 Qwen3-32B 分析。

若在數個預先指定的定義下，結果接近 90%，將加強核心主張。若合理定義之間的結果分布極廣，焦點便會由標題中的百分比，轉向較狹窄的發現：原生神經元的表現優於隨機方向。

論文亦必須說明 Goodfire 如何挑選和評估這 1,000 項神經元調查。隨機抽樣應可在不同層和活化密度之間重現。負極和正極亦需要獲得一致處理。

第二個訊號，是跨架構的獨立重現。研究人員應測試密集式和混合專家語言模型，包括由不同機構訓練的模型。單靠視覺結果，無法定論 transformer 電路如何表徵語言和推理。

重現研究應包括較舊和較新的模型。若架構改良可解釋更乾淨的神經元，差異應有系統地出現。研究人員應能把具體設計變更，連結到可量度的可解釋性提升。

跨模型實驗亦可測試規模。Cammarata 指出，在參數量達數萬億的模型中，包括 Kimi K3，也觀察到相似模式，詳情將留待後續研究公布。外部確認將顯示，這種組織方式是否能超越單一 Qwen 模型而持續存在。

第三個訊號，是原生神經元與分解優先解釋之間的直接競賽。兩種方法應使用相同的保留提示，分析相同行為。評估者應比較因果保真度、重建誤差、覆蓋率和研究成本。

一個有用的基準應涵蓋一般知識、多語言處理、長篇推理、拒絕行為和對抗性提示。它應獎勵能預測針對性介入的解釋。自然語言上的合理性不應單獨決定結果。

若原生神經元能以較少誤差和較少輔助假設解釋電路，其可信度將提高。若稀疏表徵持續揭示神經元層面分析所遺漏的因果結構，則仍會保有優勢。

研究人員亦應檢視混合方法。原生神經元可界定主要地圖，而稀疏特徵則可協助在殘差流中定位異常活動。證據可能支持分工，而非一種普遍適用的表徵方式。

安全評估仍是最困難的測試。一種方法必須偵測在罕見或對抗性行為中重要的機制，而非只偵測語料庫中的常見模式。若關鍵電路在部署環境下仍不可見，乾淨的神經元標籤意義不大。

公開討論應避免兩個過早結論。其一是認為 90% 的估計已解決黑箱問題。其二是認為較低的獨立結果令整項提案失去意義。

更具影響力的可能性介乎兩者之間。可解釋性研究人員或許低估了模型自身神經元的價值，同時高估了對通用分解的需要。修正這種偏見將改變實驗、工具和資助優先次序。

Cammarata 的個人立場轉變為辯論帶來動力，但權威不能定論。他早前在電路研究中的角色，令這項批評具有歷史意義。可重現的因果證據必須決定這個新論述是否勝出。

開發者應依次關注配套論文、跨模型重現研究，以及正面比較的電路基準。這些訊號結合起來，可區分一篇引人入勝的研究文章與 AI 可解釋性的持久轉向。

實際問題如今已很清楚：獨立團隊能否利用原生神經元，比現有特徵分解方法更有效地預測和控制模型行為？若可以，Nick Cammarata 的疊加表徵挑戰將成為一項工程計劃。若不可以，90% 神經元洞見仍將是對量度方式的寶貴警告，而非模型安全的新基礎。