top of page

p-diff 權重生成令「AI 建造 AI」的說法備受質疑

40 分鐘前
讀畢需時 11 分鐘

p-diff 研究人員表示可從雜訊生成可用的神經網絡參數,但後續研究質疑這些輸出是否代表真正的新模型。這場爭議正是以下吸引人構想的背景:利用與 AI 圖像生成相關的技術,改為產生另一個 AI 模型的權重。因此,圍繞 p-diff 權重生成的問題,要求遠高於生成器能否輸出數字;關鍵在於,這些數字能否帶來超越其訓練樣本來源模型的實用行為。

本報道所獲提供的一段 Reddit 節錄,提出可根據自然語言描述生成用於繪畫或 Pong 風格遊戲的網絡。報道期間未能獨立取得原帖,因此其作者、實作方式、發表日期和結果均未經核實。當中的例子應視為建議中的應用,而非已獲確立的能力。

已發表的研究令其基本構想具可信性,但並未驗證完整提案。Google Brain 的 HyperNetworks 研究早已建立一條讓一個網絡生成另一個網絡權重的途徑;其後擴散研究延伸了這個方向。現時的核心張力在於產生有用的專門化能力,還是重新包裝既有方案;開發者在以此取代傳統訓練流程前,必須分辨兩者。

提案走在可核實證據之前

生成網絡權重是有文獻記載的研究方向;從一句文字生成任意可運作系統,則需要另行證明。

所提供的節錄以一項合理觀察開始。圖像和神經網絡都涉及數值陣列,因此圍繞數字設計的生成器毋須只限於圖片。擴散模型,即經訓練以逆轉加雜訊過程的生成器,可以處理圖像像素以外的表徵。這開啟了一個研究方向,但這個類比本身並不保證效能。

權重是決定網絡如何將輸入轉換為輸出的已學習數值參數。產生維度正確的陣列只是初步要求。成功的系統還必須產生能在相容架構內正確運作的參數,而架構是指網絡的運算結構。數值有效性與實用行為是兩種不同測試。

提案中的繪畫例子正好說明這個差距。輸出圖像的網絡,與控制移動畫筆的網絡並不相同。後者需要界定輸入、有效的移動輸出,以及描述可接受行為的約束。生成的畫作或可看似可信,卻完全未解決這些控制要求。

Pong 例子亦引入另一層模糊性。生成一款可玩的遊戲、生成其視覺外觀,以及生成能玩該遊戲的控制器,都是不同任務,各自需要不同評估。示範必須先說明生成的權重實際提供哪個部分,讀者才可判斷其意義。

生成全新網絡結構與為預先定義結構生成參數之間,亦有區別。系統可以成功做到後者,卻完全沒有做到前者。將兩者都報道為「AI 創造 AI」,會掩蓋實驗實際完成了甚麼。

由於 Reddit 實作仍未經核實,本文沒有依據將可運作的文字轉網絡系統歸功於其作者。所提供節錄亦提到 z.ai 的協助,但這並不能證實其產品能力或合作關係已有文獻記錄。可合理辯護的報道應從已發表研究開始,並追問其證據可延伸至多遠。

這個框架保留了提案中值得探討的問題,同時不會把願景包裝成公告。它亦建立恰當的比較標準:生成的參數是否提供了超越開發者現有網絡檢索、調整或組合方式的實用價值。

p-diff 權重生成改變的是輸出,而非證據門檻

neural parameter diffusion 論文描述一個自動編碼器,即壓縮及重建資料的網絡,配合一個擴散生成器。研究人員將經訓練的參數編碼成潛在表徵,即緊湊的數值描述。生成器對表徵進行抽樣,再由解碼器將其轉換回參數。

根據論文,生成的參數在其評估設定中帶來可比擬或更佳的表現。作者亦報告了反對單純記憶訓練資料的證據。這些發現只適用於論文的實驗範圍,並不證明通用模型設計器已經出現。

重要轉變在於,已學習參數成為生成器的輸出,而功能評估仍然不可或缺。

這改變了開發上的問題。傳統訓練會使用樣本和目標函數調整目標模型的權重。權重生成則從一組參數樣本學習,並透過另一個模型產生候選權重。候選結果仍須滿足目標任務。

這可能帶來有用的分工。開發者可投資於一個服務重複且相關請求的生成器,而不是每次調整都從相同的最佳化流程開始。這是一項值得測試的經濟假設,並非採用擴散技術後自然出現的結果。

這一區別很重要,因為生成可將工作轉移到其他地方。準備源模型、訓練生成器、抽樣候選結果,以及選取可用結果,都必須納入成本計算。短暫的抽樣階段並不能證明完整流程需要較少運算或較少人力。

設想一個維護相關圖像分類器的團隊。若生成權重能為每個新資料集提供可靠起點,團隊便多了一個調整選項。然而,這項好處取決於生成器的覆蓋範圍、候選結果的質素,以及驗證它們所需的工作量。

同一團隊亦應問:當任務出現大幅改變時,會發生甚麼?圍繞熟悉模型家族訓練的生成器,可能在鄰近範圍內仍有用,卻在其他領域幫助甚微。在已知設定內成功實現專門化,不應被描述為不受限制的模型創建。

因此,p-diff 權重生成的關鍵區別,在於可運作輸出與可廣泛重用能力之間。一個候選結果可以通過基準測試,卻未能回答該方法是否可跨越架構、任務或部署條件泛化。

這同時令便利性的主張和新穎性的主張面對壓力。開發者需要知道生成器實際消除了哪些決策。若架構選擇、資料準備、候選篩選和額外訓練仍屬必要,這些責任便應在描述中保留。

證據門檻取決於所宣稱取代的東西。若生成器被定位為初始化工具,其評估應有別於被定位為完整訓練替代方案的生成器。清楚定位可令有限成果更有用,因為讀者能評估研究實際支持的工作流程。

Google 的 HyperNetworks 顯示這個構想並不新

Google Brain 研究人員 David Ha、Andrew Dai 和 Quoc Le 在一篇於 2016 年 9 月首次提交的論文中,介紹了超網絡權重生成。超網絡是為另一個網絡生成參數的神經網絡。他們的工作探討卷積和循環網絡,當中包括序列建模的應用。

這段歷史改變了我們理解現時提案的方式。由一個網絡產生另一個網絡權重的廣泛概念,早於所提供的 Reddit 節錄。需要評估的是具體生成方法、其條件資訊,以及輸出的實用性。

競爭問題在於如何更有效產生實用參數,而不是誰擁有 AI 生成 AI 構想的所有權。

超網絡和擴散式方法共享同一類輸出,但這不代表兩者可互換。它們的訓練程序、支援的模型結構和生成目標可以不同。有意義的比較需要使用相同目標任務,並清楚交代各方法所接收的資訊。

D2NWG 提供了相關研究方向。其特定任務權重生成研究於 ICLR 2025 發表。作者描述以資料集特徵、任務描述和架構規格作為生成條件。他們將方法定位於遷移學習,即為另一任務重用既有訓練模型的知識。

根據作者說法,D2NWG 透過從預訓練參數集合學習,處理模型選擇和儲存的挑戰。這比從文字創建任何所需程式的主張具體得多。條件資訊和支援任務界定了讀者應有的預期。

另一篇論文,conditional parameter generation,研究用於 LoRA 參數的擴散方法。LoRA 是 low-rank adaptation 的縮寫,透過較小的可訓練矩陣表示模型更新。這說明了一個較窄的目標:生成調整組件,而不是假定每個參數都必須合成。

這些方法應被視為不同的研究途徑來比較,而不是置於缺乏支持的商業排名之中。它們的實驗回答不同問題,一個設定中的結果不能自動證明在另一設定中的優越性。本文沒有經核實的證據支持指定一個通用贏家。

對開發者而言,這項比較提出一個實用的主張層級。產生有用更新不同於產生整個模型;為已知架構產生權重不同於發明架構;以資料集作條件不同於解讀不受限制的請求。

所提供的繪畫和遊戲例子位於這個層級較寬廣的一端。要將它們與既有研究連結,實作方式需要說明其訓練樣本及輸出契約。否則,熟悉的術語可能令遙遠的應用聽起來像一項漸進式功能。

因此,業界面對的方法論壓力是:提出廣泛生成主張的研究人員,需要透過比較來分離其方法帶來的貢獻;評估這些主張的開發者,則需要足夠細節,以區分實用捷徑和圍繞既有調整工作的新介面。

新權重不會自動證明新能力

最有力的挑戰來自 Boya Zeng、Yida Yin、Zhiqiu Xu 和 Zhuang Liu 撰寫的 CVPR 2026 論文 weight generation memorization。研究人員檢視了 Hyper-Representations、G.pt、HyperDiffusion 和 p-diff。他們報告指出,輸出結果大多複製或插值訓練檢查點,即經訓練模型的已儲存狀態。

他們的分析同時比較了參數數值及模型行為。他們認為,簡單的替代方案已能解釋大部分觀察到的表現,其中插值對 p-diff 尤其相關。插值會結合既有的參數狀態,而不一定會產生超越這些狀態的獨特解決方案。

模型即使包含不同的數值,仍可重現熟悉的行為,因此新穎性不能只憑數值差異判定。

這項批評直接令早前有關 p-diff 權重生成的說法變得更複雜。它並未證明所有未來的參數生成器都必然要記憶訓練資料。但它確實提出一個具體理由:應審視新穎性的定義方式,以及評估中納入了哪些替代方案。

這裏存在歸因界線。D2NWG 並不在該分析所列的方法之中。若沒有相應評估便將論文的結論套用到 D2NWG,會誇大其適用範圍。較廣泛的啟示關乎評估設計,而報告中的發現只屬於實際受檢視的方法。

實用價值與科學新穎性同樣應分開處理。重新組合既有模型的工作流程,仍可能對開發者有幫助。但有用的組合應作為組合來評估,包括與取得相近結果的更簡單方法作比較。

假設一個生成器產生了準確的分類器,而且與其訓練集合中的模型十分相似。該輸出在操作上可以有效,但對於新能力的證據可能很薄弱。關鍵的後續問題是,直接檢索是否能以更低複雜度帶來同樣好處。

再假設輸出與每個來源模型均有差異,但表現欠佳。這證明了差異,卻未證明價值。評估需要兼顧兩個維度,因為只慶祝其中之一,會令核心主張比預期應用所要求的更容易成立。

繪圖方案令這個問題更具體。生成的控制器應在其訓練集合未包含的指令或條件下接受評估。在提供熟悉請求後展示熟悉輸出,仍無法解決最有力的詮釋問題。

同樣的推理適用於所提出的遊戲控制器。評估應揭示在改變起始條件或其他預先定義變化下的表現。這些測試應在挑選令人滿意的示範之前訂明,讓結果反映可靠行為,而非展示上的選擇。

這正是懷疑性分析有助於領域發展,而非否定領域的地方。即使廣泛的新穎性主張不成立,更強的比較仍可揭示有用的應用。它們亦可避免開發者在較簡單方法已能滿足需要時,承擔生成器帶來的複雜度成本。

開發者需要完整的工作流程比較

這項研究立即對正在評估替代模型適應方法的團隊帶來壓力。他們的決策涉及一個可運作的開發流程,包括數據要求、測試工作、部署相容性及維護。一個吸引人的樣本只是該流程的一部分。

只有當完整工作流程優於清晰界定的替代方案時,生成權重才值得採用。

合理的評估應從組織已經需要解決的任務開始。對分類項目而言,這代表要在保留樣本上比較候選方案,這些樣本不會用於訓練或選擇。對控制器而言,則代表在明確定義的條件下量度行為。

比較亦需要誠實的起點。若生成器可使用一個有價值的預訓練模型集合,競爭的工作流程亦應獲得公平機會使用它。否則,實驗可能會把既有資產的價值歸因於生成方法。

候選方案的選擇尤其值得注意。一個抽樣大量輸出並報告最佳結果的生成器,採用了本身亦有成本的選擇流程。讀者需要知道如何處理失敗候選方案,以及哪些數據引導了選擇。

額外訓練亦會改變詮釋。生成權重可以作為初始化而有價值,即為後續最佳化提供起始參數狀態。這項好處應在相同的後續訓練預算下,與其他初始化方法比較。

部署又引入另一層問題。匯出的參數必須符合已記錄的架構及預處理流程。開發者亦需要一種可重現的方法載入輸出,並驗證它在原始示範以外仍如報告所述般運作。

對潛在的筆控制器而言,這些要求會變得具體。團隊需要定義移動格式、容許的操作條件,以及失敗處理方式。一個成功的視覺範例並不能免除這些工程責任。

對潛在的遊戲系統而言,團隊首先必須識別生成的組件。策略,即根據觀察選擇行動的規則,並不提供整個遊戲。準確描述該組件,可避免評估結果被延伸為對完整應用程式的主張。

當工作流程會產生大量候選方案時,記錄保存變得尤其重要。團隊應一併保留任務定義、來源參數集合、選擇準則及評估結果。可搜尋的工程知識庫可協助同事追溯某個候選方案為何被採納。

這並不要求在測試前便否定生成方法。它要求在接受標題所傳遞的訊息前,先選定使用情境。狹窄而可重複的改進,比起比較方式仍未界定的宏大示範,更能有力地證明採用的理由。

商業層面的含意同樣具體。買家應詢問供應商,哪些開發步驟會消失,哪些仍由自己負責。若沒有這條界線,看似自動化的流程可能只是把工作轉移出去,讓客戶承擔展示中略去的驗證工作。

下一批證據應處理可重現性、泛化能力與成本

未來數月,有用的後續證據應依序處理三個問題:其他人能否重現系統、它能否泛化,以及它是否改善工作流程。這些是觀察重點,而不是對已排定發布的預測。所提供的方案並未附有已驗證的發布時間表。

最具參考價值的下一項結果,會把可重現的產物、不熟悉的任務,以及公平的工作量核算連結起來。

第一個訊號是與主張相連的可重現實作。對 Reddit 方案而言,這將包括有記錄的模型結構、訓練數據描述、生成流程及評估程序。一個可運作的產物會加強這項主張:該方案已超越概念階段。

易於存取的示範會有幫助,但應披露足夠細節,以識別到底生成了甚麼。若傳統模型提供了大部分行為,這項貢獻必須保持可見。沒有可檢視實驗的精美介面,幾乎不會彌補驗證缺口。

第二個訊號是在真正排除的任務或條件上進行評估。這會測試生成器是否不止於重訪訓練範例。分隔應適用於被主張的行為,而不僅是檔案名稱或已儲存的參數陣列。

有說服力的結果亦會把生成行為與最接近的相關訓練模型比較。若輸出在功能上仍無法區分,支持新能力的論據便會減弱。若它們能在排除條件下可靠運作,支持有用泛化能力的論據便會加強。

第三個訊號是與較簡單替代方案作完整比較。這應包括合適的既有模型、傳統適應方法,以及相關的參數組合方式。測試應連同抽樣計算生成器準備、候選方案選擇,以及任何後續訓練。

若證據在這種核算下支持生成方法,即使輸出仍接近熟悉模型,實際應用的理由亦會更強。相反,若結果依賴昂貴篩選,便會收窄這種方法合理適用的情境。無論哪一種結果,都能為開發者提供更可行動的資訊。

目前,p-diff 權重生成屬於一個真實的研究領域,而一些早期結果的詮釋仍有爭議。所提供的社交平台方案並未證明可任意由文字建立網絡。它的價值在於提出一個問題:模型開發的哪些部分能夠成為學習得來的輸出。

在採納這個框架前,請把方法與現時最有力的批評一併閱讀,並識別每個實驗究竟量度了甚麼行為。問問生成產物是否能解決你的任務、較簡單的替代方案能否與之匹敵,以及完整工作流程能否重現。為數值新穎性、行為新穎性及實際效益保留獨立紀錄。這些區分有助你辨識有用的進展,而不會把一個新的參數檔案誤當成一種新能力。若未來的文字轉網絡示範通過這些測試,開發者便有具體理由改變工作流程。在此之前,甚麼證據足以證明應取代你目前的訓練或適應流程?

 
 

為每個智能代理提供更完整的背景,提升工作表現

讓智能代理連接 remio 已整理好的知識、決策和歷史紀錄。

remio 目前支援 Windows 10+(x64) 及配備 Apple 晶片的 Mac。

你的 AI 工作夥伴
和 remio 一起高效工作

規劃、創作、交付
一站式完成

bottom of page