top of page

SageMaker 全參數微調迎戰 LoRA

2 小時前
讀畢需時 12 分鐘
Image from the source report. Source: aws.amazon.com.

AWS 正為 SageMaker 全參數微調提出理據,但其自身實驗顯示,更新模型的每一個權重並不保證帶來更佳結果。全參數微調(FFT)會在訓練期間調整所有模型參數,與低秩適應(LoRA)競爭;後者在凍結預訓練權重的同時,只訓練較小的附加元件。AWS 報告指出,經調校的 FFT 配置在程式編寫任務中達到 90.0% 的評判正確率。同一分析的另一處結果則顯示,LoRA 以 81.5% 對 79.5% 領先 FFT。

這種反差正是比較的價值所在。Amazon SageMaker AI Serverless Model Customization 處理訓練基礎設施,讓開發人員毋須建立各自獨立的運算環境,也能比較不同適應方法。基礎設施管理變得更容易,但資料、評估方式及可接受的能力損失,仍由團隊決定。

實際問題是:更深入的適應能否改善用戶真正需要的工作,同時不損害他們仍然期望保留的能力。AWS 的結果挑戰了任何一方的自動化選擇。LoRA 的效率並不代表它在所有任務上都有品質上限;FFT 更大的調整自由度亦不代表它普遍較優。

SageMaker 全參數微調的理據附帶條件

AWS 的比較支持將 FFT 與 LoRA 一同測試,但結果取決於實驗,而非方法的名稱。

這項微調比較透過受控訓練及評估,研究程式編寫適應。其主要實驗採用預訓練語言模型 Qwen3-4B 及監督式微調;後者透過示例輸入及預期回應來訓練模型。在每項實驗中,兩種適應方法都使用相同的提示、目標及評估程式碼。

AWS 表示使用了 110,000 組程式編寫指令與回應配對,其中 99,000 筆用於訓練、5,500 筆用於驗證,另有 5,500 筆保留作測試。驗證示例用於指導開發決策;保留示例則獨立於用來更新權重的材料,用以評估最終模型。

相關的程式編寫指令資料集包含涵蓋不同任務的程式設計要求及回應。因此,AWS 的實驗關乎對程式編寫語料的適應,並不能證實它對法律分析、客戶支援、醫療文件,或組織內部軟件慣例同樣有相當增益。

這個界線很重要,因為訓練成功與否取決於原始模型與目標應用之間的距離。學習熟悉回應模式的模型,面對的問題有別於學習專門實作方式的模型。同一種適應方法在這些情況下可產生不同結果。

AWS 評估的不只是與參考答案的相似程度,亦衡量評判正確率及一般知識保留程度。這個較廣闊的視角形成文章的核心張力:模型可以更擅長其訓練領域,同時在其他地方變得較不實用。

服務本身提供了營運層面的環境。開發人員選擇模型、提供資料集並設定訓練參數。AWS 表示,無伺服器系統會處理運算資源分配及檢查點管理,而檢查點會在訓練期間保存模型狀態。

這應被視為有關可用自訂途徑的證據,而不是將發表內容當作全新能力推出的理由。現行文件確認支援 FFT。技術問題在於,這種支援如何改變團隊可合理進行的實驗。

SageMaker 全參數微調透過受管理的基礎設施,讓更廣泛的權重更新變得可及;但選擇成功模型的責任仍在客戶身上。真正有用的改變,是更容易進行比較的途徑,以及比較可能得出令人不安答案的證據。

對開發人員而言,這些令人不安的答案往往比頭條分數更具行動價值。它們指出在專門模型面向用戶前,哪些假設需要驗證。

LoRA 的效率如今需要任務層面的辯護

選擇 LoRA 的團隊應證明它在自身工作負載上的結果;選擇 FFT 的團隊則應證明額外訓練需求的合理性。

LoRA 有既定理據。訓練較小的適配器矩陣,可減少需要更新的參數數目。矩陣是模型權重組成的矩形陣列;適配器引入了受約束的方式來改變模型行為。

原始的Low-Rank Adaptation研究報告,在所測試的模型及任務中,其品質可媲美甚至超越全參數微調。這項發現說明,較少的可訓練參數不能自動視為較差的適應方式。真正相關的問題一直包括:這些參數需要學習甚麼。

AWS 的比較則推進了該論點的另一面。公司表示,複雜的程式編寫適應及較大的資料集,可能暴露受約束更新的限制。其報告的 FFT 增益,為在評估中納入全參數更新、而非在營運上排除它們,提供了可信理由。

壓力最直接落在正將自訂流程標準化的機器學習團隊身上。預設的適配器方案在不同專案間很方便;但當高要求的工作負載揭示可量度的品質差距時,這種方便就較難辯護。

反過來說,將 FFT 設為預設同樣帶來負擔。更大的權重調整自由度,意味著更大的責任去監察非預期變化。買方應問:哪些地方改善了、哪些地方退步了,以及這些差異如何影響應用。

試想一個團隊正調整模型,讓它為內部框架生成程式碼。對某個工作流程而言,符合本地命名慣例及回應格式或許已足夠;另一個工作流程則可能需要協調不熟悉的介面、推理相依關係,並產生能通過執行測試的實作。

這些只是說明性的部署情況,並非 AWS 實驗所證實的客戶成果。它們說明了為何單一方法層面的排名,對採購決策只能提供有限指引。團隊實際的驗收準則,決定了觀察到的改善是否重要。

這項比較亦改變了評估工程時間的方式。受管理訓練可減少組裝基礎設施的時間,但不能消除審查資料集、調查失敗案例,或檢查表面改善能否在不同提示下持續存在所需的時間。

有用的評估紀錄會把每個模型版本與其訓練資料、設定、結果及已知限制連結起來。整理這些材料的團隊,可以採用建立可搜尋知識庫時使用的相同原則。保存決策背後的推理,有助後來的審查者分辨深思熟慮的取捨與沿襲下來的預設。

這正是 SageMaker FFT 與 LoRA 成為產品決策之處。若小幅品質增益能解決經常出現的用戶失敗情況,它便很重要;若用戶仍遇到相同的阻礙性缺陷,較大的基準增益則意義較小。

直接後果是,即使訓練設定變得更簡單,評估仍會要求更高。團隊需要證據證明所選適應方式改善了預期體驗,而非僅僅產生更亮眼的實驗摘要。

更廣泛的權重更新解釋了潛力,而非勝方

FFT 擴大了模型可能變更的空間,但這種數學上的自由度並不能證明哪些變更會有用。

AWS 的解釋聚焦於秩,即矩陣所代表的獨立方向數目。LoRA 透過較小矩陣來約束更新;FFT 則容許對完整權重矩陣作出變更,而不是施加相同的適配器結構。

這項差異令品質論點顯得合理。若任務需要在適配器無法有效表達的方向上作出改變,全參數更新就有更大空間容納它們。然而,更多空間亦容許作出損害既有行為的變更。

頻譜分析會透過矩陣的奇異值及相關方向來檢視矩陣,提供討論這種結構的方法。奇異值表示特定數學方向的強度。它們描述權重的特性,而不是直接量度生成的程式碼是否能運作。

AWS 認為,全參數更新可更廣泛地分布適應,避免與受約束更新相關的失真。這是公司對其所報告品質優勢的技術解釋。文章不應被理解為獨立地證實該機制適用於不同模型。

一項限制直接源於結構與行為的差異。不同的權重變更可導致相似答案;相似的整體分數亦可能掩蓋不同的失敗模式。當結構性解釋與可重現的行為證據連結時,便更具說服力。

例如,較強的機制研究會把觀察到的矩陣變化,與受控運行中具體的改善連結起來,亦會檢視這些變化是否與能力保留相符。這有助區分解釋性假設與訓練後才注意到的模式。

已發表的討論讓讀者有理由探究該機制,而非提供每個分數的完整因果解釋。現有證據不足以支持假定低秩總會造成實際瓶頸,也不足以支持假定不受限制的更新總能保留有用的預訓練結構。

一項重要限定關乎 FFT 所容許的事與訓練實際產生的結果之間的差異。容許完整矩陣更新,並不強迫學得的更新使用每個可用方向。優化,即調整權重以降低訓練誤差的過程,仍取決於資料及設定。

同樣地,提高適配器的秩會改變其容量,但容量本身並不能決定結果。訓練時長、更新幅度及提供的示例,都可改變如何使用該容量。比較需要足夠細節,才能區分這些影響。

因此,對 SageMaker FFT 與 LoRA 的合理解讀是有條件的。FFT 提供更廣闊的適應途徑,AWS 表示它在其程式編寫實驗中有所幫助。LoRA 提供受約束的途徑,在其他情境中具備既定的效率優勢及具競爭力的結果。

任何數學描述都不能取代應用測試。機制解釋結果為何可能出現;評估則決定它是否在特定部署真正重要的條件下發生。

基準測試回答的是不同問題

AWS 的最高分數與 LoRA 領先的結果屬於不同比較,不能合併成普遍排名。

AWS 報告指出,在三個訓練 epoch 後,自動評判工具的正確率達 90.0%;epoch 代表完整遍歷一次訓練資料。它另行報告 LoRA 在評判品質上取得 81.5%,FFT 則為 79.5%。這些數字必須連同各自的配置一併理解。

LLM-as-Judge 評估會使用語言模型來評估另一個模型的回應。AWS 指出,Amazon Nova Pro 是其所述編碼評估所採用的評估器。評審會將生成的解決方案與原始要求一併考量。

這提供了語義正確性的視角,亦即某個答案看起來是否符合任務的預期邏輯。它仍然屬於自動化評估。正面的判斷並不代表程式碼能通過執行測試、處理未預期的輸入,或符合機構的安全要求。

AWS 亦使用 PRIMECODE,即結合生成程式碼與參考解決方案重疊程度的文本相似度評估。這些分數有助說明輸出在措辭與結構上與參考材料的貼近程度。

當調整目標遵循一致慣例時,文本相似度具有實際價值。它可以顯示模型是否學會了可辨識的回應模式。然而,有效的程式可以在措辭上大相逕庭,而相似的程式亦可能有同一個細微缺陷。

因此,對於程式碼生成部署,這些指標應該用來回答不同問題。相似度分數反映是否符合參考資料;模型評審反映感知上的正確性;執行測試則檢驗可觀察行為是否符合既定案例。

AWS 的評估亦包括 MMLU,這是一項涵蓋 57 個學術科目的知識基準測試。公司使用它來監察專門化是否損害較廣泛的能力。這為集中於訓練領域的衡量方式加入重要的制衡。

所報告的 MATH 比較會檢查答案是否與預期的數學答案完全一致,亦提供另一項警示。AWS 表示,兩種調整方法在該比較中的表現均遜於基礎模型。因此,程式碼調整有所改善,並不代表模型在無關任務上的推理能力亦有所提升。

這些評估的範圍應影響結果如何呈交決策者。一個只標示為「品質」的儀表板,容易令人把不同衡量方式視為可互換。一個有用的儀表板應清楚指出每個分數衡量甚麼,以及它對應哪一項應用要求。

這亦改變了選擇勝出者的方式。若使用者需要可執行的程式碼,相似度的改善不能自動抵銷較差的執行結果。若使用者同時需要解釋和程式碼,只測試已完成的函式,便會令部分應用未獲評估。

同樣的審慎原則亦適用於跨任務取平均。整體提升可以掩蓋在營運重要性較高類別中的退步。即使較廣泛的平均值上升,團隊亦應檢視應用最難容忍的失敗情況。

AWS 所報告的結果令這種紀律變得必要。它們提供證據,顯示 FFT 值得考慮,同時亦說明為何這些證據需要詮釋。核心發現是在不同條件下存在變異,而非各種調整方法之間有穩定的高下之分。

激進訓練可能抹去所得收益

最明確的營運警示是,一次成功完成的訓練工作,可能令模型在重要任務上的表現變差。

AWS 報告指出,當 FFT 學習率採用至少 5e-5 的激進設定時,模型表現會嚴重惡化。學習率控制訓練期間權重調整的幅度。在這些運行中,公司報告 MATH 分數降至 2–3%,而 MMLU 準確率降至 3.6%。

這些結果來自 AWS 的設定,而非普遍適用的失敗門檻。不過,它們揭示了更深入調整承諾背後的風險。教授新行為的過程,亦可能損害使用者原本以為仍會保留的行為。

災難性遺忘是指在後續訓練期間失去先前學到的能力。當一個狹窄的資料集反覆將通用模型拉向專門化回應時,這尤其值得關注。最終模型可能看似已妥善調整,卻失去了多樣性。

AWS 在其實驗中將 2e-5 的學習率描述為有利區間。它亦指出,採用批次大小為八及 5% warmup 的設定,有助保留通用知識。Warmup 會在訓練開始時逐步提高學習率。

這些設定應視為實驗起點,而不是生產環境的處方。AWS 的示例訓練程式碼所用的 warmup 比例,與其強調用作保留能力的設定不同。這個差異說明,複製一段程式碼片段並不能重現每項報告結果。

批次大小,即每次更新所貢獻的範例數量,亦會與訓練行為產生互動。AWS 討論了雜訊較多的小批次與產生較少更新的大批次之間的平衡。即使學習率維持不變,改動這項設定也會改變實驗。

訓練時長亦會帶來另一種互動。AWS 表示,經評審的正確性在三個 epoch 時達到 90.0%,但超過三個 epoch 後,其測試的變體會退步。這項觀察支持檢查較早期的檢查點,而非假定最後一個檢查點必然最佳。

訓練損失,即相對於訓練目標所衡量的誤差,可以持續改善,而無關能力卻可能惡化。來自相近分佈的驗證資料看來亦可能健康。因此,保留測試必須檢驗專門化目標以外的行為。

對編碼助理而言,這可能包括理解含糊要求、解釋錯誤,或辨識資訊何時不足。這些例子是建議的評估類別,而非已發表比較中測得的結果。其相關性取決於應用本身。

實際指引是在審閱候選結果前,先界定不可接受的退步。否則,團隊可能在看到吸引人的任務分數後才放寬要求。預先聲明的驗收規則可令取捨變得清晰而可供審視。

SageMaker 全量微調應只在通過這些檢查後才進入生產環境,並保留原始模型作比較基準。託管服務可以成功完成訓練程序;只有應用本身的評估,才能確定最終的專門化是否值得部署。

下一項考驗是可重現性與部署適配性

最有力的後續證據,會把可重現的品質提升,與保留的能力及可行的部署流程連繫起來。

未來數月首個值得留意的訊號,是獨立重現編碼比較結果。具價值的重現工作會列明模型版本、資料集準備方式、訓練設定、評審設定及評估提示,並說明哪些改動帶來所報告的優勢。

在清楚描述的條件下反覆取得 FFT 增益,會強化 AWS 對更深入調整的理據。若結果高度依賴狹窄的設定,則會收窄這個理據。無論結果如何,都有助團隊決定何時值得進行另一項訓練實驗。

第二個訊號,是在現有分數以外採用更強的行為驗證。對程式碼而言,這代表可執行檢查,以及審慎檢視失敗類別。對能力保留而言,則代表測試專門化應用仍然需要的能力。

若這些衡量方式均有一致增益,便會強化調整能帶來實用品質的論點。若增益僅限於文本相似度或某個特定評審,則只支持較有限的結論。重要的進展,是評估結果與實際應用要求之間達成一致。

第三個訊號,是完整交代營運適配性。買方需要了解訓練需求、產生的成品、部署限制,以及更新客製化模型的程序。只有最終模型符合預定工作流程,品質改善才有意義。

現有的 FFT documentation 指出,FFT 比 LoRA 需要更高的運算需求、更長的訓練時間及更大的成品。它亦指出 FFT 與持續客製化不相容。這項限制對計劃反覆調整的團隊尤其重要。

原始 LoRA 研究亦令過度簡化的部署比較變得複雜。它描述了一種在所測試實作中不會增加推理延遲的方法。因此,團隊應在把 adapter 開銷視為 FFT 的自動優勢前,先檢視實際成品與服務設定。

起步所需的基礎架構工作雖然比營運訓練叢集少,但仍需要受控實驗。AWS 的 supervised fine-tuning guidance 支援帶標籤的範例,並記錄相關設定。方法選擇並不會消除對乾淨評估資料的需要。

穩健的初步比較會保持基礎模型和資料集一致,同時記錄各方法專屬的設定。它會保留一個獨立測試集,並在整體分數以外記錄失敗情況。這可建立讓另一位工程師檢查和重複的證據鏈。

服務文件與部落格亦展示不同的 SDK 範例。開發人員應將實作細節配合已安裝的軟件版本及支援的介面。文章中的程式碼片段確立預期工作流程,而非保證與每個本機環境相容。

對買方而言,關鍵改變是可使用另一條可測試的調整路徑。AWS 提出理由讓人檢視全量更新,同時亦展示這類更新需要克制。託管基礎架構減少了設定工作,但模型選擇仍然要求嚴謹。

在採用 SageMaker 全量微調前,應選擇一個能透過更佳調整解決特定使用者問題的工作負載。先確立如何衡量該項改善,以及哪些既有能力必須保留。讓基礎模型、LoRA 和 FFT 接受相同的相關測試。將訓練設定與模型成品附在每項結果之中,然後檢視平均值背後的失敗情況。在採用其最亮眼的數字前,先閱讀完整的基準測試背景。若 FFT 改善目標任務,同時符合能力保留與部署要求,該實驗便支持繼續推進。若 LoRA 以較少訓練工作便符合這些要求,這個結果同樣可付諸行動。哪一種方法值得在你的工作負載上部署,而哪些證據會令你的團隊改變決定?

 
 

為每個智能代理提供更完整的背景,提升工作表現

讓智能代理連接 remio 已整理好的知識、決策和歷史紀錄。

remio 目前支援 Windows 10+(x64) 及配備 Apple 晶片的 Mac。

你的 AI 工作夥伴
和 remio 一起高效工作

規劃、創作、交付
一站式完成

bottom of page