Muru 探討 Python 延遲匯入的取捨
Muru 在 11 月 22 日發表的開發者報告,挑戰了一種常見的最佳化思路:令 Python 應用程式更快啟動,可能會令其首次請求變慢。Graham Dumpleton 在最新一篇文章中探討延後匯入會將工作轉移到何處、由誰等待,以及工作程序是否因而失去共享記憶體的機會。
該專案是一個由 AI 協助開發、以 Rust 撰寫的伺服器,目標支援使用 ASGI(非同步應用程式介面)及其同步對應方案 WSGI 的 Python 應用程式。Dumpleton 於 11 月較早時介紹過這項工作。最新進展是他對匯入行為的分析,而非推出新伺服器或獲獨立驗證的效能里程碑。
核心抉擇在於:在建立處理請求的工作程序前載入相依套件,還是在請求首次需要時才載入。Gunicorn 已提供相關的預先載入選項。Dumpleton 的論點促使開發者重新檢視:較短的啟動時間是否足以證明應用程式效能更好,尤其是在其部署方式本已避免用戶受啟動延遲影響的情況下。
Muru 將匯入成本列為新焦點
最新報告將匯入最佳化視為工作負載決策,其影響延伸至應用程式啟動以外。
Dumpleton 的延遲匯入分析延續先前有關工作程序架構、版本發布、開發工具及請求追蹤的文章。這些內容透過一個實際問題串連起來:應用程式應在何時為載入其相依套件付出成本?
匯入會載入並初始化 Python 模組,也就是可重用的程式碼單元。這項操作可觸發額外匯入,形成一連串工作。因此,一項需要試算表函式庫的功能,可能會載入多於應用程式直接指定的程式碼。
延遲匯入會把載入工作推遲至程式碼首次使用匯入名稱時才進行。其吸引力很直接:未被使用的相依套件毋須消耗啟動時間。對於具備可選功能的應用程式而言,這可完全避免部分工作。
Web 伺服器還會帶來另一項考慮。據 Dumpleton 表示,伺服器會先在主程序中匯入應用程式,然後才建立工作程序。這個次序讓工作程序可繼承已載入的模組,改變工作發生的時間及次數。
他的例子以 Python Web 框架 Flask 建立一間小型商店。庫存報告依賴資料分析函式庫 pandas;試算表下載則依賴用於建立及讀取 Excel 活頁簿的 openpyxl。
這些功能採用不同的匯入安排。報告功能在處理請求的函式內載入其相依套件;試算表功能則在啟動時先將其相依套件帶入應用程式。因此,該例子在同一應用程式中呈現了延後及預先載入兩種方式。
Dumpleton 在 Python 3.14 上以兩個工作程序執行此例子。他介紹了用於檢視主程序匯入內容,以及個別工作程序其後載入模組的工具。重要比較涵蓋兩個階段,而非止於應用程式可供使用之時。
這令報告比一般建議延後載入大型函式庫更具體。它問的是:在實際工作程序生命週期內,相依套件是否一直未被使用?每個工作程序最終都需要的函式庫,與大多數工作程序從不接觸的函式庫,計算方式並不相同。
時間點同樣重要。Simon Willison 於 11 月 21 日發表的 Python server overview介紹了該專案及其詳盡的開發紀錄。11 月 22 日這篇文章為較廣泛的介紹加入一個具體最佳化問題。兩個發表日期均不代表該伺服器已完成生產環境驗證。
較快啟動未必惠及用戶
當現有工作程序持續處理流量時,與訪客等待應用程式喚醒時,較短啟動時間的意義不同。
Dumpleton 描述了一種部署模式:在仍處理請求的版本旁啟動替換版本,待替換版本準備就緒後才切換流量。在這種安排下,應用程式匯入會消耗部署時間,但未必延誤正在使用現有版本的訪客。
就緒狀態是判定執行個體能否接收流量的檢查。如該檢查會等待應用程式載入及工作程序初始化,使用者便不會透過一般路由遇到這些啟動成本。延後相依套件可能會把原本隱藏的工作移至可見的請求中。
這項區分讓應用程式開發者與部署負責人走上同一條決策路徑。開發者可縮短應用程式載入所需時間;營運人員則須判斷該縮短是否改善發佈速度、用戶延遲、資源使用,或其中的組合。
容器,即隔離的應用程式執行環境,會形成相關情況。較快啟動可讓額外執行個體更早可用。即使路由會在這些執行個體通過就緒檢查前避開請求,這仍然有用。
不過,保障初始應用程式載入,並不會自動保障每項可選功能。工作程序可在尚未載入較少見端點所需相依套件時,已準備好提供主要路由服務。第一個抵達該端點的請求便要支付延後的成本。
縮減至零會再次改變平衡。這表示在流量回復前停止閒置的服務容量。Dumpleton 描述一種情況:主程序本身已停止,令下一個請求須等待應用程式啟動。
在這裡,避免不必要的匯入可直接縮短訪客等待時間。但好處取決於該訪客要求哪項功能。如同一請求隨即觸發延後的相依套件,即使應用程式快速喚醒,幫助也較有限。
開發工作則有另一項合理優先事項。重新載入是指在程式碼變更後重新啟動應用程式執行。當這種情況反覆發生時,避免載入未使用的相依套件,可縮短處理無關功能的開發者的回饋循環。
這些是不同的體驗,亦有不同的成功指標。開發重新載入、受保護的生產環境發佈,以及喚醒已停止應用程式的請求,不應只因都涉及啟動而共用同一項最佳化結論。
較好的回應是跨部署階段進行更完善的量度。評估延遲匯入的團隊須識別由誰等待、哪些相依套件被移入請求處理,以及啟動改善能否在真實流量下維持。
這項要求也限制了廣泛的效能聲稱。較快的主程序載入只證明某一階段變短;並不能證明應用程式更快為用戶提供服務、可處理更多流量,或在整個生命週期中消耗更少記憶體。
一次載入與按需載入的競爭
主要取捨在於:在工作程序啟動前一次付出成本,還是在每個需要相依套件的工作程序中於稍後付出。
伺服器的 pre-fork 設計透過複製已初始化的程序來建立工作程序。寫時複製記憶體讓這些程序最初可共享記憶體頁面,直至變更要求建立私有副本。在事前載入模組因而可支援工作程序之間的共享。
延後匯入會改變這個次序。每個首次需要該模組的工作程序都會分別載入它。從不需要它的工作程序可避免這項工作;需要它的工作程序則要在自身執行期間承受初始化成本。
這正是使用某相依套件的工作程序數目,比單看其匯入成本更重要的原因。當只有少數工作程序會遇到某項功能時,即使相依套件成本高昂,延後載入也可能是合理候選方案;若每個工作程序最終都會載入同一相依套件,這種做法便較不吸引。
這項基本取捨早於本專案已存在。Gunicorn 文件中的應用程式預先載入選項,會在工作程序 fork 前載入應用程式程式碼。其文件提及可能節省記憶體及加快伺服器啟動,也討論應用程式重新載入的差異。
這個比較為新報告提供既有參照點。預先載入本身已是一種既有的服務策略;此處的獨特重點,是把主程序匯入成本與個別工作程序其後載入內容的證據聯繫起來。
程序架構同樣限制了比較。Uvicorn 文件中的工作程序模型為其內建多程序管理器採用 spawning,而非 pre-forking。Spawning 會啟動獨立程序,因此有關繼承應用程式狀態的相同假設並不適用。
這些差異並不能判定各伺服器之間有普遍勝者;它們說明了為何匯入建議需要指明部署模型。從繼承模組得出的結果,不能自動描述獨立啟動工作程序的伺服器設定。
Dumpleton 的商店例子令這個區別具體可見。起初只有一個工作程序需要試算表相依套件,另一個則毋須載入。其後額外下載請求抵達兩個工作程序,改變了早前建議所依據的證據。
報告功能則朝相反方向發展:兩個工作程序均載入其延後相依套件,重複進行原可由主程序在建立它們前完成的工作。據 Dumpleton 表示,明確預先載入該模組,可把初始化移出那些首次報告請求。
工作程序壽命令情況更複雜。長時間運行的工作程序有較多機會遇到不常見功能;在該請求到達前被替換的工作程序,則可能在整個有效生命週期內都避開這項相依套件。
流量分布基於同一原因亦很重要。一項功能可只佔很小部分請求,卻最終到達每個長時間運行的工作程序。把它形容為「罕見」,並不能證明延後載入會在整個服務池節省工作。
因此,這是一個營運問題而非風格偏好。團隊須權衡啟動延遲、首次使用延遲及記憶體共享,並考慮相依套件保持未使用的頻率。偏好預先或延遲匯入,不能取代這些工作負載事實。
首次請求揭示工作被移往何處
報告最有力的證據,在於將較短的主程序載入時間與出現在請求中的匯入工作聯繫起來。
Dumpleton 在停用匯入記錄的情況下量度商店的主程序載入時間,並承認剖析本身會增加工作量。剖析是收集執行量度以找出成本的過程。將診斷執行與時間比較分開,有助避免把量度額外負擔與應用程式行為混為一談。
在每種設定各啟動五次後,他報告未延後載入時的主程序載入中位數為 83 毫秒,採用延後載入時則為 35 毫秒。中位數是把量度排序後位於中間的觀察值。這些數字描述的是他的例子,而非通用伺服器基準測試。
延後的工作隨後出現在試算表請求中。他的例子標頭將應用程式回應中 56.89 毫秒的時間,當中 52.03 毫秒歸因於匯入模組。因此,較短的主程序載入時間並不代表初始化該相依套件的成本變低。
伺服器透過 Server-Timing(瀏覽器可顯示為時序資訊的 HTTP 回應標頭)公開這些量度。其 import 項目會將模組載入與其他請求工作區分開來,讓開發者可以把啟動時的變更與其後續影響連繫起來。
當請求重疊時,還會出現另一項差異。Python 的 import lock 會協調模組初始化,避免並行執行各自初始化同一個模組。正在等待該鎖定的請求即使沒有自行執行 import,仍可能遇到延遲。
在 Dumpleton 的並行報告範例中,一個請求載入相依項目,另一個則等待。所記錄的標頭會區分 import 時間和 import 等待時間。雖然只有一個請求執行載入,但兩個請求都經歷了這次初始化。
這項觀察令成本不再只限於一名不幸的首位訪客。共用同一個 worker 的請求,如需要的模組仍未完成初始化,也可能遇到相關延遲。只計算執行 import 的那個請求,會低估實際體驗。
根據報告,預先載入報告模組會改變這些首批回應。Dumpleton 記錄到,在將相依項目移至 host 載入後,首批報告請求介乎 4.5 至 9 毫秒。這些是樣本應用程式作者自行報告的結果。
這個範例只支持一個有限結論:改變 import 的位置,改變了此應用程式花費時間的位置。它並不能證實生產環境的吞吐量優勢、普遍的記憶體用量下降,或其優於競爭伺服器。
工具脈絡有助解釋 Dumpleton 為何強調請求證據。他較早的 請求追蹤文章,將應用程式操作與開發診斷連繫起來。該範例以一家商店展示重複的資料庫查詢和對外呼叫。
這些是建構出來的範例,而非客戶部署結果。它們的價值在於說明開發者可檢查甚麼。import 報告延伸了這種做法,將 host 載入、首次使用成本,以及最終需要各模組的 workers 連繫起來。
Python 相容性令結論仍有條件
語言支援令延遲載入更容易表達,但相容性和實際使用情況仍決定它是否有幫助。
Python 的明確 lazy imports規格以 Python 3.15 為目標,定義在首次使用已 import 名稱時才載入模組。它亦提供一項會被較早版本直譯器忽略的過渡性模組宣告。因此,新語法和向後相容的宣告需要不同處理方式。
Dumpleton 說明他使用其 import 延遲套件 unwrapt,為較早 Python 版本支援指定的延遲行為。這項差異對支援多種直譯器的團隊十分重要。單是編寫一項宣告,並不能保證在所有環境中都有相同的執行行為。
其報告指出較舊版本做法的一項特定限制:unwrapt 可以延遲普通 import,而原生支援亦可以延遲 from-import。from-import 會從模組綁定指定名稱。因此,部分應用程式程式碼需要重寫,較舊版本的機制才能延遲它。
即使成功延遲,若初始化立即使用該相依項目,也可能毫無節省。商店的試算表函式庫就是一例:在其 import 模組仍在載入時,已使用一個巢狀相依項目。延後該 import,只是把它推遲至同一初始化序列之內。
這為自動化建議提供了有用的限制。報告中的 import 即使看來昂貴,也未必代表可避免的工作。工具需要分辨一直未被使用的相依項目,以及為建立 import 模組狀態而立即需要的相依項目。
同樣的審慎亦適用於由流量衍生的建議。worker 報告涵蓋的是已觀察到的請求。若一項可選功能尚未被使用,沒有出現 import 只代表抽樣流量不需要它。
更廣泛的樣本可能會推翻建議。Dumpleton 展示在進一步下載後,試算表相依項目由一個 worker 轉為兩個 worker 都載入。這項變化說明,開發者應在取得具代表性的流量後重新檢視結論,而不是把早期建議視為永久結論。
當中亦存在驗證缺口。這些例子來自專案作者,本文未有獨立重現。詳細輸出可改善可檢查性,但不能取代在不同應用程式、相依項目及部署環境中的外部測試。
AI 協助開發亦帶來另一個仔細審視證據的理由。Willison 形容該專案由 AI 協助開發,而 Dumpleton 則強調由他負責決定哪些部分仍然不足。無論實作語言還是開發方式,都不能證明營運可靠性。
這並不要求否定這項工作,而是要把已記錄的行為與更廣泛的信心分開。import 可見性可以有用,同時仍須面對相容性、故障處理、維護,以及範例以外效能的問題。
對工程團隊而言,這些差異應納入實驗與決策的共同記錄之中。一個可搜尋知識庫可在結果旁保留工作負載假設。缺少這些假設後,成功的最佳化一旦複製到另一項服務,便可能變成誤導性建議。
下一步如何加強論證
下一項有用證據,是可在不同工作負載、直譯器版本及持續變動的 worker 群組中重現的行為。
第一個訊號是獨立重現 import 位置調整的結果。測試應從 host 初始化一路追蹤相依項目,經過 worker 建立,直至首批請求。它們亦應比較其後請求,避免短暫的啟動收益掩蓋反覆出現的 worker 成本。
有說服力的重現應披露應用程式相依項目、直譯器版本、worker 數量及流量組成。記憶體量度有助連同時序測試共享論點。若有證據顯示同樣關係持續存在,便可加強報告對核心取捨的分析。
即使結果有顯著差異,仍然具資訊價值。它們會收窄量度適用的範圍,並找出主導因素是哪些相依項目或部署選擇。目標是理解此行為的邊界,而不是取得一個亮眼但孤立的數字。
第二個訊號是涵蓋原生及較舊版本延遲機制的相容性證據。團隊需要知道選定 import 是否如預期般延遲,以及啟動期間使用相依項目會否抵銷預期節省。他們亦需要在不同 import 形式獲得不同處理時,取得清晰診斷資訊。
成功的相容性測試可加強團隊在所有支援環境中套用同一政策的信心。若反覆出現意外情況,則會削弱廣泛採用的理由,並傾向更有選擇地使用。文件應在團隊改變應用程式載入方式前,先讓這些差異清晰可見。
第三個訊號是橫跨實際 worker 壽命的觀察。實用的部署記錄應追蹤流量到達及容量改變時,哪些 workers 載入各個可選相依項目。這可測試那些表面罕見的功能,在 worker 層面是否仍屬罕見。
若大多數 workers 在被替換前都避免載入某個相依項目,延遲載入較能避免不必要初始化。若幾乎每個 worker 都會載入它,則值得重新考慮預先載入。無論哪種結果,都能把對流量的假設轉化為關於服務群組的證據。
這些訊號亦令評估保持聚焦。功能清單愈來愈長,本身不能解答 import 問題。關鍵在於診斷資訊是否能協助團隊選擇一項政策,改善其實際的啟動時間、請求延遲和資源使用組合。
對考慮使用 Muru 的讀者而言,應先從一個你已了解其可選相依項目和部署行為的應用程式開始。保留基準線,找出誰在啟動期間等待,並比較首次使用請求與其後流量。量度應與特定 worker 壽命及直譯器版本掛鈎。請問自己:某個避免了的 import 是否真的一直未出現,還是只是在累積足夠請求後,於每個 worker 再次出現?把已發布的商店視為可測試的範例,然後檢視自己的應用程式是否遵循同一模式。在更改生產環境設定前,先閱讀原始報告,並保留每項結果背後的條件。真正值得作出的決定,是你的應用程式應在何時為其相依項目付費,並以關於那些否則要在稍後承擔代價的人和流程的證據作支持。



