ASRock R9700 評測：32GB 工作站推論遇上軟件取捨

ASRock 在其 Creator Radeon AI PRO R9700 配備 32GB 專用顯示記憶體，為桌面工作站帶來可觀的本地模型容量。本 ASRock R9700 評測分析檢視 ServeTheHome 於 10 月 26 日發布的評估，並參照廠商規格。核心問題是，這項記憶體優勢能否轉化為可靠的日常推論能力，即執行已訓練 AI 模型的過程。

這張顯示卡為開發者提供 NVIDIA 工作站硬件以外的另一個選擇。然而，記憶體容量、回應速度及應用程式相容性，回答的是不同問題。模型能放進顯示卡，並不代表多人可舒適地共用，也不代表現有應用程式能輕易運行。

這個分野令這項評估的價值超越硬件購物清單。AMD 工作站推論如今有一個具體的桌面方案可供評估。買家必須在可用模型容量、軟件整合、操作要求及實際工作負載下的體驗之間作出權衡。

ASRock R9700 評測將可用記憶體置於核心位置

ServeTheHome 的工作站推論評測考察這張 Creator 顯示卡在小型 AI 電腦與伺服器設備之間的位置。這個定位相當重要，因為工作站買家面對的限制與兩者皆不同。他們需要可裝入現有電腦的硬件，同時處理超出現有能力的工作負載。

R9700 最清晰的定位，是在傳統工作站內提供專用模型容量。

AMD 列出 32GB GDDR6（一種專用顯示記憶體）及 640GB/s 峰值記憶體頻寬。頻寬量度處理器能以多快速度透過該記憶體傳送資料。這些規格描述互補資源：工作負載所需的空間，以及其資料可移動的速度。

單靠任何一項規格都不能確立應用程式速度。工作負載亦取決於其模型、數值表示、執行軟件及周邊系統。因此，比較記憶體數字的買家不應將容量視為完整的效能排名。

當團隊希望使用更大型模型、又不想將工作移往遙距服務時，這個分野便變得具體。額外顯示記憶體擴闊可選方案，亦為處理請求時產生的暫存資訊提供更多空間。

這些暫存資訊相當重要，因為模型檔案並不會佔去全部運作預算。軟件需要工作空間，而較長的請求會帶來額外需求。即使一張顯示卡能在輕度使用下容納某個模型，仍應以計劃部署的實際文件及對話進行測試。

這篇評測的時間背景亦需審慎理解。這是對既有產品的評估，而非 AMD 剛公布新架構的證據。它的貢獻在於對工作站方案作出實際檢視。

本文分析參考已發布的測試及文件，並不提供新的實驗室量度。詮釋任何建議時，這個界線相當重要。特定配置的結果只能確立該配置下的行為，並非為每部工作站作出保證。

對考慮本地 AI 硬件的讀者而言，改變後的決策很直接。當專用記憶體是關鍵限制時，R9700 應納入評估。它讓買家多一個可按應用程式要求測試的配置。

其後的重點便從取得足夠記憶體，轉向決定何謂可接受的服務水平。正是在這裏，工作站規格變成營運決策。

AMD 工作站推論對以容量主導的採購決策帶來壓力

最直接受影響的買家，是現有硬件未能舒適容納理想工作負載的開發者及小型團隊。他們需要更大的運作空間，但亦需要證據證明更換硬件能減少阻力。額外容量只會在應用程式能夠使用時才有幫助。

AMD 的機會存在於記憶體限制比對特定軟件平台的忠誠度更重要的工作負載。

NVIDIA 提供有用的參考點，但不應將比較變成普遍的廠商排名。其 RTX PRO 規格列出 RTX PRO 4000 Blackwell 配備 24GB 顯示記憶體。文件亦列明單槽設計及 145W 總板卡功耗。

AMD 為 R9700 列出 300W 總板卡功耗。這是廠商的板卡額定值，而非每項工作持續耗電的量度。不過，它仍將兩張顯示卡置於不同的系統規劃類別。

這項 R9700 對比 NVIDIA 的分析說明，容量不能獨立看待。Radeon 比這款特定 NVIDIA 型號提供更多記憶體。NVIDIA 顯示卡則佔用較少擴充空間，並有較低的標稱電力要求。

這些差異對不同買家的影響各有不同。擴充空間有限的工作站面對的是實體限制。難以容納模型的團隊面對的則是記憶體限制。若排名忽略了要解決的問題，兩者皆不會受益。

軟件投資帶來另一項考慮。CUDA 是 NVIDIA 在其圖像處理器上作通用運算的平台；若某個應用程式明確依賴它，便會變得相關。更換硬件時，便需要檢查相依項目、受支援的替代方案，以及應用程式本身是否須作改動。

相反，已使用具受支援 AMD 執行路徑軟件的團隊，起點不同。其評估可更直接聚焦於工作負載行為。相容性仍須驗證，但遷移問題會較為聚焦。

對供應商的壓力同樣具體。買家需要可重現的應用程式結果，而非僅是難以直接比較的規格標題。系統建置商必須說明支援哪些配置，以及應用程式更新改變行為時會發生甚麼事。

採購團隊亦應區分購入決策與持續營運工作。需要反覆介入的配置會消耗工程時間。即使硬件符合所有已發布規格，這項負擔也應納入評估。

因此，AMD 工作站推論對既有採購習慣提出以工作負載為本的挑戰。它讓受容量限制的買家有理由比較替代方案，但並不免除部署前確認相容性、效能及支援預期的需要。

對個人開發者工作站而言，某程度的實驗可以接受。對共用的部門服務而言，可預測的運作更具份量。同一張顯示卡可獲得不同結論，因為兩者承擔的責任不同。

共用吞吐量改變快速顯示卡的意義

推論評估中最有價值的部分，往往是總輸出與個人使用體驗之間的關係。吞吐量是指一段時間內完成的工作量。提高吞吐量未必會令每人的請求更快完成。

工作站可以產出更多總輸出，卻令每位個別使用者等候更久。

ServeTheHome 的並行推論基準測試以 Qwen 模型說明這個分野。其 Qwen3.8-27B 測試使用了量化，即降低用以表示模型資訊的數值精度的技術。受評版本使用四位元精度。

在所報告的程式碼生成工作負載中，16 名並行使用者的總輸出超過每秒 113 個 token。Token 是語言模型處理或產生的文字單位。這項總計數字描述的是合併輸出，而非每人獲得的速度。

等候時間結果提供必要的平衡。在 32 名使用者時，每個受評階段在產生第一個 token 前均超過 10 秒。分析及儲存庫編輯階段更超過 100 秒。

這些數字提出與特定工作負載相關的提醒，而非普遍限制。它們顯示，任何部署討論均應把並行量，即同時請求數目，與吞吐量並列。共用工作站需要可接受的等候時間目標。

詮釋亦取決於工作類型。背景文件處理工作與互動式編程助手對延遲的容忍度不同。前者可優先處理整個佇列內已完成的工作；後者則需要足夠迅速地回應，才能維持使用者的思考脈絡。

設想一個開發團隊正評估用於儲存庫問題的本地助手。背景索引作業可以等候，讓使用者繼續工作。工程師在偵錯期間要求解釋時，則會直接感受到相同的延遲。

只報告合併輸出的採購摘要會掩蓋這個分野，令讀者無法判斷該配置是否能舒適地處理互動請求。當評估將完成的總工作量與每位請求者的體驗分開時，便會更有用。

模型架構增加另一項變數。不同模型以不同方式分配運算需求，因此結果不會自動套用至其他模型。即使某配置對某個模型表現良好，仍須以預定替代的模型驗證。

請求組成同樣如此。簡短問題與儲存庫編輯工作對系統提出的要求不同。兩者的輸出速率不應合併成單一的「AI 效能」預期。

這是 ASRock R9700 評測中最重要的教訓。記憶體為工作負載創造空間，而工作負載行為決定該空間可以如何使用。容量規格與最高負載基準點，皆不能完整回答採購問題。

對共用部署而言，有用的運作點是符合服務要求的負載，未必與圖表上最高輸出相同。當使用者需要較短等候時間時，接受較低的總計速率可能是正確決定。

這個結論不僅將責任放在硬件供應商身上，亦放在應用程式擁有人身上。他們必須在詮釋基準測試前，界定何謂滿意的回應。否則，技術上準確的結果仍可能導致不合適的部署。

工作站設計有所幫助，但擴充仍是系統決策

ASRock 的實體設計處理了在桌面電腦內安裝專用 AI 硬件的實際問題。其 Creator 顯示卡規格列出雙槽外殼，尺寸為 271 × 112 × 39mm。廠商建議為電源線預留額外空間。

緊湊的擴充卡設計令工作站整合變得可行；但它不能驗證整個系統。

ASRock 採用渦輪風扇設計，將空氣導經顯示卡並排出機箱外。公司將此設計定位為適合配置多張顯示卡的系統。它亦採用均熱板，將處理器的熱量傳導至散熱鰭片。

這些設計選擇處理的是安裝與散熱問題。它們並不能證明每個機箱都能提供足夠氣流或可接受的噪音表現。由於周邊整機會影響結果，仍有必要進行持續工作負載測試。

現有工作站即使具備足夠實體插槽，也未必能提供所需的擴充配置。電力連接、主機板佈局及其他已安裝裝置，都會影響可用配置。買家需要同時參考系統文件與顯示卡尺寸。

加入更多顯示卡時，這項區別會變得更重要。多 GPU 運作代表將工作分配到多個圖形處理器。應用程式必須明確支援所選配置；僅安裝硬件並不會自動設定這種分配。

不同顯示卡上的額外記憶體，亦不會自動變成一個較大的統一記憶體空間。軟件必須決定模型資訊存放的位置，以及工作如何在處理器之間轉移。實際行為取決於應用程式與系統。

擴充有不同原因。團隊可把獨立工作分配給不同顯示卡，減少這些工作之間的資源競爭。另一種方式是把較大的工作負載分散至多張顯示卡，但這會引入協調要求。

這些方法解決的是不同問題。獨立工作著重排程與隔離。分散式工作負載則同時取決於處理器之間的通訊。系統建議應說明它實際支援的是哪種配置。

對於同時負責日常專業應用程式的工作站而言，同步使用會帶來另一個問題。顯示、圖形及推論工作可能互相競爭資源。分別評估它們，不能證明同時執行時的使用體驗。

這一點尤其適用於希望一部機器同時作為日常桌面電腦及 AI 主機的開發者。令人滿意的隔夜處理結果，不能證明在活躍的桌面工作期間仍能提供舒適的使用體驗。

因此，即使首次購買只涉及單張顯示卡，擴充也應納入最初的系統規劃。主機板、機箱、電源供應器及應用程式都會影響升級路徑。把擴充視為自動附帶的未來優勢，會留下太多未經測試的因素。

R9700 的外形規格支援明確的工作站使用情境。當系統組裝商記錄完整配置時，其實際價值便更具說服力。這些證據把顯示卡在實體設計上的承諾，連結至可讓人可靠操作的整機。

軟件相容性決定有多少記憶體真正可用

AMD 的硬件文件說明處理器包含甚麼；其軟件文件則說明公司支援哪些組合，以及限制仍然存在於何處。買家兩者都需要，因為任何一份文件都不能取代另一份。

只有目標應用程式能正確而穩定地運行時，可用記憶體才會成為實際可用容量。

ROCm 是 AMD 用於加速運算的軟件平台，為受支援的 AI 應用程式提供執行途徑。然而，必須在應用程式及版本層面核實支援情況。一般相容性聲明不能證明運作環境中的每項依賴關係。

AMD 的 Radeon software limitations 文件列出涉及 R9700 的特定版本問題。其 ROCm 7.2.1 Linux 部分指出若干推論工作流程會出現故障，亦記錄了針對特定應用程式的替代方案及限制。

這些條目值得精確解讀。它們涉及具名的軟件組合及版本。它們的存在並不表示每個 R9700 安裝環境都不穩定，也不表示同一問題會在其他版本中持續存在。

實際含義較狹窄，但更有用。買家應把文件與計劃部署的環境對照。未經驗證，不應把舊版本的替代方案視為新版安裝的既定要求。

作業系統帶來另一項界線。AMD 的 R9700 hardware specifications 列明，記憶體錯誤校正僅限 Linux。錯誤校正能偵測並修正某些記憶體錯誤。當可靠性要求影響採購決定時，這項功能差異便十分重要。

軟件路徑亦會影響維護。應用程式更新可改變依賴關係或受支援的執行方法。因此，工作站擁有人需要可重複的配置，以及復原至已知正常運作環境的方法。

這項要求屬於一般營運紀律，但在評估不同硬件平台時尤其重要。成功示範只能證明某項工作曾經運行一次。可靠的工作站需要讓人相信，它在日常維護後仍能繼續運行。

設想一個團隊正為內部工程文件建立搜尋系統。顯示卡只處理應用程式的一部分。文件擷取、檢索、權限及答案評估仍屬獨立責任。

嵌入模型把內容轉換為用於搜尋的數值表示，亦可能引入另一項相容性要求。文字生成模型能正常運作，並不能證明嵌入元件的行為正確。完整應用程式需要接受評估。

計劃建立 searchable knowledge base 的團隊，應把這些層次分開看待。硬件容量有助執行模型，而文件品質及檢索則決定哪些資訊會傳遞給模型。任何一層都不會自動補償另一層的故障。

本地執行亦把部署選擇留在組織手中。應用程式設定決定資訊會否留在工作站內，或傳送至已連接的服務。單靠本地顯示卡，無法確定周邊軟件的行為。

因此，審慎的觀點是營運層面的，而非一概否定。R9700 可以滿足硬件要求，同時目標應用程式仍可能需要整合工作。買家應把這些工作納入評估，而非假設記憶體規格已經解決一切。

這留下了一項可信但有條件的主張。已驗證 AMD 軟件路徑的團隊，有一個具體的容量選項可供評估。依賴關係尚未驗證的團隊，則須先解答整合問題，才可得出相同結論。

下一步的證據應衡量部署品質

未來數月最有用的訊號，將關乎可重現性、應用程式支援及完整系統行為。相比再多一項標題式規格，能把現有硬件連結至可靠工作的證據更有價值。

支持 R9700 的最強論據，將來自符合明確使用者要求的可重複工作負載。

第一項訊號是跨競爭硬件的對照測試。評估應使用相同模型、數值精度、請求內容及同時負載，並報告個別等待時間與總輸出量。

這些證據將令 R9700 與 NVIDIA 的比較更清晰。在可接受回應時間下取得一致結果，將加強 Radeon 對已測工作負載的說服力。若結果依賴異常狹窄的條件，買家便應限制其適用範圍。

對照測試亦應保留答案品質要求。縮減工作負載可提升速度，卻可能改變應用程式提供的結果。當各種配置不再執行等效工作時，硬件比較的價值便會下降。

第二項訊號是特定版本的應用程式支援。清晰的安裝路徑、已解決的問題及記錄完善的維護程序，將減少買家的不確定性。若他們所需的應用程式反覆出現回歸問題，營運層面的主張便會削弱。

此處有意義的單位是受支援的配置，包括作業系統、驅動程式、執行軟件及應用程式依賴項。當讀者可重現結果時，較廣泛支援的一般公告才更有價值。

第三項訊號是完整工作站組裝中的持續行為。獨立評估應檢視日常運作，而非把成功安裝視為終點。共享使用及擴充尤其值得關注。

若證據顯示額外顯示卡能在可接受的運作條件下提供實際效益，將加強擴充的論據。若證據顯示存在大量協調開銷，則會縮窄適合擴充的配置範圍。兩種結果都有助買家作出更準確的選擇。

這些訊號亦提供一種解讀未來報道的方法，不會被標題排名分散注意力。應問的是：哪種工作負載改變了、哪類使用者受益，以及甚麼配置產生了該結果。當這些細節仍然可見時，結果才具有可行動性。

對個別開發者而言，R9700 的吸引力在於可於熟悉的工作站形式中測試更大型的本地工作負載。對組織而言，決策還包括承擔完整應用程式環境的管理責任。兩者相關，但驗收標準不同。

已發布的證據支持進行嚴謹評估，而非提出普遍適用的建議。ASRock 提供配備大量專用記憶體、面向工作站的顯示卡。尚未解決的問題在於，特定應用程式能否有效地把該容量轉化為可用服務。

在根據這篇 ASRock R9700 評測採取行動前，先選定目前限制你電腦的工作負載。記錄其模型、一般請求長度、可接受的等待時間，以及預期的同時使用量。然後要求取得該確切配置的結果，包括其軟件版本及持續運作表現。若你正在建立知識應用程式，應把檢索品質與生成速度分開評估。若擴充很重要，應要求提供目標系統佈局的證據，而非假設額外顯示卡會帶來按比例增加的效益。把配置與結果一併保存，讓未來更新仍可比較。真正有用的採購，是能持續符合你的應用程式要求的工作站。R9700 能為你解決哪項要求：模型容量、共享處理，還是特定本地工作流程？