top of page

NVIDIA 開放模型讓歐洲公共服務置於本地掌控之下

3 小時前
讀畢需時 12 分鐘

NVIDIA 於 10 月 21 日概述多個歐洲政府 AI 項目,擴展由本地掌控、可替代完全由外部供應商營運服務的方案。NVIDIA 開放模型參與的計劃橫跨公共行政、工作場所軟件及模型評估。其吸引力在於控制權:機構可按自身資訊及基建調整系統。與此同時,公共機構亦必須自行決定,這些系統是否值得員工及市民信賴。

這項公告匯集處於不同階段的項目,而非推出單一政府產品。部分合作夥伴已發布軟件或數據集;另一些則介紹仍在開發中的系統、採購安排或預期用途。這些分別相當重要,因為獲取技術、取得採購許可,以及證明公共服務交付成功,分別代表不同里程碑。

核心取捨在於由誰營運系統,以及由誰為其行為負責。Google Cloud 同步公布的主權基建方案顯示,既有雲端服務供應商亦正競逐這類工作負載。歐洲公營機構 AI 正逐漸成為一場圍繞部署安排、機構能力及問責的競爭,同時也關乎模型能力。

NVIDIA 開放模型進入具體公共服務

NVIDIA 的公營機構項目包括由 Deloitte 支援的波蘭就業服務計劃。NVIDIA 表示,波蘭家庭、勞工及社會政策部正開發基建,目標是支援超過 400 個勞工辦事處。計劃中的應用包括文件搜尋、摘要及數碼助理。

這個例子令公告具備可辨識的營運目的。就業辦事處人員需要查閱文件,並協助市民理解服務內容。能夠擷取正確資料的助理,可支援這類工作。其價值取決於員工能否在其職責權限範圍內,取得準確且相關的答案。

這項改變代表邁向可辨識的政府工作流程,而每項流程均附帶相應的部署責任。

波蘭計劃亦說明,為何閱讀開發公告時需要審慎。一個為辦事處網絡設計的系統,具有建議的服務範圍;但這並不代表目前有多少辦事處正在使用、員工查閱頻率如何,或它是否改善服務成果。

這些尚未釐清的分別,應影響外界預期。文件助理可作為內部參考工具而成功,毋須獲授權處理申請人的個案。相反,即使系統被描述為員工輔助工具,若員工經常將其答案視為權威,也可能產生重大影響。實際界線取決於人們如何使用輸出內容。

設想一名就業輔導員正尋找某項申請的指引。有用的回應應指出相關且最新的文件,並保留任何例外情況。若一份流暢的摘要遺漏例外條款,雖可節省閱讀時間,卻可能增加額外覆核工作。單憑這項公告無法化解這項取捨。

因此,這些項目應按已完成的工作任務來評估。尋找文件、解釋程序及建議行動,分別需要不同證據。將它們一概報道為「政府 AI」,會模糊協助員工定位資訊與影響他人生活生計決定之間的差異。

對 NVIDIA 而言,這些項目亦將開放模型連結至周邊部署工作。機構需要符合其文件、語言及營運安排的應用程式。可下載的模型為開發者提供起點,但最終公共服務的表現,取決於下載後所作的選擇。

眼前的重要性在於具體而非普遍。歐洲機構及其供應商正圍繞可辨識的行政需要,建立本地營運的系統。這些公告證明相關活動及方向,但服務質素、採用情況及持續營運表現,仍是需要獨立證據回答的問題。

本地控制改變機構必須採購及管理的事項

德國 Materna 提供工作場所方案的具體例子。其 on-premises assistants 平台 Sinfonie 結合生成式回應、語音互動及動畫虛擬形象。On-premises 意味着軟件在客戶自身基建內運作。Materna 表示,所有組件均可在該環境內運行,毋須將數據傳送至環境以外。

公司於 10 月 21 日推出 Sinfonie,並表示它源於為北萊茵—威斯特法倫州政府機構進行的項目。其聲稱用途包括協助員工查閱內部流程、規例及組織知識。這些是供應商的描述,而非有關準確度或員工生產力的獨立發現。

當機構能將控制權轉化為可執行的營運決策時,控制權才真正有用。

對考慮採用這類平台的機構而言,重要問題不止於模型在哪裏運行。必須有人決定哪些文件會納入系統、哪些員工可查閱,以及過時資料何時移除。即使每個組件都在獲批准的環境內運作,這些責任依然存在。

內部助理亦改變機構知識傳遞給員工的方式。傳統搜尋結果通常會引導用戶開啟文件;對話式回答則呈現一份完成的說明。這種便利帶來編輯責任:組織需要有方法確立哪些資料支撐該說明。

這與維護可搜尋知識庫密切相關。資訊質素取決於文件擁有權、現行版本及具實際意義的存取界線。加入對話介面會令這些基礎更為明顯,因為員工會透過直接答案感受到其後果。

壓力落在公共科技團隊及其整合合作夥伴身上。若本地營運是採購理由的一部分,買方需要清楚了解維護、更新、支援存取及復原安排。供應商能否安裝軟件,只回答了該採購問題的一部分。

介面亦帶來另一項決策。語音回答或動畫角色可能令服務更容易接觸,但呈現方式不應決定權威性。機構必須決定員工如何區分說明與獲批准的指示。這項分別應納入營運模式,而不只是介面設計。

自訂亦存在組織能力上的限制。機構或許獲准修改模型,卻未必具備評估結果的人手。合約自由與實際能力是兩項不同資產。若本地控制要在安裝後持續存在,採購決策便需要同時考慮兩者。

對主權 AI 部署而言,即圍繞機構控制要求作出的部署安排,其含義相當直接。買方購入的是持續營運及監督軟件的能力。硬件所在位置固然重要,但機構作出變更、調查問題及維持服務連續性的能力同樣重要。

採購框架為本地替代方案提供進入政府的途徑

法國的協作軟件採購提供另一條進入公共機構的路徑。10 月 8 日,Docaposte 表示 CANUT 選定其與 LINAGORA 組成的聯盟,提供主權協作環境。該方案採用 Twake.ai,面向合資格公共機構。Docaposte 的公告形容,競爭性對話歷時超過 10 個月。

這一點相當重要,因為採購是部署的一部分。技術上合適的應用程式,仍需要採購途徑、實施支援,以及準備採用它的組織。框架協議可處理部分機構工作,但不能證明最終軟件會被廣泛使用。

採購框架創造採用機會;使用情況及服務成果決定後續發展。

法國的例子亦將討論擴展至獨立助理以外。協作軟件融入員工的日常工作流程。任何引入其中的 AI 能力,均須配合文件處理、溝通、支援及既有工作習慣。其前景部分取決於周邊應用程式是否滿足這些日常需要。

對公共買方而言,這形成與現有工作場所安排的比較。即使新供應商承諾提供更大控制權,替換熟悉的服務仍涉及遷移及員工適應。機構需要有理由接受這種轉變,並就期間如何維持工作提供可信說明。

因此,比較應檢視完整服務。本地治理的替代方案需要充分支援日常工作,令員工持續使用。如員工認為獲批准的環境難以使用,正式採購決定對實際行為的說明不大。採用情況需要觀察,而非選定方案後的自動結果。

這正是軟件供應商及實施合作夥伴面對壓力的地方。他們必須將主權論述轉化為可行的員工體驗。文件、遷移協助、易於取得的支援及可預測的管理,將成為方案能否成功的核心。模型可用性無法取代這些能力。

NVIDIA 開放模型在這個場景中,是大型系統中的組件。這個定位讓本地應用程式開發者有空間,按機構需要調整服務;同時亦表示模型供應商本身無法決定部署是否改善公共工作。應用程式設計及機構營運具有相當大的影響力。

評估市場動能時,這個分別相當重要。框架授標、已安裝的應用程式及定期使用的服務,分別回答不同問題。將它們視為等同,會誇大採用程度。追蹤它們之間的進展,將更清楚呈現本地替代方案是否正成為持久的政府基建。

因此,法國採購公告提供了採購途徑的證據。其更廣泛意義將取決於合資格組織如何運用這條途徑。公共機構現代化正是透過這些機構決策推進,與吸引會議關注的技術發布並行。

合成角色將本地人口納入模型測試

英國的貢獻聚焦於評估,而非已完成的公共服務。Locai Labs 於 10 月 14 日宣布,與 NVIDIA 合作推出英國合成人物角色。合成人物角色是旨在代表特定人口特徵的人工檔案。Locai 表示,其數據集包含 100 萬個角色,並以英國的人口、地理及社會經濟分布為基礎。

該公司指出,這些角色可用於測試醫療、法律及金融等領域的模型。它亦表示,生成過程考慮了凱爾特語言能力。這些是對數據集及其預定用途的描述,並不能證明某項下游服務必然能公平運作。

以本地情境為基礎的測試材料,讓開發者能提出更貼切的問題,但答案仍須經過驗證。

評估的機會不難理解。政府服務需要適用於以不同方式表達相似需求的人。若測試只假設一種詞彙或一種表達方式,其他互動情境便未被探索。人工檔案提供了一種方法,可在讓真實服務使用者參與前,先改變這些條件。

例如,評估人員可檢視助手是否會在不同虛構情境下,以一致方式解釋同一流程。他們亦可比較系統如何處理不完整的問題與詳盡的問題。這些是可行的測試方法,而非英國數據集已公布的結果。

代表性與行為之間的區別仍然至關重要。一份檔案可包括所在地、職業或語言特徵,但這並不能確定真實的人會如何描述令人困惑的表格、如何回應錯誤答案,或如何尋求協助。人口屬性提供背景,卻不能重現親身經歷。

這限制了成功的模擬評估所能支持的結論。它可顯示系統如何回應為該評估生成的個案,卻不能證明普遍可及性,亦不能取代對真實互動的觀察。負責任的結果說明應明確指出這個界線。

此外,亦有機會令比較更具資訊價值。若開發者公開測試個案及評分方法,讀者便可檢視結果實際衡量的是甚麼。若只有一個標題式分數而缺乏相關背景,便難以判斷該評估是否貼近所採購的服務。

對歐洲公共部門 AI 而言,這改變了本地化的討論。翻譯處理的是答案所用的語言;評估亦必須處理人們在甚麼情況下尋求該答案。服務即使聽起來自然,仍可能未能辨識使用者所需的實際資訊。

英國數據集是這項工作的其中一項輸入。其價值應透過它所促成的評估及改進來判斷。計算人工檔案數量可確立數據集規模;檢視下游測試則可確定開發者是否善用這個規模,找出具意義的差異。

這亦讓公共機構有機會影響評估優先次序。政府部門了解哪些問題容易引起混亂,以及哪些程序需要謹慎說明。把這些知識帶入測試,可令模型開發更貼近公共服務需要,而非完全依賴一般能力分數。

開放模型與託管雲端在控制權上競爭

Google Cloud 於 10 月 21 日公布的基礎設施消息,使「本地模型」與「外部供應商」之間的簡單二分法變得複雜。其主權 AI 基礎設施更新,在主權雲端產品組合中加入對 Gemma、Mistral 及 NVIDIA Nemotron 的支援。Google 表示,這些安排讓客戶可管理開放權重模型,同時保留模型檔案及運行時軟件的保管權。

開放權重模型會在授權條款規限下提供其已學習的數值參數。這種可得性不同於公開所有訓練輸入資料或開發工具。買家應檢視具體發布內容及合約,而非假設「開放」標籤代表所有產品均有相同權利。

競爭的核心問題,是每種部署安排能為機構提供多少可實際運用的控制權。

Google 的公告顯示,為何市場不宜簡單理解為公司對公司的競爭。基礎設施供應商可支援來自多個開發商的模型。NVIDIA 可同時為本地營運系統及雲端服務提供技術。在某一層面的合作,可以與其他層面的競爭並存。

對政府部門而言,相關比較應從其營運要求開始。內部部署會把特定責任置於機構本身或其選定營運商身上;託管安排則把部分工作交予供應商。兩種方案均需要精確說明存取權、變更、支援及持續營運安排。

支持本地營運最有力的理據,關乎機構需要直接作出的決定。政府部門可能要求模型在評估期內維持穩定版本,亦可能需要調查某個具體答案,或控制哪些記錄會進入系統。這些要求賦予控制權實際意義。

最有力的反駁則關乎行使控制權的能力。把軟件留在機構內,並不會自動帶來受過訓練的營運人員或可靠維護能力。若政府部門無法持續維持服務,名義上的獨立性可能變成營運負擔。這種可能性值得關注,但不應假設它適用於每個本地項目。

同樣的審視亦適用於託管服務。委託營運可紓緩人手限制,但買家仍需明確責任分工及具實質意義的補救措施。服務說明應交代客戶可檢查及更改甚麼;單靠令人安心的術語,無法回答這些問題。

因此,主權 AI 部署應透過具體安排作比較。誰批准更新?誰可存取營運記錄?當政府部門更換供應商時會如何?這些問題比籠統聲稱某項服務是本地、開放或主權,更能揭示機構控制權的實況。

NVIDIA 的定位受惠於這一系列選項。其模型可參與不同營運安排,讓合作夥伴為特定買家進行封裝。這種靈活性解釋了公告涵蓋範圍之廣,但並不代表任何單一安排必然適合每一個公共機構。

市場壓力落在供應商身上,要求他們讓承諾可被檢視。買家需要證據證明,部署權利可經受日常維護及最終轉換。隨着方案愈來愈多,清楚交代這些權利便成為實質的競爭特點。

下一步證據應來自服務、測試與合約

公共部門項目為後續報道建立了可信的議程,但其公告仍留下重要結果未解決。獨立的風險視角比基礎設施所在地更廣泛。NIST 的生成式 AI 風險概況涵蓋錯誤輸出、私隱、有害偏見、人類依賴及組件整合。這是一套通用框架,並非對這些歐洲項目的評估。

討論安全時,這個區別尤其重要。虛構是指系統自信地呈現錯誤內容。把這樣的系統置於政府部門基礎設施內,並不能證明其答案準確。同樣地,安全環境與具代表性的測試數據集,處理的是服務的不同問題。

下一項有用的證據,將把部署選擇與可觀察的公共服務表現連結起來。

未來數月,首個訊號應是由已公布範圍走向有文件記錄的使用情況。項目負責人可說明哪些服務正在運作、由誰使用,以及哪些工作仍不在其權限範圍內。這些披露將加強本地模型存取正轉化為實用應用的論據。

相反的訊號,將是繼續強調預期覆蓋範圍,卻沒有相應的營運細節。這會令採用的論據仍不完整。延遲推出本身未必會否定這種做法,但會改變觀察者應如何有把握地描述其進展。

第二個訊號應是公布與實際工作相關的評估。對員工助手而言,有用的評估應檢視答案是否反映現行已批准材料。對面向公眾的服務,亦應檢視不同使用者的表現。相關比較應以服務聲稱的用途為準。

若評估報告能同時說明失敗與成功之處,便會更具資訊價值。正確拒絕沒有依據的請求,與虛構答案的系統,其行為並不相同。記錄這項區別,有助買家了解部署的限制,而非從流暢示範中推斷可靠性。

第三個訊號應是營運及轉換安排的清晰度。政府部門與供應商可說明誰維護應用程式、變更如何獲批,以及合約結束時會如何處理。這些細節將顯示控制權是否能在服務整個生命週期中持續實用。

這些訊號相互強化。有文件記錄的使用情況證明服務不止存在於公告之中;相關評估說明我們對其行為有何認識;清晰責任則確立當事情改變或出錯時誰必須回應。三者不能互相取代。

對開發者而言,當前機會在於讓這些連結清晰可見。本地可調整的模型,若應用程式能保留其答案的證據並支援機構審核,便具有更大實際價值。對買家而言,機會在於及早要求這些證據,以影響部署安排。

透過圍繞 NVIDIA 開放模型建立的服務來觀察它們。留意具名的營運工作負載、已公布的評估,以及說明政府部門如何保留具實質意義控制權的合約。把這些披露與原有承諾比較,同時把計劃覆蓋範圍與已證實使用情況分開看待。知識工作者應留意助手是否令已批准資訊更容易核實及應用。公共機構應問:員工能否辨識答案依據,並在系統失效時獲得協助?這些都是下一次項目更新、採購討論或評估發布時可提出的具體問題。從模型存取一路追蹤證據,直至日常服務交付。

 
 

為每個智能代理提供更完整的背景,提升工作表現

讓智能代理連接 remio 已整理好的知識、決策和歷史紀錄。

remio 目前支援 Windows 10+(x64) 及配備 Apple 晶片的 Mac。

你的 AI 工作夥伴
和 remio 一起高效工作

規劃、創作、交付
一站式完成

bottom of page