OpenAI Model Spec 更新將人類意圖置於 AI 判斷核心
OpenAI 於 10 月 29 日更新其 Model Spec，隨着能力日益提升的模型採取更具影響力的行動，將行為指引圍繞五項價值重新編排。這次 OpenAI Model Spec 更新觸及一條棘手界線：在理解人們意圖的同時，保留他們對下一步行動的主導權。
這些價值包括忠於人類意圖、盡量減少傷害、誠實與透明、人類主導權，以及關懷。OpenAI 的更新行為指引加入了脈絡和監督原則、更改部分預設做法，並刪除了大部分詳細的風格指引。
Anthropic 就 Claude 所做的工作提供了一個有用的比較，但核心張力貫穿兩種做法。更多判斷空間讓 AI 能在指示不完整時提供協助，同時也為用戶從未批准的假設留下空間。開發者和企業買家如今面對一個更尖銳的問題：系統應如何證明，其詮釋仍然服務於指揮它的人？
OpenAI Model Spec 更新帶來甚麼改變
這次修訂更明確說明模型行為背後的推理，同時將人類指示置於核心。
OpenAI 將這些改變描述為對既有承諾的重組和延伸。它加入了有關運用脈絡、支持主導權、遵循相關社會規範及處理副作用的指引。公司亦將文件中對模型的稱呼，從「the assistant」改為「GPT」。
這些改變描述的是預期行為，而非已完成的產品推出。OpenAI 表示，其模型尚未完全反映該規格，亦稱相關訓練工作的成果將在日後更新中推出。
在解讀這項公告時，這項分別相當重要。行為規格可以指出理想的做法，卻未必能證明已部署系統能多一致地做到。讀者應把文件的抱負，與個別模型的實證表現分開看待。
試想一個具說明性的工作場所請求：根據專案筆記擬備客戶更新。用戶大概期望內容準確綜合、措辭得宜，並顧及客戶的關注事項。他們可能沒有說明受眾、發送方式，或如何處理機密細節。
有用的系統需要具備足夠判斷力，以填補一般的空白。若每句話都要求明確指示，委派工作會變得繁瑣。然而，當系統將推斷出的偏好視為披露資訊的許可時，填補空白便會帶來風險。
因此，實際運作上的問題不只在於最終更新是否寫得好。系統有否辨識預期受眾？有否保留原始筆記中的不確定性？有否區分起草與發送？
這些問題有助解釋，為何價值觀會與日常工作相關。單靠準確性無法判定資訊是否適合放入訊息；流暢度亦無法證明用戶已授權發送。
同一項請求可以產出優秀草稿，也可以導致不可接受的行動。若只評估草稿而不檢視行動，便會忽略互動中最具影響力的一環。
這為開發者帶來更具挑戰的設計問題。他們需要決定哪些欠缺的細節可由應用程式合理推斷，亦需要在這些假設影響結果時，提供方法讓用戶看見。
可見的假設讓用戶有具體內容可以修正。不可見的假設則可能在用戶意識到已作出決定前，塑造整項工作。
對買家而言，直接影響相當實際。供應商對人類意圖的承諾，應引出對權限、審閱介面和已完成行動紀錄的提問。這些產品細節決定該承諾能否真正派上用場。
更多判斷力提高開發者的責任
開發者有責任將廣泛的行為承諾，轉化為可理解的應用程式界線。
設想一個被要求整理共用專案資料夾的系統。它可以為文件分組、建議名稱、找出重複檔案，或移除過時資料。每種詮釋聽來都合理，但每種都會帶來不同後果。
用戶的概括目標不會自動決定這些差異。建議資料夾結構保留了審閱機會；刪除共用文件則改變同事可存取的內容。
明智的應用程式會在執行前區分這些行動。它會讓系統權限易於理解，並向用戶顯示哪些操作已經發生。無論模型聽起來多周全，這都是產品設計選擇。
OpenAI 的模型行為框架提供了相關界線。其指令層級界定哪些指示優先。脈絡可協助詮釋，卻不會只因相關而取得權威。
該規格亦要求對人類修正保持開放。它指出，模型應區分用戶陳述和推論，並避免對記憶作出沒有根據的聲稱。其副作用指引要求，對於超出請求合理範圍的某些具影響力行動，必須取得明確授權。
對開發者的含意是，更豐富的脈絡帶來額外責任。已記住的偏好可以改善建議，但其相關性取決於當前任務。過往指示可有助理解意圖，卻不會成為永久授權。
設想一名假設性的經理過往偏好簡短更新。AI 應用程式在起草另一份例行摘要時，合理地可以採用該偏好。然而，面對詳細的事故說明時應採取不同做法，尤其當簡短處理會掩蓋尚未解決的問題。
困難的取捨取決於脈絡。應用程式需要保留有用的延續性，同時理解情況可以改變偏好的含義。
這種壓力同樣延伸至企業買家。採購團隊應詢問，應用程式如何區分背景資訊與操作指示，也應檢視用戶如何在任務開始後修正錯誤詮釋。
就知識工作而言，可用證據的質素亦是問題的一部分。可搜尋的知識庫可幫助人們檢視答案背後的材料。然而，僅有來源存取權並不能決定某項行動是否已獲授權。
系統可以引用正確文件，卻仍然誤解用戶希望如何處理該文件。證據質素與權限質素需要分開審視。
開發者亦面對壓力，要讓停止行為合乎比例。每次無害編輯前都要求確認會造成阻力；在後果不明時未經審閱便採取行動，則會造成另一種失誤。
應用程式需要在例行執行與擴大任務範圍的決定之間作出有意義的區分。用戶應在因錯誤而發現之前，先理解這項區分。
這正是廣泛承諾變得昂貴的實作環節。介面、權限、紀錄及復原選項，都會塑造人類監督能否在實務上運作。
詮釋意圖與用戶控制之間存在取捨
核心取捨在於，AI 系統可行使多少詮釋權，同時讓其假設保持可供修正。
按字面執行可能以明顯方式失敗。若用戶要求簡潔摘要，保留每一句話便違背請求。若用戶貼上錯誤訊息，要求他們先提出措辭正式的問題只會增加不必要工作。
詮釋讓協助變得有用。問題始於系統將自己的詮釋視為比人的明示目標更具權威。
考慮一個具說明性的職位比較。用戶詢問哪個機會最合適。系統留意到早前曾提及穩定工時，因而給予工作時間穩定性相當大的比重。
這種權重安排可能有幫助，亦可能掩蓋已改變的優先次序，例如為特定職涯目標而追求高要求職位。當系統揭示這項假設並邀請修正時，建議會更有用。
差別在於誰控制決定。系統可以解釋某項因素為何重要，而毋須決定它必須最重要。它可以指出被忽略的後果，而毋須暗中替用戶選定優先次序。
Anthropic 的 Claude constitution提供了相關的業界比較。該文件於 2026 年 1 月發布，說明公司對 Claude 預期的價值和行為。Anthropic 表示，解釋指引背後的理由可支持訓練，同時承認輸出有時未必達標。
因此，兩家公司都將書面行為承諾視為塑造模型行為的一部分。然而，單憑任一文件，都無法證明模型能持續作出良好判斷。
對比較不同做法的開發者而言，有用的問題在於可觀察行為。當用戶拒絕模型的建議時，模型如何回應？它會否適當更新任務？它會否繼續提供相關證據，而不是一再推銷同一結論？
這些情況揭示協助與系統按自身條件持續堅持之間的差別。建議可以很有力，同時仍須向接收者負責。
這種取捨亦出現在協作寫作中。假設用戶要求就錯過截止日期提出強硬投訴。系統可能辨識出含有缺乏根據指控的措辭，並解釋該措辭為何削弱投訴。
這種介入可以服務用戶目標。若將訊息改寫成無關的和解立場，則需要不同的理據。系統應協助用戶準確表達已獲授權的立場。
同樣的區分適用於用戶要求特定觀點時。有用的助手可以闡述該觀點，同時令事實陳述保持有根據。它不應把採用指定語氣與捏造支持證據混為一談。
對組織而言，這為應用程式誘因帶來治理挑戰。支援系統、銷售助手及研究工具，在詮釋含糊請求時可能面對不同壓力。
這些壓力值得在產品層面檢視。誰從建議行動中受益？哪些替代方案仍然可見？當用戶選擇與應用程式偏好結果衝突的選項時，會發生甚麼？
這些是分析性問題，並非任何一家公司有不當行為的證據。它們指出買家在把公開價值轉化為評估準則時應檢視的地方。
這次 OpenAI Model Spec 更新使人類意圖成為更明確的組織原則。其實際意義取決於應用程式是否保留用戶檢視、拒絕及重新引導其詮釋的能力。
主導權可在沒有明顯失敗下被侵蝕
系統可以成功完成任務，同時令用戶更難理解或引導結果。
這種可能性令評估變得更複雜。即使一項潤飾得宜的建議隱藏了假設，仍可能令人覺得有幫助。一份完成的文件或能滿足眼前要求，卻令用戶無法解釋其中的重要結論。
Anthropic 在一月發表、關於削弱自主權模式的研究，檢視了真實對話中的相關憂慮。研究探討會削弱用戶形成準確信念、自行作出價值判斷，或按其價值行事能力的互動。
這提供了一個相關的研究視角，而非對 OpenAI 修訂內容的獨立評估。它亦指出一個更廣泛的評估問題：即時滿意度並不能判定協助是否保留了自主權。
試想一名員工在 AI 協助下準備提案。系統產生了一項具說服力的建議、化解表面的矛盾，並提供陳述決定所需的措辭。
員工或會對結果感到滿意。然而，評估者仍應追問，系統有否區分既定事實與詮釋。員工亦需要知道，哪些未解決問題可能改變建議。
若這些區別消失，輸出結果便更難受到質疑。提出內容的人承接了自信，卻未必同時獲得理解。
這種憂慮並不表示用戶必須檢查每一個中間步驟。若協助要求獨立重做整項工作，委派的價值便會大幅降低。
相關標準是與影響相稱的理解。用戶需要取得會實質影響結果的假設與證據，也需要有可行的方法改變方向。
假設一個研究助理，便可說明這一點。它可以概述一批文件，而毋須讀者重新打開每一頁；但它應保留有意義的分歧，並讓決定性的來源可供查閱。
若某個應用程式只是為了產生較整潔的敘述而移除矛盾，便會產生不同的結果。即使每句保留下來的文字都聽來合理，它仍已改變了用戶對證據的看法。
當中亦存在時間上的問題。用戶可能在後果仍不明朗時，較早接受某種詮釋。後來的新資訊可能顯示，原有假設已不再適用。
因此，有效監督必須在工作進行期間持續進行。開始時的一次確認，無法解決其後出現的每一項重大選擇。
評估 AI 工作流程的團隊應審視這些轉折。新證據出現時，系統會否重新考慮其計劃？用戶糾正某項前提時，這項糾正會否傳達至最終工作成果？
這些是建議的評估問題，並非更新後規格所報告的結果。它們提供具體方法，檢視一項否則可能停留於抽象層面的承諾。
持懷疑態度的觀點很直接。廣泛價值觀可以支持更好的決策，但其彈性亦可能令不良行為更容易被合理化。行動後提出看似合理的解釋，並不能證明該行動尊重了用戶意圖。
因此，人類自主權需要行為證據。最有力的證據，應顯示用戶能理解重要選擇、糾正錯誤假設，以及停止未獲授權的任務延伸。
已公開的價值觀需要在真實情境中取得證據
公開規格有助界定問責，但部署證據必須證明行為在實際應用中如何變化。
OpenAI 在三月對其行為框架的說明，作出了數項有用區分。該規格描述的是預期模型行為，而非整個產品或完整訓練實作。產品功能及其他保障措施同樣重要。
該說明將文件定位為訓練、評估及公開討論的共同參考，亦承認預期行為可能領先於已部署的表現。
對讀者而言，這意味著不應將政策修訂視為每個應用程式的一致改變。模型周邊的工具及權限會影響它能做甚麼；介面則影響個人能檢視甚麼。
嵌入草擬工具的模型，面對的運作限制與連接共享商業系統的模型不同。其回應中出現相似措辭，並不能證明兩者行為等同。
評估亦須考慮系統與環境之間的差異。Anthropic 在七月發表、關於跨語言價值觀的研究，檢視 Claude 模型與不同語言中所表達價值觀如何變化。該公司指出，憲章無法預見真實對話中出現的每一項價值。
該研究並非衡量 OpenAI 的模型。其關聯在於方法論：預期價值與觀察到的回應，必須在不同條件下分開檢視。
對企業買家而言，有用的評估方式是比較其實際部署環境下，相同底層任務的表現。當中可能包括不同語言、可用文件，或不同程度的工具存取權限。
目的在於識別具意義的行為差異。當證據不完整時，系統會否保留不確定性？翻譯後的要求會否改變它作出的假設？額外背景資料會改善結果，還是引入缺乏依據的結論？
這些問題需要仔細設計的案例。測試應確立用戶授權了甚麼，以及系統接收了哪些資訊。沒有這個基準，評估者可能將合理詮釋誤當成錯誤。
他們亦可能將僥倖成功的結果誤認為穩健決策。系統可能採取未經授權的行動，卻碰巧產生有用結果。若只評估結果，便會獎勵錯誤行為。
相反，系統可能因缺乏必要授權而拒絕行動。即使任務尚未完成，這也可能是恰當做法。評估必須區分有理據的克制與不必要的阻礙。
當多項價值互相拉扯時，挑戰會進一步增加。快速完成任務可能與核實重要假設相衝突；提供精簡答案也可能與清楚說明具重大影響的不確定性相衝突。
可信的評估應讓這些張力清晰可見。綜合分數固然有用，但接近決策界線的例子，有助說明分數對實際工作代表甚麼。
公開規格在此提供一個機會。它讓外部研究者及客戶有語言描述對行為的分歧。失誤可以轉化為有關詮釋、授權或糾正的具體問題。
若缺乏可比較的證據，這個機會仍然有限。買家應尋求成功執行的例子，以及已承認的不足之處。一份具說服力的價值觀文件，只是這些討論的起點。
因此，OpenAI Model Spec 更新應為評估計劃提供參考，而非取代它們。它最重要的實際貢獻，是提供一組更清晰、可供觀察者檢視的承諾。
OpenAI Model Spec 更新後應留意甚麼
下一批有用訊號包括訓練證據、可見的應用程式控制措施，以及測試有意義用戶糾正的評估。
第一個訊號，是將訓練改動連繫至特定行為的證據。未來數月，讀者應留意描述清晰的任務、比較方法及失敗類別。
若結果能將事實準確性與授權及背景處理分開，資訊價值會更高。系統回答問題的能力可以提升，卻仍可能在應否採取行動方面表現不一致。
若有證據顯示模型能在不擴張自身權限下處理陌生情況，便會加強這種做法的理據。若證據僅限於熟悉例子，核心判斷問題仍較難有定論。
第二個訊號，是應用程式如何呈現控制權。相關改動應讓用戶更容易檢查具重大影響的假設，亦讓重要行動更容易覆核。
試想一個準備更新共享紀錄的專案助理。有用的介面可以顯示建議的更改，並指出哪些細節來自推論。用戶便可在影響同事前糾正詮釋。
這類控制措施會令監督更切實可行。相比之下，系統尊重人類意圖的概括保證，較少說明個人如何介入。
讀者亦應留意糾正如何傳播。在對話中修正一項假設，應影響依賴該假設的文件、計劃或行動。只有確認而沒有相應改動，便無法解決根本問題。
第三個訊號，是對延伸互動中自主權的評估。研究人員及客戶應檢視，用戶能否在系統已投入大量精力於某項計劃後重新引導它。
有用的測試可以在任務中途引入正當的優先次序改變。問題在於，系統能否在保留相關工作及尊重修訂後目標的同時作出調整。
強勁結果會支持一項主張：具能力的系統可以持續回應人類指引。反覆抗拒、隱藏假設或未經授權地繼續執行，則會削弱這項主張。
對正在選擇 AI 工具的讀者而言，應先從自己足以評估的任務開始。識別你希望委派的決定，以及你希望保留的決定。檢視情況改變時，系統有否令這道界線清晰可見。保留糾正改善結果的例子，以及糾正未能傳達至工作成果的例子。將這些觀察與 OpenAI Model Spec 更新中的承諾比較。有用的問題很具體：當 AI 系統詮釋你的意圖時，你是否仍能理解它的選擇、改變它的方向，並控制它下一步的行動？
