Tencent AI 生物學警告令開放模型發布備受審視
Tencent 首席 AI 科學家 Yao Shunyu 警告，AI 日益增強的生物學能力可能造成嚴重傷害，令開放模型發布備受審視。據《南華早報》報道，這項 Tencent AI 生物學警告涉及他預期將會發展的能力，而非證明 AI 已經能控制生物學。這項區別對尋求更佳工具的研究人員，以及決定應如何廣泛分發模型的開發者而言至關重要。
根據對他在香港發言的報道，Yao 承認將先進模型維持封閉的安全論點，同時也肯定開放所帶來的好處。Anthropic 提供了一個有用的比較案例：由於擔心模型可能提供危險的科學協助，該公司已對某些模型採取更嚴格的保障措施。核心衝突在於，如何平衡取得有用研究能力的需要，以及限制其遭濫用的能力。
這項警告為 Tencent 及其同業留下了一個實際問題：甚麼證據足以支持發布可協助人們推理生物學問題的模型？要回答這個問題，須區分科學知識、研究協助，以及在實體實驗中可靠的表現。這些能力彼此重疊，但將其視為可互換，便會導致薄弱的安全論述和誇大的新聞標題。
Tencent AI 生物學警告關乎一項門檻，而非已證實的精通程度
據翌日刊出的報道，Yao 於 11 月 7 日在香港一場科學活動上發言。《南華早報》描述了他對 AI 即將具備生物學能力的警告。其後，《The Next Web》報道他敦促發布可下載模型的開發者認真看待安全問題。該報道亦引述他表示，生物學風險可能比網絡安全風險更難管理。這些屬於報道中的評估，而非獨立驗證的能力發現。生物風險警告確立了他的立場，而非展示已發生的有害結果。
這場活動是一名資深開發者就發布責任發出的警告，並非宣告 AI 已精通生物學。
這個框架改變了讀者應如何理解標題。「精通」意味著在一個領域中具有廣泛而可靠的能力。生物學涵蓋分子相互作用、細胞行為、生物體、環境和實驗方法。一個系統可在狹窄的預測任務上表現出色，卻在其他範疇仍不可靠。它也可以提供有用協助，而無須理解影響實驗的每一項因素。
危險能力門檻提出的是一個較狹窄的問題：取得該系統會否實質提升某人造成傷害的能力？這項門檻不一定要求全面的科學能力。反過來說，令人印象深刻的科學答案，並不能證明有人可以將之轉化為可運作的現實程序。
這令模型開發者承擔一項不舒服的責任。公司不能以生物學考試得分優秀來解決問題。同樣地，也不能僅因模型缺乏一般科學領域的精通程度，就否定問題的存在。兩種回應都以方便的衡量方式取代真正重要的能力。
因此，Tencent AI 生物學警告值得關注，但不應將其暗示的時間表視為既定事實。「很快」是一項預測，並沒有指出經驗證的發布日期、量度出的機率，或能普遍區分安全與危險模型的界線。
讀者亦應區分公開聲明與企業政策改變。科學家承認限制存取的理據，未必意味該公司已放棄開放發布。要得出這項結論，須有關於分發、存取條件或保留能力的書面決定。
即時改變的是圍繞這些決定的公開論述。開放性如今必須與以下說明一併辯護：模型能做到甚麼、如何評估，以及在分發後哪些保障措施仍然有效。
對 Tencent 而言，可信度的考驗在於日後文件是否清楚呈現這些區別。一項清晰評估應列明已評估的能力、承認不確定性，並說明結果如何影響發布條件。若缺乏這種連結，警告或可引起注意，卻仍難以評估實際分發決定。
開發者面臨說明其模型能做到甚麼的壓力
承受壓力的持份者不僅限於發布模型的公司。研究機構、軟件開發者、雲端服務供應商和企業買家都會就存取權作出決定。每一方都需要切合其責任的證據。當擬議用途涉及敏感科學工作時，泛稱模型安全的說法幫助不大。
開發者需要說明其系統提供了甚麼額外能力，而非依賴令人安心的標籤。
有用的概念是能力提升，即因取得 AI 系統而帶來的人員表現改善。相關比較基準十分重要。擊敗未獲協助的參與者，與勝過本已擁有搜尋工具、參考資料和適當專業知識的人，並不相同。
對模型開發者而言，問題關乎分發：擬議發布是否會帶來可由現有控制措施實質減低的新風險？對研究機構而言，問題則關乎授權：哪些使用者應在誰的監督下，取得哪些功能的存取權？
企業買家則面對相關的採購問題。模型可在廣泛評估中表現良好，卻未必具備專門工作流程的證據。買家應把供應商的一般能力排名視為起點，而非取代對預定應用的評估。
這些是從 Yao 警告引申出的分析含義，並非報道所指 Tencent 對客戶施加的新要求。現有報道並未證實新增合規義務或全行業限制。然而，它確實突顯了認真買家在擴大存取前應提出的問題。
試想一個示例：某製藥研究團隊使用 AI 整理出版物並找出進一步研究的問題。這種工作流程有別於讓軟件啟動實體實驗。將同一名助理連接至額外工具，會改變其權限、可能後果和監督需要。
在討論 AI agents，即透過連接工具執行任務的軟件系統時，這項區別尤其重要。助理的文字輸出與 agent 獲授權採取的行動，會產生不同的風險暴露。若只評估底層語言模型，部署系統的一部分便未經檢視。
因此，文件和系統設計層面的壓力已經迫在眉睫。長遠影響則取決於評估揭示甚麼。若系統能在敏感任務上提供大量協助，開發者便需要為其存取規則提出可辯護的理由。若不能，限制措施仍需要相稱的理據。
科學使用者對過度控制亦有合理憂慮。不清晰的限制可干擾正常研究，並令決定難以挑戰。可信的安全方針應同時說明其針對的風險，以及希望保留的正當工作。
困難的工作介乎全面存取與全面拒絕之間。機構需要反映能力、權限和情境的界線。這需要比關於科學智能的新聞標題更詳盡的證據。
開放存取與有效保障措施拉向不同方向
開放權重模型會分發在開發者託管服務以外運行模型所需的已學習數值參數。這可支持獨立研究、本地部署和修改，同時亦改變發布後由誰控制系統。
託管服務可保留對存取和操作的集中控制。一旦可下載的權重開始流通，原開發者通常無法在每個副本上執行同等控制。這並不表示每個開放模型都不安全，而是安全論點必須考慮不同的分發結構。
核心取捨在於誰可以使用科學能力，以及誰保留限制這些能力的權力。
Anthropic 提供了具體比較。2025 年 5 月，該公司在 Claude Opus 4 推出時啟用更嚴格的部署及安全標準。公司描述了針對潛在濫用的措施，涉及化學、生物、放射性及核武器。其AI 安全保護措施涵蓋限制取得令人關注的協助，以及防止模型權重被竊。這是公司作出的安全決定，並非獨立證明有害結果可被實現。
這項區別可避免誤導性的比較。Tencent 和 Anthropic 不應只因描述不同發布方式，就被判定為較安全或較不安全。其模型、評估、存取安排和保障措施，都需要按各自情況審視。
封閉存取保留了某些執行選項，但也引入其他問題。外部研究人員對測試的可見度可能有限。使用者依賴供應商持續提供服務和其政策。集中控制亦可能將重要判斷留在其動機值得審視的公司內部。
開放存取帶來不同好處和限制。獨立研究人員可在不完全依賴託管介面的情況下檢視行為。機構可因應本地要求調整系統。然而，較高可檢視性並不保證每項下游部署都會接受審慎的安全審查。
Tencent AI 生物學警告令這種張力成為焦點，因為科學效用並不能清晰劃分為無害與危險的知識。雙重用途描述可用於有益目的、同時也可能帶來有害應用的研究或技術。同一種廣泛能力可同時促成兩者。
這種重疊令簡化的內容分類不足以應對問題。某項討論在一種研究情境下可以正當，在另一種情境下則可能令人關注。評估需要考慮所要求的協助及周邊權限，而非假設科學詞彙本身已可確立意圖。
發布研究結果與分發可調整模型之間亦有差異。科學論文傳達經選取的結果；模型權重則提供可供他人修改並結合額外軟件的可重用系統。這些發布所附帶的責任彼此相關，但並不相同。
相稱的方針應將分發選擇，連結至關於能力及現有控制措施效能的證據。較低風險系統或可合理支持廣泛存取；較令人關注的能力則可能需要額外審查或受限制部署。這些是可能的管治選擇，而非已獲證實的 Tencent 政策。
實際標準在於一致性。如果一家公司認為生物能力值得審慎對待，其發布文件應顯示這份審慎如何影響決策。如果它認為開放有利於安全，便應說明會帶來哪些好處，以及如何處理餘下風險。
科學進展並不代表能可靠地執行生物學工作
人們有充分理由對 AI 在生物學上的應用感到振奮。不過，也很容易將一項範圍有限的成果，延伸為對整個領域缺乏依據的主張。當這些差異被忽略時，安全辯論便更難得出結論。
AlphaFold 3 展示了在明確範圍內的實質進展。這項研究於 2024 年 5 月刊登於 Nature，描述了涉及蛋白質及其他分子成分複合體的預測。其生物分子相互作用預測將結構預測延伸至多種相互作用類型。這項成果支持的是關於預測的具體主張，而不是 AI 能可靠地進行生物學研究的普遍說法。
有用的科學預測，仍然不同於經驗證的實驗結果或可靠的現實世界成果。
對領域以外的讀者而言，分子結構涉及分子或相互作用複合體中原子的排列方式。預測這種排列可協助研究人員判斷哪些假設值得研究，但不會自動證實某項擬議療法在人體內如何運作。
研究團隊或會利用預測來決定後續研究的優先次序，但仍需要針對所研究的問題取得證據。一項有前景的計算結果，並不能消除實驗條件、量度方式或實際相關性所帶來的不確定性。
這項限制在科學討論中已有充分共識。一篇 Nature Methods 論文強調，AlphaFold 的輸出能提供有價值的假設，但與相關結構細節有關的部分仍須經實驗驗證。其對實驗結構驗證的分析，支持審慎解讀預測結果，包括留意不確定性及模型範圍以外的相互作用。
這種審慎並不代表這些工具不重要。即使實驗仍然必要，改善假設篩選也能帶來價值。科學進展往往是在某個特定階段減少不確定性，而非消除其後每一項障礙。
同樣的推理亦適用於安全問題。一個系統毋須自動化整個有害流程，亦可能引起關注。能減少重要障礙的協助值得評估。然而，在一個孤立階段展現能力，並不代表能可靠地完成整個流程。
這正是「掌握生物學」這個說法將過多內容壓縮於過少文字之中的原因。它掩蓋了哪項任務有所改善、誰會受益，以及哪些部分仍然困難。較狹義的描述，能為評估科學價值和濫用風險提供更穩固的基礎。
與 AlphaFold 的比較亦可避免類別錯誤。專門的預測模型與通用對話助手屬於不同類型的系統，其評估應反映各自的功能。其中一方表現強勁，並不會自動轉移至另一方。
對開發者而言，這意味著應一併報告具體能力及限制。對買家而言，這意味著應詢問結果是否符合預定用途。對讀者而言，這意味著應避免由令人印象深刻的示範，跳躍至關於自主科學的廣泛結論。
若透過這些區別理解，Tencent 的警告便更有價值。其重要性在於預見可能造成重大影響的協助，並準備合適的保障措施。這並不要求人們接受每一項餘下的科學障礙即將消失。
生物風險的證據仍取決於測試方式
最有力的懷疑論回應，是追問證據是否量度了所聲稱的風險。這比假設所有警告都被誇大，或把每個令人關注的答案都視為危險證明，更具價值。評估設計可以改變結果的意義。
RAND 於 2024 年 1 月發表的一項研究，比較了在語言模型協助下進行生物攻擊規劃，與僅使用互聯網的情況。研究發現，所測試模型在計劃可行性方面並無具統計顯著性的差異。其生物風險評估亦強調有需要監察後續系統。這些發現涉及較早一代模型的規劃表現，而非所有可能的生物學應用。
無論是舊有的負面結果，還是新的警示性示範，都不足以界定另一個系統所帶來的風險。
統計上不顯著的結果，代表該研究在其方法下未能確立所測試的差異，並不代表這種差異永遠不存在。同樣地，狹窄任務上的正面結果，也不應被視為對現實世界傷害的量度。
《International AI Safety Report 2026》描述了能力正在提升，同時有關現實世界增益的證據仍然參差。報告指出，較新的研究發現系統可在代理任務上提供協助，而早期研究亦存在限制。代理任務是用以代替研究人員無法直接適當測試的結果。其生物能力評估支持持續評估，同時保留對能否轉化為實際傷害的不確定性。
分析上的挑戰，在於連結這些不同層次的證據。知識測試評估答案；受控練習評估既定環境下的表現；實際部署則引入額外的使用者、工具、權限及誘因。由其中一個層次支持的結論，在延伸至另一個層次前需要理據。
參與者的選擇同樣重要。能協助新手整理資訊的工具，或許只能為專家帶來很少額外價值。反過來說，對專家有用的協助，或會依賴新手缺乏的知識。平均分數可以掩蓋這些差異。
比較條件亦值得留意。互聯網存取、參考資料及其他軟件本已能提供大量協助。評估者需要識別模型帶來的額外貢獻，而不是將整個任務結果都歸因於 AI。
保障措施測試提出另一個問題。評估一個不受限制的系統能做到甚麼，與測試已部署服務容許甚麼不同。兩者都可能相關。若把結果混合而不解釋條件，安全結論便難以解讀。
公開披露亦有限制。有用的評估摘要可以描述方法、不確定性和發現，而毋須公開可能助長濫用的細節。透明度應協助獨立評估，同時避免不必要的操作資訊。
這些考量直接適用於 Tencent。任何公開的安全結論，都值得就其範圍、方法及與發布條件的關係進行審視。公司的內部門檻具有參考價值，但僅憑其標籤無法證明它如何與其他開發者的標準比較。
因此，懷疑論立場並非否定關注，而是強化對證據的要求。問題在於哪些能力有所改變、在哪些條件下改變，以及控制措施是否針對這些能力。這正是評估接近門檻警告時應採用的標準。
留意發布證據、獨立測試及存取決策
未來數月最有用的發展，將涉及讀者可查閱的文件與決策。另一項關於科學智能的預測，其價值會低於將能力與特定發布連結起來的證據。
下一個有意義的訊號，是警告會否產生可測試的主張，以及可見的存取改變。
首先，留意 Tencent 的模型發布文件。關鍵資訊是經評估的生物能力與分發條件之間的連繫。一份有用的評估應說明測試了甚麼、哪些部分仍不確定，以及為何選擇相關的存取安排。
這類文件會強化以下論點：該警告反映的是可操作的安全疑慮。沒有支持方法的廣泛保證，會令核心問題仍未解決。延遲發布文件會造成資訊落差，但本身並不能證明模型具危險性。
其次，留意對相關系統進行的獨立評估。比較應區分模型協助與使用者本已擁有的資源，亦應識別參與者的專業程度，並說明結果涉及知識、受控表現還是更廣泛的執行能力。
若證據顯示存在有意義的額外協助，便會強化採取針對性保障措施的理據。若發現增益有限，則會削弱關於即時危險的廣泛主張。任何一種結果都會比一般能力排名更具資訊價值，因為它直接回應實際問題。
第三，留意開發者及研究機構會否改變存取安排。相關訊號包括有文件記錄的限制、審查程序，或針對敏感功能的新監督措施。測試在於，這些決定是否源於既定的能力發現，並保留適當渠道讓合法工作進行。
存取變更不會自動驗證每一項警告。它可能反映在不確定性下的審慎態度。其重要性取決於所提供的證據、受影響的能力，以及控制措施是否針對已識別的關注事項。
對企業買家而言，實際含意是保留採納決策背後的理據。團隊需要知道評估的是哪個模型版本、它獲授予哪些權限，以及哪些限制影響了批准決定。當能力或部署條件改變時，清晰文件可令日後重新評估更容易。
這亦是知識管理問題。可搜尋知識庫可協助團隊保留評估報告及內部決策。整理這些紀錄有助審查，而具備資格的專家仍須負責評估當中的科學及安全影響。
應把 Tencent 的 AI 生物學警告視為更仔細閱讀能力主張的理由。先從模型實際執行的任務開始。詢問它提供了哪些額外協助、評估了哪些使用者，以及保障措施是否配合部署情況。應把科學效益、濫用潛力與已展示的執行能力區分開來。下一次發布到來時，應比較其證據與存取規則，而不是依賴標題或安全標籤。閱讀底層評估、保留其限制，並檢查獨立發現是否支持開發者的結論。在讓 AI 系統於科學工作中擔當更廣泛角色之前，你的團隊能否說明其能力與權限為何足以支持這項決定？
