中國社會信用 AI 警示令監控保障措施備受審視

據《南華早報》報道，中國社會信用體系面臨新的警示：人工智能可能將行政監管擴展為行為監控。中國社會信用 AI 的討論，關乎當局可從個人資料中推斷甚麼，而不僅是他們已收集的紀錄。報道指出的是一項風險，並非證實全國性的預測監控系統已經啟用。

這項區別相當重要，因為社會信用本來已存在互相競爭的敘事。中國當局將其描述為促進信任、守法及提升服務效率的基礎設施。批評者則質疑，擴大的資料收集與自動化評估能否維持在這些界線之內。當與特定行為有關的資訊成為判斷一個人的依據時，AI 便提高了問題的嚴重性。

中國研究組織墨卡托中國研究中心（MERICS）早前的研究，挑戰了全民通用信用評分的常見印象。其分析反而描述了零散的合規系統及獨立的監控措施。這段歷史為這項警示提供了參照點：更佳的資訊處理究竟會強化既定的行政工作，還是擴大政府評估的範圍。

中國社會信用 AI 警示實際證明了甚麼

所報道的發展，是對 AI 潛在角色的警示，而非全國體系已完成轉型的證據。

《南華早報》10 月 31 日的報道提及，一項獲政府資助的研究警告監控與歧視風險。其公開的社會信用報道突出了以演算法追蹤網上及線下活動的憂慮。這確立了警示的主題，惟任何實際部署的規模仍未明朗。

本文分析未有獨立查閱該論文。其完整方法、案例及出版詳情，因而不在本文已核實的敘述範圍之內。關於研究的新聞報道，不能取代對論文的直接評估。報道的發布日期，也不應自動被視為研究的發布日期。

政府資助同樣需要審慎解讀。這代表對研究提供支持，並不表示官方採納了其結論。獲資助的學者可以指出政策可能發展所帶來的問題。這並不表示政府已認可該警示、接受其建議，或授權討論中的能力。

文章中的條件式用語具有實質意義。說 AI 可能將行政框架變成監控工具，是指出一種可能的轉變。要聲稱這種轉變已經發生，則需要不同的證據。相關證據包括部署紀錄、運作規則、已記錄的資料連結，以及影響個人決定的例子。

對讀者而言，有價值的發展是治理問題本身。社會信用的討論往往集中於某項紀錄是否準確。AI 帶來另一個問題：機構是否應該作出這項評估。準確的來源資料，並不會自動證明模型可從中得出的每一個結論均屬合理。

可考慮檢索已有紀錄的處罰與預測未來不當行為之間的差異。檢索回答的是關於現有紀錄的問題。預測則估算尚未發生的結果。兩者都可出現在行政儀表板中，但需要不同的理據及覆核標準。

這項差異令警示具有意義，無須誇大關於全國部署的說法。即使系統的公開目的維持不變，其影響範圍亦可透過決策規則而改變。關鍵界線在於，處理合規資訊何時變成對行為、關係或推定意圖的更廣泛評估。

行政效率令政府部門及供應商面臨壓力

核心衝突在於改善合規管理，與維持當局可收集、推斷及據以行動的資訊界限之間。

中國於 2025 年 3 月發布的社會信用指引，闡述了持續發展的官方理據。政府描述其對營商環境、金融服務及行政效率的益處，同時承認監管框架不一致及資訊共享不足。

同一份官方說明亦明確提及資訊安全及個人權利。當局表示，應防範過度收集，以及不當披露、處理、出售或使用資訊。這些承諾建立了一項可用以評估其後技術變化的標準。然而，單憑這些承諾，並不能證明保障措施如何運作。

這為考慮 AI 輔助行政管理的政府部門帶來壓力。讓紀錄更易搜尋的工具，或可支援既有工作。產生更廣泛判斷的工具，則可能改變工作的實質。官員需要說明他們購買的是哪一種功能，以及其權限來源。

供應商亦面對相關責任。示範可顯示軟件如何連接資訊或作出評估，但不能證明客戶獲准使用每一項輸入資料。技術存取與正當的行政使用是兩個不同問題，即使同一個介面令兩者看似完全相同。

對受影響人士而言，這項區別決定了哪些事項可被質疑。錯誤紀錄或可透過證明實際情況的文件提出爭議。對行為的判斷，則可能需要質疑資訊的相關性、推論本身，或機構的權限。當評估過程仍不清晰時，這些爭議會更為困難。

當資訊在不同的行政情境之間流轉時，企業亦面對類似風險。為特定監管目的而建立的紀錄，在另一機構接收後可能產生更廣泛的後果。AI 無須建立原始紀錄，亦能提高其重要性。它可以改變哪些紀錄受到注意，以及覆核人員如何詮釋它們。

這裡確實存在合理的效率理據。行政人員需要可用的紀錄，而企業亦會在責任清晰及程序可預期地運作時受益。搜尋相關資訊所耗的時間，本可用於實質覆核。當更便利的處理成為擴大評估至既定目的以外的藉口時，問題便開始出現。

這為政府部門及供應商留下了一項即時測試。他們應能在討論模型表現前，說明決定內容、獲准使用的證據及其限制。否則，準確度的說法可能是在回答錯誤的問題。即使預測可靠，仍可能不適合用於與之相連的行政行動。

界線在合規紀錄與行為判斷之間

當 AI 協助機構從為較狹窄目的而收集的資訊中，推斷個人品格或未來行為時，治理問題便會改變。

歷史研究有助說明為何這條界線值得關注。MERICS 研究員 Katja Drinhausen 及 Vincent Brussee 在其社會信用分析中，描述了一個以法律合規為核心的零散系統。報告於 2021 年發布，並於 2022 年更新。它應被視為歷史背景，而不是當前部署情況的完整清單。

研究人員區分了官方社會信用安排、商業信任評級產品，以及侵入性更強的國內安全系統。他們亦質疑以全民通用數字評分規管每位公民的說法。研究結果記錄了實施不均、大量人手參與，以及持續存在的資訊共享問題。在評估新的 AI 說法時，這些區別仍然至關重要。

商業產品可提供有用的比較，但亦有其限制。MERICS 討論了 Alibaba 的 Sesame Credit，將其描述為常被誤認為官方社會信用的獨立信任評級計劃。這項比較顯示，共享有關信任的語言，並不能證明共享基礎設施。它亦提醒人們，不應把消費產品當作全國政府系統的證明。

潛在的 AI 轉變涉及推論，即從現有資訊得出的結論。行政資料庫可記錄已解決的事件，無須估算一個人日後的行為。預測模型則可加入這項估算。即使底層資料庫維持不變，若將該估算連結至官方處置，問題的嚴重性便會改變。

設想一個假設系統，檢索某公司的已記錄監管違規。覆核人員可查閱決定、其日期，以及與目前程序的關聯性。現在再設想軟件把公司代表籠統標記為不可靠。第二種輸出新增了一項判斷，需要自身的證據及法律理據。

當資訊跨越不同情境時，同一問題亦會出現。一項與某個決定相關的事實，對另一項決定未必具有充分正當性。結合紀錄可揭示較完整的行政歷史，但亦可能鼓勵缺乏支持的概括。更多資訊並不會免除說明相關性的需要。

自動化偏誤，即對電腦化建議賦予過高權重的傾向，帶來另一項憂慮。覆核人員或會把簡潔的系統標籤視為全面評估的結果。然而，該標籤可能掩蓋缺失的背景或不確定的假設。介面可令暫定的推論看來像已成定論。

這種機制不要求每個政府部門採用同一模型。各個系統可在自身職權範圍內產生具重大影響的判斷。因此，本地實施值得受到審視，無須被描述為全國性措施。反過來說，零散化亦不能保證提供保護，尤其當某一機構可施加重大後果時。

中國社會信用 AI 的問題，最終關乎資訊與權力之間的連繫。甚麼資訊進入流程、得出甚麼結論，以及隨後採取甚麼行動？讓這些步驟保持清晰可見，便可令說法受到檢驗。把它們合併為一個無所不見系統的宏大敘事，則會令核實更困難。

缺乏部署證據限制最強烈的說法

可信的風險分析必須保留技術可能性、已記錄使用情況與已證明損害之間的差距。

現有報道未能證實全國部署時間表、統一模型，或經量度的歧視性結果比率。這些缺口相當重要，因為它們限制了讀者可得出的結論，也界定了哪些證據可令警示更具說服力。憂慮應引導人們走向核實，而非取代核實。

早期研究支持審慎看待社會信用並非單一技術物件。Vishakha Agrawal 於 2022 年發表的 AI 倫理研究檢視不同地區的形式，並與中國的 AI 倫理指引作比較。該論文摘要明確拒絕以單一化方式描述這一概念。它為評估差異提供背景，而非證明新近報道的情況。

對於 AI 輔助行政管理的公告，可以有多種解釋。這類工具可能概述現有文件、協助官員尋找相關紀錄，或為個案審核排定優先次序；亦可能產生行為預測。這些功能應分開描述，因為其後果及證據要求各不相同。

即使有採購公告，也只能確立部分情況。購買軟件並不代表所有宣傳中的功能已投入使用。試點計劃可能有別於日常運作，可用功能亦可能有別於獲授權的用途。嚴謹報道應追查實施情況，而不止於供應商的描述。

歧視的證據同樣需要精確。結果不平等會引起疑問，但其成因仍須檢視。審查者需要了解相關決定、所使用的資料，以及如何處理可比較的個案。概括性的警告無法補足這些缺失的觀察資料。

最有力的反駁是，行政保障措施可以限制 AI 的角色。清晰規則或可把軟件用途限制於檢索紀錄，或支援範圍明確的決定。人工審核亦可能防止不確定的建議左右結果。這些可能性值得關注，尤其當實際操作程序支持這些說法時。

然而，僅有人工簽署並不足以證明存在有意義的審核。審核者需要取得相關證據、有時間審閱，並有權拒絕該建議。否則，程序可以保留形式上的責任，同時讓軟件塑造實際結果。

同樣地，只有在解釋指出決定的真正依據時，才有用。一段修飾得宜的文字即使未揭示遺漏資料或缺乏支持的假設，也可能聽來具說服力。受影響人士需要足夠細節，才能質疑決定的依據。可讀性有幫助，但不能取代可供檢視的證據紀錄。

因此，審慎的結論比任何一端的極端說法都更為收窄。該報道指出一項值得調查的、合理的治理風險。它並未證明每項社會信用功能均已透過 AI 運作。沒有統一評分，也不能解決某項特定自動化評估是否具侵擾性的問題。

當判斷分散傳播，糾正權利便更難落實

保障措施必須追蹤一項評估所帶來的後果，而非止步於錯誤最初出現的資料庫。

中國於 2025 年 6 月公布的信用修復計劃，提供一個具體的行政參考點。官方說明提及透過 Credit China 統一披露資訊，以及信用修復申請的渠道；亦呼籲設立線下服務窗口及簡化申請材料。這些是已有記錄的政策措施，而非證明每宗爭議均已獲有效解決。

信用修復，即按照適用程序處理不利信用紀錄的過程，與質疑 AI 推論不同。一個人或可更正來源紀錄，但另一項評估仍可能反映較早前的資訊。是否如此取決於系統設計。正因存在這種可能，更正程序需要接受技術及行政層面的審視。

假設例子可令問題更具體。假設某機構接收一項紀錄、產生風險評估，並將該評估傳送至其他地方。其後，原始紀錄有所更改。有效的更正程序需要識別哪些相依輸出仍屬相關，並判斷它們是否也需要修訂。

這是營運問題，而不只是模型質素問題。機構需要知道資訊從何而來，以及具後果的輸出流向何處；當來源資料更改時，也需要有人負責回應。缺乏這條鏈結時，更正或會在本地看似完成，卻令下游決定仍未獲處理。

公眾接受並不會免除這些責任。Xu Xu、Genia Kostka 和 Xun Cao 在其公眾支持研究中檢視資訊與意見。其 2022 年研究發現，在實地調查實驗中，披露潛在壓制用途會降低參與者的支持度。這項發現關乎態度，而非量度目前 AI 的部署情況。

不過，這突顯了一項相關區別：支持程度部分取決於人們理解系統在做甚麼。一個人可能支持針對已有紀錄的詐騙採取行動，卻拒絕廣泛的行為監察。把兩種回應視為對社會信用的單一態度，會掩蓋實質選擇。因此，清晰描述是有意義問責的一部分。

對企業買家而言，這項啟示適用於任何結合紀錄並產生具後果評估的系統。採購審查應檢視更正、保留、存取，以及重建決定的能力。產品示範很少能回答所有這些問題；當買家由頭到尾檢視實際決定流程時，這些問題才會浮現。

知識工作者使用 AI 整理資訊時，亦會遇到相關的區別。可搜尋的個人知識庫與機構評估某人的資格或行為，服務於不同目的。相關問題涉及控制權、存取權及獲准用途。相似的資訊處理能力，可以在截然不同的權力關係下運作。

對中國社會信用 AI 應用而言，只要輸出會影響官方處理方式，更正權利就值得特別審視。問題在於受影響人士能否識別並質疑其依據。檢索紀錄的系統與判斷行為的系統，需要不同保障措施；其介面不應掩蓋這種差異。

留意部署規則、決定限制及實際補救措施

下一項有用的證據涉及營運界線：部署甚麼、支援哪些決定，以及有人提出質疑時會如何處理。

未來數月，首個值得留意的訊號是詳細的實施證據。採購文件、試點說明及機構運作規則，可以釐清 AI 是檢索資訊，還是產生新的行為評估。若具體資料記錄了廣泛的側寫分析，將會加強警告的說服力；功能範圍狹窄且設有明確限制，則支持較受約束的詮釋。

相關細節包括負責機構、所使用的資訊，以及輸出在實務上的角色。泛稱智慧治理的說法留下太多未解問題。把特定輸入連結至明確決定的操作文件，才提供可具體檢視的內容。當所宣稱的功能具有可觀察的界線，獨立審查才有可能。

第二個訊號是，規則是否區分協助與具後果的判斷。對輸入、目的及決定權限的限制，有助檢驗官方的私隱承諾。若有證據顯示推測性的評估影響無關的行政決定，便會加劇疑慮。無論哪一種發展，都會比又一則關於 AI 前景或風險的概括聲明更具資訊價值。

審查要求亦需要具備實質內容。一項要求人工參與的規則，應說明審核者必須檢視甚麼，以及出現分歧後會如何處理。遭拒絕建議的紀錄，有助證明審查確實改變結果。只有簽署要求而欠缺配套程序，仍會令核心問題未獲解答。

第三個訊號是來自更正和上訴的證據。已有記錄的個案可以顯示，人們是否獲得可理解的理由，以及機構是否修訂缺乏支持的評估。成功補救會削弱自動化判斷無法被挑戰的說法；持續影響決定而未獲解決的錯誤，則會加強對問責的憂慮。

這些訊號並非對已安排公告的預測，而是用來評估有關警告報道後續發展的測試。它們共同連結技術能力與行政實務。在對大規模採用或有效約束作出結論前，這種連結不可或缺。

對開發者及企業買家而言，眼前行動是審視其 AI 系統協助作出的決定。識別獲准使用的輸入資料，區分檢索所得的事實與產生的判斷，並確定誰可質疑結果。要問清楚，更正如何傳達至每一份具後果的副本。在接受系統只是提升效率的說法前，先套用這些問題。中國社會信用 AI 的警告值得關注，因為它指出一條介面很容易掩蓋的界線。部署證據、決定規則及補救措施應一併追查。當軟件由尋找資訊轉為判斷一個人時，是甚麼賦予該判斷權威，而當事人又如何提出質疑？