OpenAI 承諾投入 200 萬美元資助兒童安全研究
OpenAI 承諾投入 200 萬美元,資助有關 AI 與兒童安全的研究,支持建立共用衡量工具;然而,關於年輕人使用體驗的問題仍未有定論。該公司於 11 月 12 日、參與巴黎和平論壇後公布這項承諾。眼前的改變是增加研究支持,而不是證明某項 AI 產品已變得更安全。
這筆資金將支持「AI 時代兒童權利與保護聯盟」旗下的科學研究網絡。OpenAI 表示,參與研究的學者將自行掌握結論並發表研究結果,包括負面或未有定論的結果。這項承諾相當重要,因為有用的安全研究必須能夠挑戰資助它的公司。
這項工作讓 OpenAI 加入一場涉及 Anthropic、研究人員、政府與兒童安全組織的更廣泛討論。當中的核心張力相當實際:科技供應商需要證據來指引決策,但兒童已在接觸其產品。研究必須為現有保障措施提供資訊,而不能將不確定性變成延後實施保障的理由。
OpenAI 的兒童安全研究承諾帶來甚麼改變
根據 OpenAI 的兒童安全研究公告,這筆資助將用於建立衡量 AI 為兒童帶來的風險與機會的工具。該公司亦於巴黎和平論壇簽署《讓 AI 對兒童更安全的參與憲章》。
這項公告資助的是改善證據的工作,而非報告一項已完成的安全干預措施。讀者在評估這項承諾時,應記住兩者的分別。資助承諾代表意向與資源分配,並不表示研究人員已收到款項、完成研究,或證明成果有所改善。
這些階段回答的是不同問題。資助公布會指出獲支持的工作;已發表的研究則會說明研究人員檢視了甚麼及發現了甚麼。產品改動顯示公司如何回應。至於該改動是否改善了兒童的使用體驗,則需要另一輪評估。
若將這些階段視為可以互換,公告聽起來便會比實際情況更具結論性,同時亦會掩蓋擬議工作的價值。共用衡量工具處理的是個別產品公告無法解決的問題:不同機構在描述安全時,所指的事物是否具有可比性。
試想一項假設性的功課助手評估。一個團隊可能計算系統對個別不當問題作出的回應;另一個團隊可能研究該助手會否鼓勵學生把生成答案當成自己的作品提交;第三個團隊則可能調查重複使用是否有助學生獨立解決陌生問題。
每項評估都能提供有用資訊,但結果描述的是不同特性。在不當內容方面表現良好,並不能證明具教育效益。較佳的功課完成率,也不一定代表理解更深入。清晰的衡量方式能讓這些界線一目了然。
這為日後的公告建立更嚴格的標準。公司需要說明哪種結果有所改善、哪些使用者參與,以及有甚麼比較支持結論。研究人員亦需要提供足夠細節,讓外界評估結果能否延伸至原有場景以外。
因此,這項研究承諾值得關注,因為它投資於評估各類聲稱。其意義將取決於能否產生可供其他研究人員和產品團隊檢視及使用的證據。單靠這項公告無法回答這個問題。
對家庭而言,眼前的含義較為有限。這項承諾不應被理解為新的帳戶設定、家長通知機制或認證。對某項服務作決定,仍須了解該服務目前的行為與保障措施。
兒童使用 AI 為當前決策帶來壓力
這個時機反映採用速度與理解程度之間的不匹配。產品可以迅速改變,但有關發展的研究需要審慎的方法與觀察。公司、學校與家庭必須在每個重要問題都有明確答案之前作出選擇。
巴黎和平論壇的研究資助計劃列出 OpenAI、Anthropic 與 Common Sense Media 等支持研究和工具的參與者。論壇主席 Philippe Etienne 將這項工作描述為讓研究人員具備為政策提供資訊的能力。這構成支持理據:更充足的資源可以強化個別公司以外的決策。
壓力落在所有需要把廣泛安全承諾轉化為實際產品選擇的人身上。開發者決定發布哪些功能;學校決定某工具是否符合教育用途;家長決定哪些用途是自己充分理解並容許的。
這些群體需要不同證據。評估寫作輔助工具的學校,需要了解學習、監督與學生資料;評估對話式娛樂產品的家長,則需要了解互動、界線,以及出現問題時如何升級處理。泛泛而談的負責任 AI 聲明,不能取代任何一種評估。
現有使用情況的研究有助說明這些區別為何重要。Common Sense Media 在 2025 年 7 月發布的青少年陪伴型 AI 研究發現,接近四分之三的青少年曾使用 AI 陪伴工具。研究亦描述了多樣化動機,包括娛樂、好奇心及社交互動。
AI 陪伴工具是一種旨在提供持續社交互動的對話服務。當產品加入以關係為導向的功能時,這個類別會與更廣泛的助手產品重疊。不過,關於陪伴工具的證據不應自動延伸為對每一種教育或職場助手的論斷。
該調查在其範圍內證實了受訪者所報告的使用情況與體驗,並不能證明每名使用者都產生依附關係或受到傷害。同樣地,滿意度報告也不能證明存在持久益處。理解這些限制,有助避免過度安撫與過度恐慌。
假設有一名學生,他可能用助手解釋代數、構思故事,以及討論與朋友的分歧。這些活動可在同一個介面內發生,卻會引出不同的評估問題。單靠產品類別無法描述整體體驗。
對開發者而言,隨之而來的壓力在於活動之間的界線。原本供做功課使用的服務,仍可能收到個人披露;娛樂功能亦可能提供建議。評估應檢視當使用者超出產品宣傳用途時,產品會如何回應。
對機構採購者而言,挑戰在於問責。必須有人判斷現有證據是否支持擬議用途,並識別仍未確定的部分。研究資助只有在其成果足夠容易理解、可用於相關決策時才有幫助。
因此,實際影響不止於發表另一份報告。這項工作必須協助決策者區分適當用途與缺乏支持的聲稱。否則,研究活動即使增加,也未必能令產品選擇變得更清晰。
共用衡量方式必須保留具意義的差異
聯盟的更安全 AI 憲章承認,目前仍缺乏有關兒童與青少年長期重複互動的成熟證據。憲章呼籲關注年齡、發展階段與使用方式的差異。這些區別使任何嘗試製作簡單安全評分的做法變得複雜。
可比較的證據,只有在保留情境而非將每個問題壓縮成單一分數時才有用。基準測試,即標準化評估,可以讓重複比較成為可能。但其價值仍取決於測試任務是否反映人們需要了解的行為。
想像兩個假設性的助手,同樣接受一組不當要求的測試。兩者都能一貫地拒絕這些要求。其中一個在長時間互動中仍維持清晰的對話界線;另一個則逐漸把自己描繪成不可取代的知己。
除非評估檢視關係行為,否則內容拒絕分數會忽略這種差異。這並不代表內容測試不再必要,而是說明評估必須在讀者解讀結果前先界定其範圍。
同一原則亦適用於教育效益。一個助手可能提升已完成作業的質素,卻未改變獨立理解程度。集中檢視提交作品的評估,回答的問題會有別於在沒有協助下完成的評估。
研究人員應能區分這些結果,而非把它們當作同一項衡量的競爭性詮釋。當方法說明參與者做了甚麼、獲得甚麼協助,以及研究人員其後評估了甚麼,比較便會更有用。
年齡帶來另一項複雜因素。適合較年長青少年的對話方式,不應自動對年幼兒童作出相同判斷。同樣地,評估亦應避免假設每個年齡組別中的人都具有相同需要或處境。
共用方法可以協助整理這些差異。它們可以為任務、接觸程度、互動時長及觀察到的回應建立共同描述。這可讓研究結果更容易比較,同時不暗示不同情境會產生可互換的結果。
因此,最有用的產出可能更像一套具結構的證據,而非排行榜。讀者可以看到研究人員測試了哪些行為,以及不確定性仍存在於何處。產品團隊可以找出相關弱點,而不用將廣泛分數解讀為全面認可。
這亦涉及維護問題。一項評估描述的是特定條件下的特定系統。若模型、介面或產品指引改變,早前的結果可能需要重新檢視。研究結果不應悄然變成永久標籤。
例如,加入持續記憶功能會改變助手可在對話之間保留的內容;引入語音互動會改變使用者實際面對的體驗。這些假設性的改動,都足以讓人追問先前測試是否仍能反映產品行為。
因此,共用衡量方式必須支持修訂。當產品更新後,其他團隊能夠重複採用的方法,其實際價值不止於首次發表。它提供了一種檢驗聲稱的改進是否持續、以及無關行為是否有所改變的方法。
這正是研究基礎設施與宣傳示範的分別。示範會選擇一段互動向觀眾展示;有用的評估則會說明互動如何被選取,並容許不方便的結果繼續可見。
研究獨立性需要可見的運作規則
業界資助帶來一個明顯的管治問題:當研究結果可能挑戰贊助方的產品時,研究如何維持可信度?答案取決於讀者可以查核的安排。獨立性的承諾只是起點,而發表實務才會揭示它如何運作。
研究的可信度取決於能否報告不利結果,並解釋其背後的方法。 負面結果可以指出一項失效的保障措施。未有定論的結果則可以指出現有研究無法解答的問題。
這兩種結果都不應因為令公告變得複雜而消失。讓它們保持可見,有助避免形成扭曲的紀錄:成功的介入措施獲得關注,失敗的工作卻變得無影無蹤。這亦有助其他團隊避免重複採用產生甚少有用證據的方法。
重要的問題在於控制權。誰選擇研究問題?誰決定研究是否繼續進行?贊助方在發表前擁有哪些審閱權?研究人員能否在無須協商出有利詮釋的情況下說明限制?
這些問題並非預設存在不當行為。它們指出讓外界評估研究所需的安排。研究人員和贊助方可以透過清晰條款回答這些問題,而非要求讀者從機構聲譽中推斷其獨立性。
資料存取帶來另一項難題。研究人員或需取得有關實際產品行為的資訊,但兒童的對話可能包含敏感內容。提高透明度不能意味著毫無限制地暴露參與者的私人資料。
因此,可信的存取安排需要仔細區分檢視方法與披露個人資料。外部研究人員或需取得足夠文件以評估設計,但無須獲取可識別身分的對話內容。合適的安排取決於研究本身及其倫理責任。
贊助方的參與亦應準確說明。資助項目、協助設計任務、提供技術存取,以及分析結果,屬於不同角色。當這些角色分開呈現時,讀者便能更清楚判斷潛在利益衝突。
即使研究人員得出令人安心的結論,這一點仍然重要。當限制獲清楚說明時,正面結果會更具說服力。界定狹窄的益處應保持其狹窄範圍,而非透過新聞標題擴展為產品安全的普遍主張。
同樣的嚴謹態度亦適用於不利結果。某個特定情境中的失敗值得關注,但不會自動證明所有用戶都會以相同頻率遇到該失敗。尊重證據邊界的有力批評,仍然更有力。
對未來工作而言,資金來源的多元性亦值得考慮。研究問題可受益於具備不同學科與機構視角的團隊。發展研究人員、教育工作者、私隱專家及產品評估人員,或會在同一研究設計中察覺不同弱點。
這不代表每個項目都必須回答每一個問題。它意味著整體研究工作不應依賴單一方法或視角。一組相輔相成的研究,可以揭示比同一評估的重複版本更多的內容。
實際的檢驗標準是,研究紀錄能否在資助關係以外仍具可用性。其他研究人員應能理解方法、質疑詮釋,並找出尚未解答的問題。當獨立性能支持這種審視時,才會產生實質影響。
兒童安全倡議者希望在確定之前先有保護措施
最強的懷疑立場很直接:研究議程不應成為讓年輕人持續暴露於了解不足的風險之中的許可。證據可以隨時間改善保障措施,但即時決策仍應反映現有憂慮。
Common Sense Media 在 2025 年的 AI companion assessment 建議未成年人避免使用社交型 AI 伴侶。其測試涵蓋 Character.AI、Nomi 和 Replika 等產品,並有來自 Stanford Brainstorm Lab 的專家參與。該機構指出有害回應及關係導向設計相關的憂慮。
這項評估提供的是批判性觀點,而非對 OpenAI 新承諾的直接評價。它亦涉及特定產品及測試條件。在用於討論更廣泛市場時,其發現應保留這些限定。
不確定性加強了審慎保障措施的理據;它並不能證明不受限制的存取是無害的。 同樣地,不確定性也不能證明每種 AI 使用方式都會產生相同風險。困難之處在於區分不同活動與功能,同時保護用戶免受可預見問題影響。
OpenAI、Anthropic 和伴侶服務供應商面對重疊的問題,但不應被視為可互換的企業或產品。參與共同研究工作並不能證明保障措施相等。一間公司所聲稱的產品用途,亦無法證明每名用戶的實際體驗。
因此,比較最適合放在證據層面進行。每個供應商評估過哪些行為?哪些保障措施針對這些行為?供應商承認哪些限制?共同研究可以改善這些比較,而不會將故事變成品牌之間的競賽。
UNICEF 的 child-centered AI guidance 提供了更廣闊的視角。其建議涵蓋安全、私隱、公平、共融、透明度及發展。這個框架有助說明,避免不當文字內容並不足以涵蓋兒童福祉的全部意義。
一項假設性的安全功能說明了其中取捨。監察對話可能有助識別值得關注的交流,同時亦會建立敏感紀錄。評估此功能時,必須同時考慮其預期保護作用與資料處理方式。
另一項假設性介入措施可能是在出現某些披露後限制對話。研究人員需要檢視該回應是否有助用戶獲得適當支援,還是只是終止互動。介入措施的存在並不能解決其有效性問題。
這些例子是評估問題,而非有關特定服務的已報告發現。其目的在於說明為何簡化的主張並不成立。即使功能的意圖合理,仍需在現實條件下接受檢視。
益處也值得同樣嚴格的審視。無障礙支援和教育協助可以成為有價值的研究目標。評估人員應識別誰會受益、在甚麼條件下受益,以及這些收益是否能延續至即時任務以外。
這種做法為有用的 AI 保留空間,同時不要求家庭接受含糊的保證。它亦為在證據支持審慎態度時施加限制保留空間。研究應協助讓這些判斷更具體,而非迫使每種使用方式只能被批准或否決。
對關注該公告的讀者而言,懷疑標準很實際:支持蒐集更好的證據,同時持續審視現時的產品行為。一項承諾可以為這項工作作出貢獻,但不會解決根本的安全問題。
下一個訊號是方法、發現與產品回應
未來數月應聚焦檢視實施情況,而非期待科學問題即時得到定論。長期發展問題不會只因一項公告吸引關注便獲得可靠答案。較早出現的訊號仍可顯示這項工作是否正變得具體。
最清晰的進展證據,會將研究承諾連繫至可見的方法、已發表的發現,以及可解釋的決策。 這些訊號說明讀者應留意甚麼,而非已公布的交付時間表。若這些訊號缺席,計劃的重要部分將仍未經驗證。
首先,留意是否有具名研究項目及易於理解的方法。參與團隊、所選問題、管治及研究設計的細節,會令這項承諾更容易評估。公開研究方案,即進行研究的書面計劃,會有助讀者理解研究人員打算量度甚麼。
這些細節會加強資源正支持可行研究計劃的理據。沒有項目資訊的廣泛描述,提供的實施證據較少。兩種結果都不會解決科學問題,但這項區別會釐清計劃的進展。
其次,留意是否有保留不確定性的發現。已發表的負面或未有定論結果,會證明研究人員能傳達超越正面標題的結果。清楚的限制說明,亦有助讀者區分探索性工作與較有力的結論。
已發表結果應說明研究能支持甚麼,以及結論的界線在哪裡。如果小規模評估識別出有用訊號,後續工作可以進一步調查。將該訊號呈現為普遍答案,反而會削弱研究的價值。
讀者亦應檢視研究結果是否保持易於取得及理解。清楚說明方法的發表內容,讓知情批評成為可能。只宣布成功、卻不解釋其底層比較的標題,所提供的內容遠少得多。
第三,留意產品團隊與機構的具體回應。供應商可能在一項發現後修訂功能、加強界線,或委託後續評估。學校可能因為證據更清楚支持某項活動,而收窄核准使用範圍。
這些是可能的回應,而非已報告的承諾。其重要性在於可追溯性:決策者應說明哪些證據促成哪些行動。這種連繫會加強研究正在影響實務的理據。
單憑產品更新並不能完成整個過程。仍需要後續評估,以確定修訂是否解決已識別的問題。證據應引導持續的決策循環,而非作為儀式性的背書。
就 OpenAI 兒童安全研究而言,核心問題現時在於執行。這項承諾確立了支持量度工作的責任,但其公開價值將取決於所產生的工作。方法必須可信,發現必須保持可受質疑,隨之而來的決策亦必須承認限制。
在追蹤產品公告的同時,也應追蹤研究紀錄。當供應商描述一項兒童安全改進時,應檢視受測行為、相關年齡組別、比較方式及尚餘的不確定性。應問獨立研究人員能否查核足夠資訊以評估該主張。將教育益處與有關情緒福祉的證據區分開來,也將資助承諾與已證實結果區分開來。當 AI 與兒童安全研究能協助家庭、學校及開發者作出更有根據的決策時,支持此類研究才有意義。下一個問題很具體:這項承諾將產生甚麼證據,而當該證據挑戰參與機構的預期時,它們又會如何行動?



