Kathy Hochul 聊天機械人法例限制 AI 與兒童建立關係

Kathy Hochul 於 2026 年 10 月 28 日簽署聊天機械人安全法例，限制模擬與 18 歲以下兒童建立關係的 AI 功能。Kathy Hochul 聊天機械人法例針對系統在對話中的行為，包括建立情感依賴的行為。其核心張力在於實際操作：公司必須保留有用的協助，同時移除紐約認定對未成年人不安全的互動。

AI 陪伴工具是旨在維持可近似人際關係的對話互動系統。紐約的做法將這類互動直接納入審視。加州可作相關比較，該州已於 9 月簽署自己的陪伴聊天機械人兒童安全法例。對開發者而言，問題愈來愈關乎產品容許哪些行為，而不只是其警告畫面寫了甚麼。

Hochul 亦簽署另一項法例，要求聯網嬰兒監察器配備安全功能及警告標籤。這些措施針對不同威脅，但有同一項政策選擇：責任始於設計及銷售產品的公司。家庭仍會自行決定如何使用科技，而製造商及聊天機械人營運商則面對更清晰的期望，須就其帶來的風險負責。

Kathy Hochul 聊天機械人法例帶來甚麼改變

紐約正限制特定對話行為，將產品設計置於聊天機械人安全執法的核心。

州長的兒童安全公告列出被禁止的功能，包括模擬人性、聲稱建立關係、有害鼓勵、要求保密，以及涉及色情露骨內容的互動。公告亦提及年齡核實及由總檢察長執法。

這種組合之所以重要，是因為對話安全不止於篩查個別字詞。一段回應即使使用普通語言，仍可能鼓勵依賴，或將軟件塑造成可信賴的關係。只聚焦露骨內容的產品審查，會忽略這項分別。

假設有一段關於校園困擾的對話。聊天機械人可以協助學生整理想法，或建議與可信賴的成人交談。另一種回應則可能將系統描繪為唯一理解該學生的關係。即使沒有露骨或明顯威嚇的語言，第二種互動仍會帶來依賴問題。

這個例子說明設計挑戰；並非描述涉及任何特定服務的已核實事件。重要分別在於系統聲稱扮演的角色，以及它所鼓勵的行為。這些特質會隨語境浮現，因此較難以簡單的禁用字詞清單評估。

因此，法例對整體對話體驗施加壓力。產品名稱、角色描述、建議提示及生成回應，都可能塑造用戶期望。只檢視最終答案，會令這種體驗的其他部分未受審視。

對讀者而言，直接結論比全州禁止所有 AI 協助更為狹窄。紐約針對其界定為不安全的兒童功能。某項特定產品是否受法例涵蓋，須視乎其能力及適用例外情況。

這項分別亦改變公司應如何公開說明其回應。聲稱某服務仍然可用，並不代表其現有功能可以維持不變。反過來，移除陪伴功能亦不必然代表所有資訊功能都必須消失。

此事帶來一個具體的產品問題：服務能否在不模擬跨越法定界線的關係下，提供其有用目的？這個問題應在開發及測試階段處理，而不應只在收到投訴後由公關部門應對。

Kathy Hochul 聊天機械人法例令這種張力更明顯，因為受規管行為可能與以溫暖或個人化作賣點的功能重疊。公司必須區分具回應性的協助與關係聲稱。用戶亦需要更清晰的解釋，尤其當熟悉的功能有所改變時。

年齡核實令私隱與存取成為同一項決定

兒童安全系統必須設定年齡界線，同時避免將核實變成另一條收集個人資料的渠道。

年齡保障是用於確定某人是否屬於特定年齡組別的方法。根據不安全陪伴條文，營運商必須在提供受限制功能前確認用戶已成年。現行法案文本亦限制僅依賴成年用戶自行聲明。

文本要求多種年齡保障方法，包括毋須政府身份證明的選項，或可對營運商保持匿名的選項。為作出判定而收集的資料，受用途及刪除限制約束，但法律例外情況除外。這些要求將兒童保護與私隱責任連結起來。

從工程角度看，年齡核實不能與存取控制分開處理。服務必須將核實結果連結至其提供的功能。否則，該流程只會增加阻力，卻未必可靠地改變觸發要求的體驗。

假設一個共用家庭帳戶，可見為何這點重要。成人可能完成核實，但較年輕的家庭成員其後使用同一部裝置。單憑核實結果，無法說明當前是誰正在與聊天機械人互動。

這個情境並不代表必須採用任何特定技術方案。它說明核實帳戶與理解一次使用期間的分別。公司需要解釋其做法背後的假設，包括那些假設可能在哪些地方失效。

亦存在易用性問題。若合法成年用戶反覆未能通過核實，部分用戶會放棄流程。若太容易繞過，受限制的體驗仍然可以存取。評估這兩種結果，比宣布設有年齡閘口更具資訊價值。

私隱再增加一個層面。一個有用的設計問題是，服務能否保留資格判定結果，同時避免不必要地保留相關證明的原始資料。確切實作需要法律及技術審查，但原則直接：只收集判定所需的資料。

家庭亦應區分核實與家長監督。確認帳戶屬於未成年人，並不能告訴家長對話期間發生了甚麼。同樣地，家長控制並不會自動確保生成回應符合行為限制。

對開發者而言，這帶來多項相連責任。資格判定、功能配置、資料處理及失敗時的行為必須一致。即使每個部分單獨看來合理，它們之間的不匹配仍可能削弱整個流程。

Kathy Hochul 聊天機械人法例令年齡保障變得重要，因為它決定能否存取受限制功能。公司應按這種連結在日常使用中的運作方式接受評價。單獨一個核實標誌，對聊天機械人實際會做甚麼只能提供有限證據。

壓力延伸至產品團隊、買家及教育工作者

實際負擔落在決定聊天機械人可以說甚麼、記住甚麼，以及如何自我呈現的機構身上。

已簽署的文本包括指定用途的例外情況，包括內部商業生產力用途。部分客戶服務、研究及技術協助例外，取決於回應是否限於所述目的。因此，產品宣傳類別值得與其實際行為比較。

假設一個研究助理，可展示這項問題。其正常工作流程可能包括摘要文件及尋找段落。若同一介面亦容許不受限制的情感角色扮演，其有用的研究功能並不能解決整體體驗的所有問題。

這是對產品界線的分析，而非對任何具名供應商法律地位作出結論。每項服務均須個別評估。一般教訓是，銷售頁面上的狹窄描述，應對應產品中的狹窄能力。

對企業買家而言，這意味着更具體的採購討論。應詢問助理旨在完成甚麼，以及它如何處理超出該目的的要求。以可觀察行為為基礎的答案，比泛泛保證重視安全更有用。

這項分別在AI 知識庫中並不陌生，因其預定任務是檢索及整理資訊。買家可檢視當對話變得個人化時，產品是否維持該目的。有用協助與模擬陪伴值得分開評估。

教育工作者面對相關判斷。協助學生修訂解釋的系統，具備可辨識的教學目的。聲稱對學生擁有個人權威的系統，則引入不同關係。學校審查程序應能清晰說明這項分別。

教育工作者支持這項法例，反映了對這些界線的關注。紐約州聯合教師工會在其AI 聊天機械人保障措施聲明中支持法例，並強調兒童福祉及人際連結。這屬倡議立場，而非證明每個實作問題均已解決。

產品影響亦不止於生成回應的模型。模型是根據輸入產生輸出的運算系統。周邊應用程式決定呈現方式、儲存的語境、可用功能，以及用戶接觸系統的途徑。

因此，產品團隊應檢視完整互動。一段措辭審慎的回應，可能置於建立矛盾期望的角色描述之下。同樣地，若後續互動反覆暗示個人連結，開場警告的實際價值可能消失。

對知識工作者而言，即使他們從不使用陪伴應用程式，這點仍然相關。同一對話介面可以支援截然不同的目的。區分工作助理的任務與其個性，有助買家評估有用性、信任，以及應分享哪些資訊。

眼前壓力在於讓這些分別可供審查。公司應能展示預期體驗、說明其限制，並識別誰負責作出變更。若每個問題都歸因於底層模型供應商，責任便更難評估。

紐約與加州揭示一條棘手的對話界線

尚未解決的挑戰，是在一般具回應性的互動與被禁止的關係行為之間劃出可執行的界線。

加州提供的是政策比較，而非推出一款競爭性的聊天機械人產品。州長 Gavin Newsom 於 9 月簽署的配套聊天機械人法例，加強了對使用對話系統兒童的保障。其做法包括風險評估與獨立審查，並配合其他網上兒童安全措施。

這項比較說明了不同的監管工具。行為限制界定系統不應做甚麼；評估及審核則檢視公司如何識別和管理風險。兩種做法都引出證據方面的問題，但透過不同機制要求提供相關證據。

在標題中，受禁止的行為聽來可以很清楚，但放到具體情境中便較難分類。鼓勵兒童完成學校作業，與為維持互動而作出的過度讚美並不相同。然而，表面的審查或會把兩種回應都歸類為正向強化。

情感用語同樣存在這種困難。承認某個情況聽來很艱難的回應，可以有實際的對話作用；聲稱自己也有相同感受的回應，則會建立不同的期待。評估必須顧及這項差異，同時不能假設每一句表示同情的說話都會產生相同效果。

Future of Privacy Forum 的私隱研究員 Justine Gluck 在有關該法例的報道中提出這項憂慮。她向 Associated Press 表示，措辭寬泛的類別令一般回應性與被禁止行為之間仍有不確定性。她的批評針對可執行性，而非否定保護兒童這個目標。隨着執行工作推進，對話設計的爭論將變得重要。

測試應反映這個情境問題。審視單次對話可以揭示明顯失誤，但無法描述每一種可能的對話。較長的互動可引入起初不存在的資訊及期待。

假設性評估可以先由一般的求取建議開始，然後檢視聊天機械人是否逐步聲稱自己具有排他性的角色。這會測試一種互動模式，而非單一句被禁止的說話。結果仍應在評估的限制內描述。

過度矯正而減低有用協助，亦存在風險。完全拒絕提及任何情緒的系統，或許能避開某些棘手情況，卻會在一般教育對話中變得沒有幫助。這是需要證據支持的設計考量，並非該法例已被證實的結果。

透過表面改動而矯正不足，同樣存在風險。若只更換關係標籤，卻保留相同的情感行為，實際上難以帶來多少安心。相關問題在於使用者實際感受到甚麼，包括系統在界線受到試探時如何回應。

因此，公司應避免把合規描述為普遍安全的證明。法律標準確立責任，並不能證明產品不可能造成傷害。同樣地，一個令人不安的假設情境，也不能證明每個對話式助理都呈現相同風險。

對於 Kathy Hochul 的聊天機械人法例而言，這條界線是可信執法的核心。清晰例子、透明理據，以及審慎描述的評估，將有助公司及家庭理解標準。無論是宣稱絕對安全還是必然審查的籠統說法，都會掩蓋實際工作。

嬰兒監察器規則把同樣責任帶進育嬰室

另一項嬰兒監察器法例，對家庭帶進私人空間的產品施加保安責任。

這項嬰兒監察器保安措施針對透過互聯網連線傳送音訊或視訊的裝置。法例要求提供旨在防止未經授權存取的保安功能，並附上書面警告。州長的公告指，法例將在簽署後 90 天生效。

這與聊天機械人聲稱情感親密關係的威脅不同。所關注的是他人透過已連接的裝置進入兒童房間。從政治角度把這些措施結合，並不代表其技術要求可以互換。

一個假設性的家庭情境說明了這項差異。父母離開房間時，可能會使用監察器查看熟睡嬰兒。產品的價值取決於遙距存取能否為獲授權人士運作，同時排除其他所有人。

這使保安成為核心功能的一部分。能提供清晰畫面卻沒有適當存取保護的監察器，並未完整提供家庭所期望的體驗。裝置的便利性不能與誰可使用該連線分開評估。

警告規定處理的是購買決定的另一部分。父母應明白，互聯網連線帶來的存取考量，不止是把攝影機放在架上。清晰標示可讓這項事實在產品成為家庭日常一部分前顯現。

不過，標籤提供的是資訊，而不是技術屏障。其實際價值取決於裝置是否同時提供可用的保護。父母不應被迫把警告理解為缺少保安功能的解釋。

這項差異在更廣層面上呼應聊天機械人的爭論。披露告訴使用者產品的一些資訊；設計規定則改變產品允許甚麼行為。這些措施同時強調資訊，以及底層系統的行為。

對製造商而言，相關審查涵蓋裝置及其連接體驗。攝影機、應用程式和帳戶各自都可影響存取。只評估實體硬件，便會令部分使用者體驗不在討論範圍內。

對零售商而言，清晰說明同樣重要。買家需要理解監察器是否連接互聯網，以及這會帶來甚麼功能。含糊的市場推廣，會令遙距可存取裝置與功能較有限產品之間更難比較。

政策上的連繫，是設計及銷售環節的責任。家庭仍會自行設定裝置並決定如何使用；法例則為將這些裝置投放市場的公司加入了期望。

現在便把簽署法例形容為新售監察器已屬安全的證據，仍言之過早。這個結論需要在實施後檢視產品及執法情況。即時而可核實的改變是法律要求；其成效仍取決於執行。

法例走向實施時值得留意甚麼

下一批有用證據，將來自監管指引、可觀察到的產品改動，以及嬰兒監察器規定的實施。

首先，留意總檢察長的指引及投訴程序。對被禁止行為作出清楚說明，有助把寬泛類別轉化為公司可以評估的決定。若指引處理棘手的對話例子，將更有力證明法例可以可預測地運作。

生效日期同樣值得仔細留意。現行 S9051B 文本列明 2027 年 1 月 1 日。較早版本採用 180 天時間表，而州長公告則概括提及未來數月內實施。讀者比較摘要時，應區分現行文本與已被取代的版本。

這項區分對問責很重要。評估公司的準備工作時，應以適用要求及時間表為準。相互矛盾的摘要可以造成混亂，卻不代表相關法例本身沒有日期。

其次，留意聊天機械人行為及年齡確認方面有否記錄在案的改變。更新後的政策是有用資訊，但可觀察到的改變能為使用體驗提供更有力證據。公司應說明哪些功能會為未成年人改變，以及在成年人身分仍未確認時會怎樣處理。

這些說明的質素，將顯示公司是否把要求視為產品責任。詳細交代可描述預期行為、已知限制，以及支持改動的證據；一般性的安全聲明，則令讀者較難評估進展。

證據亦應審慎解讀。成功示範只能證實在所展示條件下發生了甚麼，不能證明每次對話都會走同一條路。同樣地，失誤應有充分記錄，以區分可重複出現的問題與不清晰的個別說法。

第三，隨着另一個期限臨近，留意嬰兒監察器市場。更清晰的標籤及存取保護說明，將顯示製造商正在回應。若連線能力及保安問題仍然含糊，便會削弱人們對法例實際效果的信心。

零售描述是觀察這類回應的一個有用位置。包裝及設定說明可提供額外證據，反映買家獲告知甚麼。問題是，家庭能否毋須猜測便理解連接功能並使用其保護措施。

這些訊號應分開考慮。更佳的聊天機械人界線，不能證明攝影機保安有所改善；改進的監察器標籤，也不能解決 AI 營運商面對的對話問題。每項措施都需要與其所針對風險相連的證據。

對家庭而言，最有用的做法是檢視兒童實際遇到的體驗。要問的是，聊天機械人是否聲稱存在某種關係、邀請保密，或引導年輕人遠離可信任的成年人。對買家及開發者而言，應要求清楚說明功能界線及年齡確認資料的處理方式。選購已連接的監察器時，應檢視其存取保護及設定期間提供的資訊。Kathy Hochul 的聊天機械人法例及其配套裝置措施創設了新責任，但讀者仍需要可觀察的落實證據。隨着實施臨近，應留意可被檢視及說明的具體改動，並要求服務供應商展示其產品如何符合這些期望。