top of page

Muse 與 Emotiv:消費級腦電波頭戴裝置透過重用 AI 數據威脅私隱

14 分鐘前
讀畢需時 12 分鐘

據報,Muse 背後公司 Interaxon 在其私隱政策明確披露該用途前,已利用消費者記錄訓練腦部 AI 模型。當為個人回饋而收集的資訊成為更廣泛商業系統的素材時,消費級腦電波頭戴裝置便會威脅私隱。眼前的衝突關乎許可,而非頭帶能夠讀取不受限制思想的證據。

根據 Science 的調查,Interaxon 表示其訓練數據集包括約 50,000 小時用戶的腦電圖(EEG)記錄,即頭皮電活動記錄。公司表示已移除識別詳情。Science 報道指,Interaxon 其後更新私隱政策,明確處理模型訓練事宜。

Muse 與競爭對手 Emotiv 現時均發布文字,說明如何使用神經數據開發 AI。這些披露揭示了一項超越穿戴式硬件的取捨:客戶獲得個人洞見,公司則開發可重用的模型。核心問題是,用戶能否在不自動進入第二種關係的情況下,有意義地接受第一種關係。

Muse 的 AI 訓練揭示消費者記錄的第二用途

Science 的腦部數據調查以不同角度看待一項熟悉的消費交易。一個人購買裝置,以獲取關於自身體驗的回饋。製造商同時亦會看到可用於該次個人使用以外開發工作的記錄。

這些用途有所重疊,但會產生不同期望。處理記錄以產生用戶所要求的結果,是為佩戴頭戴裝置的人服務。保留記錄作模型開發,則建立另一種關係,可能涉及未來產品及用戶。

獲准提供個人結果,不應自動等同獲准開發可重用的 AI 模型。

即使開發工作能改善原有產品,這個區別仍然重要。客戶可以支持提升準確度,同時仍希望限制保留期限、研究存取權或無關的應用。認同某個結果,不代表認同用於達致該結果的每一種方法。

披露問題亦涉及時間線。今天明確說明訓練用途的政策,本身並不能證明客戶在早期記錄被納入開發時如何理解相關安排。評估過去的同意情況,需要檢視早前的通知,以及當時一併呈現的選擇。

這可避免輕易得出任何一方的結論。更新後的文字,是更明確公開說明的證據;但它並不能獨立證明所有早期用途均缺乏有效法律依據,亦不能證明每位受影響客戶都獲得充分通知。

公司的數據集描述,亦有別於可核實的個別參與紀錄。彙總訓練數字無法告訴特定用戶,其使用時段是否被納入其中。這需要能連結收集、許可及後續處理的紀錄。

因此,實際問題比對所有腦部穿戴式裝置的一概指控更為狹窄。Science 的報道對一項特定額外用途周邊的披露提出疑問。這些問題值得獲得答案,但不應將每間製造商、每種產品及每項歷史協議視為可以互換。

對客戶而言,相關交易現時同時包括實體裝置及持續的數據關係。硬件擁有權並不會自動決定相關記錄如何流經軟件開發流程。這第二種關係需要其本身易於理解的條款。

為何消費級腦電波頭戴裝置在使用時段以外仍威脅私隱

一次頭戴裝置使用時段有明確終點:用戶完成使用、除下裝置並查看結果。模型開發則可能有不同時間線。在該次使用期間收集的數據,可能在即時服務結束後仍具用途。

這造成可見活動與較不可見重用之間的不對稱。客戶可看到睡眠報告或冥想介面,卻通常無法看到哪些記錄進入開發數據集,或哪些後續系統借助該些工作。

私隱風險取決於完整數據生命週期,包括不會令客戶應用程式產生可見變化的用途。

較早前一份消費級神經科技評估有助說明,當前爭議的根源不僅在於 AI 新聞標題。Neurorights Foundation 於 2024 年 4 月審視了 30 間公司的政策,發現其中 29 間看來可在沒有實質限制下保留存取權。

這是一項政策評估,並非證明每間公司均行使了每一項許可。其重要性在於許可本身。廣泛的合約文字可令客戶不清楚服務在哪裏結束、次級開發又從哪裏開始。

消費者在購買時便承擔這種不確定性。產品說明會解釋裝置承諾提供甚麼,而私隱文件則規定其收集資訊周邊的許可。吸引人的功能說明無法解決不清楚的數據協議。

製造商面臨壓力,因為它們控制這些說明。它們決定是否在導覽流程、帳戶設定內,或客戶甚少重看的文件中提及訓練用途。披露的位置會影響它是否成為知情決定的一部分。

機構買家面對的是這個問題的另一個版本。設想某僱主評估為自願健康計劃提供頭戴裝置。採購方需要檢視僱員福利,以及參與所建立的資訊關係。

一個人可能樂於接受個人回饋,卻反對僱主存取或額外模型開發。這些偏好可以並存。把整個安排視為單一接受決定,可能掩蓋兩者的差異。

同一問題亦關乎評估其他 AI 服務的知識工作者。一個個人知識庫提出相關區別:為資訊擁有人整理資訊,與在其他地方重用資訊之間的差異。這項比較關乎界線,並非暗示文件與神經記錄具有相同敏感程度。

當這些界線仍難以理解或執行時,消費級腦電波頭戴裝置便會威脅私隱。更好的通知應列明所要求的服務、可選擇的開發用途,以及拒絕後的影響;亦應說明當某人停止參與後,甚麼內容仍會保留。

因此,壓力落在產品設計以及法律措辭上。易讀的政策固然有幫助,但客戶亦需要在收集前可找到的選擇。這些選擇必須對應實際處理行為。

Muse 與 Emotiv 展現 AI 數據交易的不同版本

使用記錄的商業理據值得公平審視。開發詮釋軟件的製造商,需要了解該軟件如何運作的證據。當實用功能變得更準確、更可靠時,客戶亦可受惠。

當「廣泛改善」的目標取代對重用的具體說明時,衝突便開始。改善服務既可以指必要的修正,也可以指範圍廣得多的開發計劃。客戶需要足夠詳情,以區分這些活動。

Muse 現行政策描述將去識別化資訊用於機器學習,包括基礎模型。基礎模型是先廣泛訓練、再調整至特定任務的 AI 系統。這個範圍令訓練許可的影響超越個人回饋時段。

公司立場提出合理的利益論點:開發可支援更佳產品功能。然而,存在利益並不能回答由誰決定記錄是否作出貢獻。這項決定仍是私隱交易的核心。

Emotiv 現行私隱政策提供有用比較。其政策說明,會以明確選擇加入的同意,處理與替代識別碼關聯的化名神經數據,用於其 Large Brain Model。相關文字直接將參與與模型開發連結起來。

該政策亦劃定撤回的界線。Emotiv 表示,停用 Emotiv-IQ 會停止日後將資料納入訓練,但已融入訓練模型的貢獻無法逐一移除;並稱會在技術可行時採取進一步移除措施。

有意義的比較在於訓練周邊的選擇,而非任何一間製造商是否使用 AI 一詞。

Emotiv 的說明在讀者假定撤回能逆轉一切前,讓一項重要後果變得可見。然而,已發布的政策本身不能獨立證明應用程式如何清楚呈現該選擇。介面行為及帳戶控制仍屬另一類證據。

Muse 的披露同樣需要連同客戶體驗一併評估。明確的模型術語提高了具體程度,但客戶亦需理解其實際影響。認得某個詞語不等同知情參與。

因此,有用的產品比較應檢視完整方案。拒絕開發用途後,所需功能是否仍可使用?撤回會停止日後收集、日後訓練,還是兩者皆停止?刪除帳戶的要求會否處理為其他用途而保留的副本?

這些問題不要求各製造商給出相同答案。不同產品可以合理地涉及不同處理要求。其責任在於準確解釋該關係,讓客戶可在兩者之間作出選擇。

這令公司在感應器和軟件功能以外,亦有競爭維度。製造商可以透過易於理解的許可、有限保留期限,以及可信的撤回控制來競爭。當客戶能透過產品核實這些承諾時,它們會更具說服力。

相反,含糊的改善承諾要求客戶接受一段不確定的未來關係。即使底層研究服務於有益目標,這種不確定性仍可削弱信任。公司必須在期望用戶支持前,說明這項交易。

移除識別資料並不能解決同意或刪除問題

去識別化處理一項重要疑慮:減少記錄與可識別人士之間的連結。然而,它並不能獨立回答為何該記錄應納入訓練。身份保護與許可發揮不同功能。

假設一名客戶願意分享記錄作睡眠分析,卻拒絕將其用於更廣泛的商業模型。移除其帳戶詳情不會改變這種偏好。反對的是用途,而不只是識別。

私隱保障措施可以減少暴露,但不能提供另一種用途所需的許可。

2026 年一篇關於腦部模型治理的預印本研究,探討了這個更廣泛的問題。作者指出重用、同意、私隱、偏見及利益分享之間存在張力。其貢獻在於提出治理層面的論點,而非證明商用頭戴裝置會暴露不受限制的思想。

當客戶要求退出時,這個區別會更清晰。刪除帳戶、刪除原始錄音、停止日後訓練,以及更改既有模型,都是不同的行動。單一刪除按鈕不應令使用者以為所有結果會同時發生。

模型權重是訓練期間調整的數值參數。它們不同於開發期間使用的原始錄音。這個差異令撤回參與變得複雜,但並不表示每個已訓練模型都會透露個別參與者的資料。

因此,審慎的論述應避免兩種相反的誇大說法。訓練不會自動令某人的完整錄音可供外界取得。移除原始檔案也不代表其對既有模型的所有影響均已消失。

這些區別影響製造商能夠可信地作出的承諾。若撤回可防止資料被納入日後訓練,承諾就應直接說明這一點。若舊有貢獻仍會保留,客戶應在同意參與前得知。

時機令這項選擇具有重要後果。訓練前作出通知,讓人可拒絕該用途;事後通知主要是解釋既有情況,除非公司能提供實際補救方法。

公司亦須區分控制措施與意向。保障私隱的承諾描述的是目標;保留期限、存取限制或已記錄的撤回程序,則描述可供檢視的行為。

獨立評估亦應遵守同樣的原則。評核者可以檢查控制措施是否存在,並測試啟用後會發生甚麼情況。他們不應僅憑令人安心的標籤,推斷所有內部處理結果。

商業模式在此很重要,因為效用可能延續至原有關係以外。為個人回饋而收集的錄音,可能有助開發使用者從未接觸過的產品。這種可能性令最初的許可更具影響。

即使未確認有資料外洩,消費者腦電波頭戴裝置仍可能因重用方式不清晰而威脅私隱。保安問題是誰可未經授權取得資料;同意問題則是已獲授權的一方是否應進行某項特定活動。

兩個問題同樣重要,解決其中一項並不會消除另一項。嚴格的存取控制可保護用途仍有爭議的資料集。清晰同意可授權某種用途,但該用途仍需要審慎保安。

證據不支持「普遍讀心」的說法

對誇大神經私隱報道最有力的批評很直接:不同技術會在不同條件下收集不同訊號。消費者頭箍不應被套用實驗室設備或植入式系統所報道的所有能力。

同樣地,製造商聲稱可估算注意力或疲勞程度,也需要按其本身條件評估。估算是一種推論,即根據量測資料產生的結論,並非直接接觸一個人完整的精神生活。

即使不把消費者 EEG 描述成不受限制的思想逐字稿,私隱問題仍然嚴重。

具體主張應面對具體問題。研究人員測試了甚麼任務、在甚麼條件下進行、涉及哪些使用者?該表現在該場景以外能否維持?系統實際推論出甚麼資料?

這些問題可防止分析流於技術誇張,也可保護客戶不會過於輕易接受產品聲稱。戲劇化的私隱敘事與樂觀的市場推廣敘事,可能都建基於同一套缺乏支持的假設。

另有一種與不準確判斷相關的風險。系統毋須有完美洞察力,也可以影響某人受到怎樣的對待。在假設的職場部署中,不可靠的注意力標籤仍可能影響經理的觀感。

這個情境屬於風險分析,並非證據顯示 Muse 或 Emotiv 現時會作出僱傭決策。其相關性在於個人回饋工具與具重大後果的機構判斷之間的界線。跨越這條界線需要額外審視。

歷史爭議顯示,私隱憂慮毋須等待更強的解碼能力才出現。一篇 2024 年《Nature Biotechnology》通訊討論了智利於 2023 年 8 月作出的腦部私隱裁決,案件涉及 Emotiv 與前參議員 Guido Girardi。爭議涉及私隱及心理完整性。

該通訊的作者包括原告及其法律團隊成員。讀者在衡量其詮釋時,應了解這層關係。該案提供了一個具體先例,但並未為每個國家或產品確立普遍規則。

它亦說明為何法律結論需要審慎處理。某一司法管轄區的裁決,不能自動決定另一家公司在其他地方的同意程序地位。歷史政策與現行做法亦須加以區分。

因此,最有力的懷疑立場同時適用於兩方面。不要因標題提及腦部資料,就假定頭箍能揭示一切;也不要因現時能力有限,就假定二次使用無關重要。

即使最終模型能力有限,客戶仍可合理反對未披露的開發用途。反對的是對參與的控制權,毋須證明未來會出現監控系統。

驗證缺口值得獨立呈現。現行政策描述公司承諾,而調查報道則呈現公司說法及歷史披露問題。兩者均不能取代涵蓋收集、同意、訓練及刪除的全面獨立審計。

這個缺口應塑造報道方式,而不是令報道停止。讀者應得到對既定事實、公司聲稱及未解問題的清晰交代。將這些類別混為單一確定性,會削弱文章的核心論點。

下一項考驗,是使用者控制權能否延伸至產品

未來數月最有用的訊號,將來自可觀察的行為。另一份關於負責任創新的廣泛聲明幫助不大;註冊流程、訓練參與及撤回證據的變化,能為讀者提供更多資訊。

業界的回應,應以使用者能否在收集前作出決定、並在撤回後核實結果來評價。

第一個訊號是,客戶作出決定的地方是否出現明確的訓練披露。模型開發應在註冊流程中,或啟用相關功能前,讓人容易理解。單靠政策修訂,無法顯示有多少客戶看過其說明。

較有力的回應會說明用途、列出可選擇的方案,並描述拒絕的後果。它不會要求客戶從一般性改善條款中自行推斷這些細節。更清晰的介面將增強對同意關係的信心。

較弱的回應則會改變術語,卻保留參與安排的模糊性。客戶會知道訓練存在,卻不知道自己的錄音是否有助於訓練。這會令核心問題仍未解決。

第二個訊號是,撤回聲稱會否變得具體而可測試。製造商應區分停止未來訓練、刪除已保留錄音,以及處理較早前的模型貢獻。只要實際效果有所不同,這些結果便應分別作出承諾。

可信的證據包括一致的帳戶控制選項,以及與政策相符的說明。如移除存在技術限制,相關限制應在登記前可見。精確說明會比系統無法兌現的絕對承諾更有用。

第三個訊號是對實際執行情況的獨立審視。外部評估應檢視已聲明的權限是否對應收集及重用情況。它們亦應區分政策審閱與技術審計,因為兩者回答的是不同問題。

若有證據顯示控制措施與聲稱相符,將加強「有用的神經 AI 可與有意義的使用者選擇並存」的論點。若有證據顯示持續含糊不清,則會加強對開發在知情參與之前推進的憂慮。無論結果如何,都比完全圍繞假設性讀心的爭論更有資訊價值。

對開發者及機構買家而言,含意即時而明確。應將神經資料權限視為產品要求的一部分,而不是選定硬件後才審閱的文書工作。部署的好處與其資訊責任需要一併評估。

對消費者而言,下一次購買決定亦應包括持續的軟件關係。相關比較不止涉及舒適度、電池續航力或儀表板的實用性,還包括每段錄音所附帶的許可範圍。

當客戶無法區分自己是在獲得服務,還是在提供材料供未來 AI 使用時,消費者腦電波頭戴裝置便會威脅私隱。回應應為有用研究保留空間,同時讓參與安排易於理解,並讓拒絕具有實際後果。這要求製造商說明哪些用途屬必要、哪些屬可選,以及撤回實際會改變甚麼。

在將頭戴裝置納入日常習慣前,應如同審視其承諾的回饋功能般仔細檢視這項交易。請問:模型開發是否明確、參與是否可選、刪除是否有界定範圍。比較不同產品的答案,而不是依賴關於匿名化的一般保證。若這些答案仍不清晰,當你戴上裝置時,究竟同意了甚麼?

 
 

為每個智能代理提供更完整的背景,提升工作表現

讓智能代理連接 remio 已整理好的知識、決策和歷史紀錄。

remio 目前支援 Windows 10+(x64) 及配備 Apple 晶片的 Mac。

你的 AI 工作夥伴
和 remio 一起高效工作

規劃、創作、交付
一站式完成

bottom of page