Pangram 影片偵測擴展至文字以外的圖像與短片

Pangram 已從文字偵測擴展至影片上載及更廣泛的圖像篩查，令自動化判斷更貼近日常瀏覽。Pangram 影片偵測現已加入其產品組合，檢視文字、圖片與短片。眼前的關鍵問題是，用戶應如何依據這些判斷行動，尤其是當真實影片包含生成元素或一般剪輯時。

這項擴展於 11 月 4 日報道，令 Pangram 進一步涉足視覺媒體驗證。它亦令公司與 Google 的 SynthID 等方案並列；後者識別受支援的浮水印；另有 Content Credentials，則記錄媒體歷史。這些方案針對同一檔案回答不同問題。

對出版商、市場平台、創作者及企業買家而言，影響深遠的改變在於偵測於何時進入決策流程。主動檢查可疑投稿是有意識的行動；在瀏覽時遇上自動標籤，則令分類成為觀看體驗的一部分。這個轉變既提升有用警示的價值，亦加重誤導性警示的後果。

Pangram 影片偵測走進日常媒體

Pangram 的擴展將視覺偵測帶到人們接觸內容並決定是否信任它的場景。

Pangram 在其日期為 11 月 4 日的 圖像及影片發布公告中，推出 Image 1.0 及 Image Flash 1.0。公司表示，前者處理圖像偵測，而速度較快的 Flash 模型則支援影片逐格分析。它亦宣布整合瀏覽器擴充功能，以及供軟件整合使用的應用程式介面（API）。

Pangram 表示，原生上載功能讓用戶可逐格檢視影片。其熱力圖是一種標示疑似生成區域的視覺疊加層，比單一分類結果提供更多細節。公司將此功能定位為一種方法，用以在同時包含真實影像的素材中找出合成內容。

實際意義在於檢視與分發的結合。專用上載介面服務已對檔案有所疑慮的人；瀏覽器擴充功能則接觸尚未認為任何內容需要檢查的人；API 讓其他公司可將偵測嵌入既有審核流程。

這些情境帶來不同期望。調查可疑短片的人可以接受需自行解讀的詳細結果；瀏覽產品列表的人則需要即時易懂的警示；整合偵測功能的開發者需要可預測的輸出，以及清晰處理不確定結果的方法。

因此，同一項底層評估會帶來數項不同的產品責任。其措辭必須適合介面；其信心水平必須能承受摘要化呈現；當其他服務在 Pangram 自身說明以外展示結果時，其限制仍必須清晰可見。

試想一個假設情境：租盤列表包含一張真實照片，但窗外景觀是生成的。偵測到該區域可提供有用線索，但無法證明誰修改了圖片、業主是否知情，或該單位本身是否存在。

影片再增加一層複雜性。真實影片可能包含螢幕上的生成廣告或插入式背景。與該影片局部相關的標記，應引導審核者前往相關影格。若將其視為對每個可見事件的裁決，便會失去定位功能的價值。

這正是此發布不僅是新增檔案格式的原因。Pangram 正將一項評估嵌入更廣泛的可信度決策之中。評估品質固然重要，但結果與其觸發行動之間的關係亦同樣重要。

對買家而言，核心產品問題變得具體：系統是否有助審核者找出並理解可疑素材？沒有說明的標籤，其實務價值低於能指向可核查疑點的結果。

出版商與市場平台面對不同類型的壓力

這項擴展促使各機構在套用自動標籤前，先界定何種 AI 使用屬不可接受。

審核紀錄片片段的出版商，與審核產品裝飾圖像的市場平台，承擔不同責任。出版商需要了解片段是否支持某項事實主張；市場平台則需了解圖片是否失實呈現客戶將收到的產品。

即使兩個機構檢視同一檔案，這些分別仍然存在。生成背景可能違反紀錄片標準，卻仍可見於清楚披露的宣傳圖片中。偵測器的技術分類無法填補缺失的編採或商業政策。

Pangram 於 7 月 29 日發布的早前 圖像研究預覽，已說明這項困難。公司解釋，經過小幅生成式編輯的圖像可能被廣泛標記，因為現代編輯工具可重新生成圖像。它亦描述了對人類與 AI 混合圖像的測試。

這段歷史對解讀結果十分重要。標籤可反映編輯系統如何產生最終像素，但不會自動解釋有多少創作工作來自人類，或編輯對場景造成了多大實質改變。

對新聞編輯室而言，適當回應取決於正在審核的主張。公職人員臉部附近的疑似修改，應與評論專欄所附的生成插圖採取不同調查方式。對兩者套用相同發布規則，會混淆內容政策與鑑證分析。

對市場平台而言，重要界線通常涉及呈現方式。若實際產品仍獲準確展示，且披露符合平台規則，生成的生活風格場景或可接受。然而，暗示不存在損壞情況的合成圖片，則是完全不同的問題。

這些是分析例子，而非已報道的 Pangram 部署案例。它們說明，購買偵測器後，使用機構仍有大量工作要做。仍須有人界定可接受的輔助方式、決定哪些個案需要覆核，以及確定創作者可如何挑戰決定。

創作者亦面對保存創作過程證據的壓力。原始檔案、編輯歷史或原始片段，有助處理有爭議的標籤。這會為合法投稿者帶來負擔，尤其是機構引入偵測卻沒有說明其證據標準時。

因此，企業買家應在評估偵測品質之餘，同時評估審核能力。產生大量未解決標記的系統，可能將工作轉嫁給本已忙碌的員工。能將注意力導向具體而重要個案的系統，角色則更清晰。

被迫作出的回應，既屬組織層面，亦屬技術層面。出版團隊需要區分插圖與證據的規則；市場平台需要與客戶損害相關的標準。兩者都需要一套調查不確定性的方式，而非把每名被標記的投稿者都當成不誠實。

偵測與來源資訊回答不同問題

Pangram 的方法與來源資訊系統提供不同證據，因此其結果需要不同解讀。

來源資訊是指檔案已記錄的來源及歷史。偵測器則估算內容是否呈現與 AI 生成相關的特徵。核心張力在於即時分類的便利性，與重大決策所需較強情境理解之間的取捨。

Google 的 SynthID 浮水印系統會在受支援的生成內容中嵌入不可見訊號。Google 表示，其圖像及影片浮水印設計上可承受常見修改，包括裁切、濾鏡及壓縮。驗證程序會尋找該訊號。

分別很直接。浮水印檢查問的是：是否存在受支援的識別訊號。一般偵測器則評估內容本身。任何一種結果，都不應被悄然延伸為超出其底層方法所支持的更廣泛論斷。

偵測到浮水印，可提供與相容 AI 處理相關的證據。沒有浮水印，並不代表相機未經生成式修改地拍下該場景。來自不受支援生成器的內容，亦不會僅因某個浮水印系統沒有發現任何訊號就變成真實內容。

反過來說，分類器的懷疑結果亦不能識別有記錄的創作歷史。它可將注意力引向一個檔案，卻不能確立負責人、編輯軟件或改動順序。這些問題需要額外證據。

Content Credentials採取另一條路徑。C2PA 標準支援與數碼媒體相關、可偵測竄改的記錄。其說明文件明確區分驗證來源資訊，與判定底層內容是否準確或符合事實。

這項限制至關重要。一張真實照片可以配上誤導性說明；一段影片可以記錄真實事件，卻被呈現為在另一地點拍攝。確立檔案歷史，並不能解決所有圍繞該檔案提出的主張。

因此，這項比較難以得出簡單的贏家。可靠記錄可回答視覺分類器無法回答的問題；分類器可調查沒有可用記錄的素材；浮水印可提供特定訊號，卻不能解釋完整製作過程。

對審核者而言，這些訊號之間的分歧可能提供資訊。它應促使人們檢視各系統實際量度了甚麼。把分歧壓縮成平均分數，會掩蓋結果不同的原因。

設想一張包含生成海報的真實照片。相機記錄與 AI 偵測標記都可能合理。前者涉及拍攝歷史；後者涉及畫面內的內容。兩者未必互相否定。

這正是擴大偵測背後的核心取捨。便利標籤降低了察覺可疑媒體所需的成本；要負責任地解讀這些標籤，則必須保留短小標記無法完整呈現的差異。

Pangram 的機會在於，令其訊號可在這幅更廣泛的證據圖景中發揮作用。其產品毋須回答每一個真實性問題，亦能幫助審核者；但用戶必須理解其評估所針對的是哪一個問題。

基準測試結果需要從實務角度解讀

強勁的基準測試結果支持進一步評估，但部署決定仍需與被審核素材相符的證據。

Pangram 表示，Image Flash 1.0 在 DF26 上取得 98.7%。這是公司的評估主張，不應被表述為已獨立證實其在各類網上影片中均有同等表現。

獨立的 DF26 影片基準測試提供了重要背景。該研究於 9 月發表，涵蓋 271 段真實影片，以及由七個生成模型製作的 2,420 段合成影片。其素材主要聚焦於人物說話，包括直接面向鏡頭的錄影、聲明及錄影室訪問。

研究人員發現，真人參與者及他們評估的偵測器，均難以辨識合成影片。這支持了對更具能力的驗證工具的需求，也突顯偵測器的效能可多快地變得依賴測試中所涵蓋的生成方法。

基準測試界定的是特定任務。對處理說話影片的機構而言，在這類影片上取得成功具參考價值。然而，這仍留下其他情境的問題，例如螢幕錄影、產品示範、動畫，或由多個來源拼接而成的片段。

買家不應將這些類別視為可以互相替代。以合成人物說話內容為主的資料集，可能揭示另一個資料集未能察覺的弱點。單憑這類資料集，無法描述真實錄影與生成視覺元素之間的每一條界線。

Pangram 亦表示，已將可接受圖像的最低尺寸下調至 256 × 256 像素，並指出低於 512 像素的結果可信度較低。這項區分令介面如何處理小型圖像的不確定性尤其重要。

重點不只是較小的檔案包含較少細節。審核人員需要知道，未能得出結論的結果究竟反映輸入品質、陌生內容，還是證據不足。這些可能性意味著不同的後續行動。

誤報是指真實素材被錯誤標記；漏報則是指合成素材未被標記而通過。機構對這些錯誤的影響感受各異，取決於結果會否觸發調查、阻止發布，或改變客戶所見的內容。

對內部篩查隊列而言，一些不必要的覆核或許可以接受。公開指控則會帶來更嚴重的後果。可接受的取捨取決於分數所連結的行動，而非分數本身。

流入素材的組合亦很重要。若工作流程中違規內容相對較少，審核人員便需要了解有多少被標記個案最終證實相關。若沒有額外背景，一個標題式的準確率數字無法回答這項營運問題。

獨立評估亦應區分生成內容與不可接受內容。被準確偵測出的插圖仍可能獲准使用；未被偵測出的真實圖像，仍可能因其說明文字而造成誤導。技術上的正確性與政策上的正確性只會部分重疊。

最有力的買家評估，應檢視具代表性的檔案、記錄不確定個案，並記下錯誤造成的後果。這可作為判斷自動篩查在哪些環節有幫助、以及哪些環節仍必須由人員調查的基礎。

這類評估毋須否定 Pangram 所報告的進展。它要求保留技術能力證據與某項具體部署是否達成預期目的的證據之間的區別。

瀏覽器標籤令不確定性成為產品決策

將偵測功能置於瀏覽過程中，意味著不確定性的呈現方式也成為產品在實務上準確性的一部分。

結果即使附帶技術上的限定，仍可能製造不合理的印象。顯眼的警告可能掩蓋細小的免責說明。即使底層評估仍存不確定性，熱圖亦可能看起來極為精確。介面選擇會影響用戶相信系統已確立了甚麼。

這對透過視覺覆蓋層說明的 Pangram 圖像偵測尤其相關。覆蓋層應協助使用者找出疑點，同時亦應保留被標示區域需要進一步調查的可能性。

定位與解釋服務不同目的。展示模型在哪裡作出反應，未必能解釋該區域為何觸發反應。用戶可從位置資訊中受益，而毋須將其視為檔案製作方式的完整交代。

例如，螢幕截圖可能在其他尋常介面中包含一張生成圖像。局部化結果有助將該圖像與周邊素材區分開來。若把廣泛標籤套用於整張截圖，在其他地方分享時便可能失去這項區分。

當偵測器結果成為另一場討論中的證據時，同樣的問題便會出現。有人可能只擷取警告，卻沒有保留其限定條件。內部篩查結果因而可能演變成對創作者行為的公開指控。

這種可能性令措辭變得重要。「需要覆核」與「偵測到生成內容」會引導不同的行動。任何產品若要在兩者之間選擇，都應考慮其證據所能支持的結論，以及匆忙的使用者會如何理解訊息。

企業整合會帶來另一個轉譯步驟。軟件團隊可以把細緻的結果簡化為二元欄位。下游介面其後可能隱藏可信度資訊、輸入限制，或最初引起疑慮的區域。

這正是 Pangram 影片偵測成為買家管治議題的地方。整合模型比界定其輸出後果更容易規格化。實用的實施方案同時需要技術回應及可追責的覆核程序。

被標記的投稿者應有實質機會提交相關證據。審核人員需要分辨具爭議的分類與拒絕合作，否則不確定性可能成為作品受質疑者在制度上的不利因素。

紀錄保存很重要，因為判斷可能改變。團隊需要保留所評估的檔案、相關結果，以及作出最終決定的理由。脫離背景的螢幕截圖，難以取代這些脈絡。

對知識工作者而言，維護一個可搜尋的知識庫提供了有用的組織模式。當同事可找回底層證據並理解決定原因時，驗證紀錄便更具價值。

更廣泛的產品挑戰，是在不掩藏不確定性的前提下，讓它變得可用。過少解釋會助長過度自信；過多未經區分的細節則令結果難以採取行動。合適的呈現方式取決於用戶需要作出的決定。

瀏覽器檢視器、編輯器及詐騙調查員未必應使用完全相同的介面。由於其行動後果不同，他們需要不同程度的脈絡。當產品能辨識這些差異，偵測便會更有用。

發布後值得留意的事項

下一批證據應顯示擴展後的工具在公司評估以外的表現，以及客戶如何處理具爭議的結果。

第一個值得留意的訊號，是對已發布模型的獨立測試。在未來數月，採用清晰記錄的原始檔與生成檔案的評估，將加強部署的理據。測試亦應說明如何計算不確定結果。

來自陌生生成系統的證據尤其有用。若在此類情況下取得強勁結果，將支持 Pangram 能辨識可遷移特徵的論點。若效能大幅下降，則會收窄適當使用範圍，並指出需要進一步開發的地方。

獨立評估亦應納入經過實際編輯與分享流程的素材。關鍵問題是，偵測器在審核人員實際收到的檔案上是否仍具參考價值。只測試原始輸出檔，無法解決這項部署問題。

第二個訊號，是實際介面如何處理低可信度及混合內容結果。清楚區分疑似區域與對整個檔案的判斷，將有助審慎採用。含糊的徽章則會加重審核人員的負擔。

對瀏覽器擴充功能而言，應留意用戶能否理解並檢視警告的依據。對整合方案而言，應留意其他服務會否保留結果所附帶的限定條件。若下游產品剝去脈絡，細緻的評估便會失去價值。

成功覆核的例子，會比明顯合成圖像的螢幕截圖更具參考價值。一宗困難個案應展示原有疑慮、所收集的證據，以及決定如何改變。這將顯示產品是否改善判斷。

第三個訊號，是附帶有意義修正程序的客戶使用紀錄。部署公告證明產品可用及受到關注；描述覆核結果的報告則會提供更強的營運價值證據，尤其是在偵測器的初步評估受到挑戰時。

一個同時衡量不必要調查與有用發現的客戶，會比一系列宣傳示例提供更清晰的圖像。即使底層偵測模型表現良好，未解決爭議的證據仍會削弱對自動執行措施的信心。

這些訊號亦有助區分採用與依賴。團隊可以把偵測結果用作調查線索，同時保留對最終結論的責任。這與讓分數自動決定發布或存取是不同的承諾。

這次發布為買家提供了可供評估的具體產品，但並未免除他們界定希望產品改善哪項決定的責任。該項決定應決定證據標準、覆核程序及可接受的錯誤後果。

若你正在評估 Pangram 影片偵測，請先從團隊已經作出的決定開始，例如覆核提交的影片或檢查上架圖片。界定哪些證據足以支持進一步調查，以及哪些證據足以支持採取行動。擴展工作流程前，應保留原始檔案、比較訊號，並記錄分歧。要求供應商以接近你自身素材的例子解釋不確定輸出。為審核人員提供清晰途徑，以修正錯誤判斷。有用的問題是，偵測結果是否能幫助某人得出更有證據支持的決定。在把自動標籤展示給客戶或投稿者之前，先確立誰會調查、會考慮哪些證據，以及如何處理申訴。