Terence Tao 對 AI 數學的警告：更快的證明可能將理解拋在後面

Terence Tao 警告，AI 可以加快數學發展，卻可能削弱令數學發現具有價值的人類思考。Terence Tao 的 AI 數學辯論如今聚焦一項艱難的區分：得出正確答案與建立理解，是兩種不同成就。改善前者的工具，未必自然會增強後者。

Rivka Galchen 於 11 月 1 日發表在《New Yorker》的 Terence Tao 人物專訪，描述他對這道落差日益加深的憂慮。這位 UCLA 教授依然對 AI 輔助研究感興趣，但愈來愈質疑，當發現的速度超越深思熟慮時，究竟會發生甚麼事。

這場衝突將自動化解題與較緩慢的解釋、討論及訓練工作對立起來。OpenAI、Google DeepMind 及 Anthropic 都身處這個研究環境。大學、研究人員和學生則面對另一項責任：確保更好的工具同時令人們更有能力思考。

Terence Tao 的 AI 數學辯論已超越能力問題

當機器能產生更多可見的數學成果，核心問題正變成數學進步應包含甚麼。

Tao 在最新人物專訪之前已明確提出這項區分。他的文章 Mathematics in AI 在國際數學家大會公開演講後於 8 月發表，探討若 AI 系統具備研究級數學工作的能力，數學界應如何回應。

文章刻意將能力與價值分開。其核心關注是數學旨在達成甚麼，而不僅是機器能否完成數學任務。

這項區分改變了論點。關於 AI 是否終有一天能產生有用數學成果的辯論，可以將每項新結果納入相互競爭的預測。關於人們應從數學工作中獲得甚麼的辯論，則要求現在便對研究實踐作出決定。

不妨比較一下收到一個解答與發展一種方法的差別。解答確立某個特定問題的結論。方法則可幫助研究人員辨識關係、找出假設，並處理尚未有人提出的問題。

這些好處有時會一同出現，但並非必然。一個答案可以有效，卻仍令其他人難以解釋、延伸或教授。

這正是 Terence Tao 對 AI 數學警告的分析力度所在。更佳的自動化表現，並不能解決大學應如何培訓研究人員，或期刊應如何評估貢獻的問題。這些機構需要結果完成與否以外的準則。

一個有用的類比，是學生在不理解推理過程下得出正確答案。答案依然正確，但教育目標仍未完成。

研究更為複雜，因為陌生的論證可能包含需要時間才能辨識的想法。僅憑困難，無法證明某項結果缺乏價值。不過，困難同樣不能成為放棄理解它的理由。

實際的區別在於暫時的陌生感與永久依賴。陌生的證明會邀請探究；當研究人員反覆依賴自己無法充分審問的輸出時，依賴便會形成。

這項區分亦說明為何這場辯論在數學以外同樣重要。許多 AI 系統將漫長的智識過程壓縮成精緻的交付成果。由此帶來的便利，可能掩蓋了當中哪些部分對判斷而言不可或缺。

研究摘要、軟件修補程式或策略建議，都可能在接收者尚未理解背後選擇前看似完整。因此，輸出品質與使用者能力需要分開評估。

眼前的變化並不是數學失去了目的，而是自動化產出令一項舊有假設更難維持：有價值的輸出可靠地代表有價值的智識發展。

研究人員與學生承接每項成果背後的工作

當產生結果變得更容易，核查、解釋和教授結果的責任便更顯而易見。

可取得的論證增加，並不會自動增加審視它們的時間。仍然需要有人判斷一項結果說了甚麼、如何運作，以及其假設適用於何處。

對研究人員而言，這不僅是尋找明顯錯誤。理解一項證明，也包括找出其關鍵一步。哪一項元素支撐論證？哪些條件可以改變？這項結果提示下一步應研究甚麼？

對編輯而言，挑戰在於分配注意力。一份技術上複雜的投稿，可能需要大量專業知識，其重要性才會清楚。若重要步驟仍不透明，即使有精心整理的說明，也不會消除這種成本。

對指導者而言，挑戰是評估學生的發展。當工具能提供論證的大部分內容時，完成的論證對獨立判斷力所提供的證據便較少。

這些是自動化增加所帶來的分析含義，而非證明每個數學系現已面對相同情況。不同學科、機構與項目會遇上不同壓力。

共同問題是責任。AI 生成的產物，並不會免除個人或機構為其使用承擔責任的需要。

假設一名研究生使用模型，為中間結果提出一項論證。只有當學生能探究其假設，並將它連結至更大的項目時，該建議才有幫助。

若學生理解這項論證，工具便擴展了學生的能力範圍。若學生只是照單全收，不確定性便會轉移至導師、合作者或審稿人身上。

這種轉移可以保持隱蔽，因為文件本身看來已經完成。人類工作未必真的消失，而可能只是移至下游。

訓練帶來相關問題。練習的目的往往不只為取得答案，還會培養選擇表述方式、察覺矛盾，以及在方法失敗後重新調整的能力。

工具可以消除無效的挫折，也可以消除原本能教導使用者如何辨識有成效方向的經歷。

因此，相關問題很具體：哪些形式的困難能培養判斷力，哪些只是消耗時間？

沒有理由保留每一種不便。重複格式處理、例行計算，以及在不熟悉的符號中搜尋，未必都應得到與獨立推理相同的保護。

不過，機構需要一種方法區分這些活動。否則，便利會在無人明確選擇的情況下，成為預設的教育政策。

同一問題亦見於技術職場。團隊可以保留一份生成的文件，卻失去令其建議恰當的推理過程。

良好的 個人知識管理 提供了相關的對照：保留來源、決定及未解問題，會令完成的工作更容易重新檢視。

這對研究的啟示相近。當其他人能重構結果周遭的推理時，該結果便更有用。這包括被否決的方法及局限，而不只是整潔的最終呈現。

誘因落差存在於已解決問題與共享洞見之間

基準測試可以獎勵產出答案，卻不衡量研究社群是否理解它。

9 月時，Tao 與另外 24 名菲爾茲獎得主共同簽署了一份關於這種錯配的聲明。他們的 數學研究警告 指出，解題服務於更廣泛的概念理解目標。

該聲明亦承認 AI 有潛力改善數學研究。其批評針對的是技術發展與該領域目的之間的一致性。

這比數學家與機器之間的競賽更具體。分歧在於甚麼才算成功，以及誰要為後果承擔責任。

基準測試，即用來比較系統的標準化任務，需要相當清晰的評分規則。判斷系統是否解決指定問題，可能比判斷它是否提升人類理解更容易。

這造就了可理解的衡量偏好。公司需要證據證明系統已有改進；研究人員則需要證據證明某項貢獻推進了其學科。

這些目標可以重疊，也可能將注意力拉向不同類型的工作。

例如，自動化系統可能找出一項正確論證，而專家能夠解釋及重用它。這種結果同時服務能力衡量及數學發展。

另一個系統可能產生一項有效論證，但其結構仍難以解讀。其基準價值與教育價值便需要分開評估。

這兩個例子都不表示公司蓄意削弱理解。誘因可以在沒有惡意意圖下分歧。狹窄的成功衡量方式，可能引導發展走向較廣泛機構難以吸收的結果。

因此，評估 OpenAI、Google DeepMind 及 Anthropic 時，不應只看頭條成果。對評估其數學系統的讀者而言，相關問題包括取得證據的途徑、解釋品質、可重現性及人類參與程度。

本文並未建立這些公司之間的排名。不同示範可能涉及不同任務、工具、協助與評估條件。將它們視為可以互換，會掩蓋決定其意義的細節。

自主得出的結果與受高度監督的協作，回答的是不同問題。重新發現的論證與新方法亦有不同貢獻，即使兩者都產生正確答案。

業界的報告用語需要保留這些區分。否則，愈來愈廣泛的主張，可能建基於對實際工作的愈來愈壓縮描述。

學術誘因也值得審視。若機構獎勵最終輸出，卻忽略解釋，就可能複製它們在科技公司身上所批評的同一種錯配。

一個系所不能只在公開聲明中捍衛理解。其評估做法亦必須承認令困難結果變得可理解所需的工作。

這包括闡釋、獨立核查及教學。當注意力集中於誰最先公布解答時，這些活動看來可能次要。

Terence Tao 的 AI 數學辯論清楚揭示這種張力。若目標是共享的智識進步，機構便需要認可幫助他人推理的貢獻。

單靠計算完成的問題，無法涵蓋這個目標。它衡量的是輸出，卻讓周邊的智識能力大致未受檢視。

經核查的證明仍需要人們能運用的解釋

機械式正確與人類理解回答的是不同問題，而有用的研究需要將兩者連結起來。

Francesco Maggi 在 Tao 的網誌於 10 月刊出的客席文章中，描述了解讀部分由 AI 生成的數學工作所面對的困難。他的證明解讀分析討論冗長、可供機器檢查的論證，以及未夠充分的自然語言解釋。

Maggi 同時指出科學機遇，以及知識可能愈來愈脫離人類理解的風險。他的論點是對可能結果的警告，而非對無可避免衰退的量度。

證明助理即是檢查形式化邏輯論證的軟件，能提供一種寶貴的保證。它會檢查在所提供的定義與假設下，指定步驟是否足以確立某項主張。

這種保證不會自動說明該主張為何重要，也不會告訴讀者論證中哪一部分蘊含最可遷移的觀念。

試想收到一個通過指定檢查、但仍然難以維護的程式。通過那些檢查固然重要，但開發者在安全修改程式前，仍需要理解它。

這個比喻有其局限，因為數學證明與生產環境軟件服務不同目的。儘管如此，它說明了為何驗證與解釋應繼續是兩項獨立要求。

形式化論證確立一種邏輯關係。解釋則幫助人們掌握這種關係、辨認其意義，並將相關推理應用到其他地方。

這項區分在評估自主數學研究的主張時尤其重要。讀者需要問清楚，究竟哪些內容已獲檢查。

原本的數學命題是否獲忠實表述？假設是否恰當？解釋是否與已檢查的論證相符？獨立專家能否研究該結果？

這些問題並非否定形式化驗證。它們指出了理解驗證究竟確立了甚麼時，所需的周邊工作。

對過度審慎亦有一項有力反駁：人類一直依賴自己並不親身具備的專業知識。沒有研究者會獨立重建每個項目中使用的每一項結果。

這項反駁很重要。若要求普遍而完整的理解，協作科學將不可能進行。恰當的標準不可能是每位讀者都理解每一項技術細節。

較實際的標準，是可追責地取得理解。相關專家應能檢視論證、說明其依賴關係，並質疑其詮釋。

所需承擔會有所不同。一項常規的輔助計算，不需要與足以改變整個研究計劃方向的主張同等程度的審查。

陌生感也不應成為否決理由。一項困難的 AI 輔助證明，最終可能揭示人類忽略了的方法。若只因它最初顯得陌生便拒絕，便會犧牲潛在洞見。

因此，懷疑立場需要有界限。沒有理由據此斷定 AI 必然摧毀數學思維，或自動化證明缺乏智識價值。

同樣地，也沒有理由假設更多自動化產出必然會強化這個領域。結果取決於人們能否詮釋、吸收並以系統產出為基礎繼續建構。

最站得住腳的憂慮在於失衡。產出能力的提升，可能快過把結果轉化為共同理解所需的制度與實踐。

Tao 的另一種方案讓人類留在研究過程之中

建設性的回應，是圍繞人類參與、解釋與智識獨立來設計 AI 輔助數學。

Tao 在 10 月發表的Math 2.0 願景描繪了一個未來：AI 支援數學社群，以及數學理解本身的角色。

他的框架批評過度強調以自動化方式解決開放問題，並將注意力引向令數學工作持續有用的更廣泛條件。

這為實驗留下充足空間。提出例子的助理可協助研究者探索一項想法；比較論證的系統可揭示隱藏假設；解釋陌生符號的工具則可降低入門門檻。

這些是示例用途，並非聲稱任何特定產品都能可靠地做到這些事。每一項都需要在實際研究任務中接受評估。

它們的共同特徵是，人類仍參與推理。工具創造可供研究的機會，而非只提供某些內容讓人接受。

有用的研究介面或可讓不確定性更易於檢視。它可區分檢索得來的材料與生成建議，並顯示哪些步驟需要獨立檢查。

另一種設計可保留中間嘗試。失敗的做法能揭示為何某項看似自然的策略行不通。把它們從紀錄中移除，反而可能令結果更難理解。

這些功能不能保證研究質素，但可令知情參與更容易，亦在使用者與底層證據之間設下更少障礙。

這亦解釋了為何保留認知投入不應成為替不便辯護的萬用理由。研究者需要能移除可避免障礙的工具。

重要分別在於投入的目的。手動搜尋重複材料，可能消耗注意力卻不會深化理解；在互相競爭的解釋之間作選擇，則可培養判斷力。

好的助理應幫助使用者在前者花更少時間，同時保留處理後者的能力。

大學可把同一原則應用於評核。一份潤飾完善的提交作業，應附帶讓學生解釋選擇、檢視變體及回應質疑的機會。

相比嘗試從文風推斷理解程度，這些做法更直接評估理解。即使沒有使用 AI，它們同樣有用。

研究團隊亦可區分協助與問責。工具可以為論證作出貢獻，同時由人負責準確說明其角色與局限。

這種做法需要的不只是披露標籤。說明使用過 AI，並不能解釋推理中哪些部分來自它，或那些部分如何被審視。

相關紀錄應支援有意義的後續跟進。協作者應能詢問某項假設為何出現、主張源於何處，以及哪些問題仍未解決。

對知識工作者而言，這是 Tao 論點中最可遷移的部分。保留智識控制權，需要能接觸交付成果背後的路徑。

完成的文件可以節省時間。可復原的推理過程，則可保留判斷該文件是否值得信賴的能力。

留意新結果能否成為他人可延伸的知識

下一批值得留意的訊號，關乎獨立理解、透明證據，以及研究評估的轉變。

未來幾個月，第一個要留意的訊號，是對重要 AI 輔助結果的獨立解釋。關鍵發展是由原始團隊以外的專家提供可用的說明。

解釋應釐清核心觀念、指出重要假設，並展示論證如何連接既有工作。認同某項結果看來正確固然有價值，但那只回答了一個較狹窄的問題。

若獨立研究者能簡化或延伸論證，便更能證明自動化產出可推動共同發現。若詮釋始終依賴其原創者，Tao 的憂慮便更有分量。

第二個訊號，是新示範所附帶的證據。留意開發者和研究者是否提供足夠材料，讓人區分模型貢獻、人類引導與其後修補。

有用的披露應令研究過程更易檢視。一份看似完整的最終證明，無法揭示需要多少次介入，或哪些決定需要專家判斷。

更高透明度會令系統之間的比較更具資訊價值。證據稀少，則會令讀者無法區分令人印象深刻的成品與可重複的研究能力。

第三個訊號，是制度層面的行動。留意期刊期望、研究生評核，以及對解釋性工作的認可是否出現具體改變。

要求作者釐清假設並支持獨立審視的政策，會比泛泛的 AI 標籤更直接處理根本問題。

同樣地，評估學生能否為論證辯護和作出調整的訓練，會聚焦於能力。單純計算完成作業的數量，所提供的訊號較弱。

這些觀察不會就 AI 是否有利於數學得出簡單結論。它們會揭示哪些安排有助人們把自動化貢獻轉化為持久的智識進步。

這項區分亦讓讀者有更好的方式評估戲劇化的公告。問問產出了甚麼、檢查了甚麼、誰理解它，以及其他人現在能做甚麼。

這些問題既保留了熱情的空間，又不會把宣傳當作驗證；同時亦保留批評的空間，而不假設陌生方法毫無價值。

Terence Tao 對 AI 數學的警告，最有用之處在於它要求更好的標準。產出愈快，便愈需要知道這些產出究竟有何貢獻。

從你遇到的下一項 AI 生成結果開始，無論那是證明、分析還是技術建議。在依賴潤飾好的解釋前，先檢視來源材料。找出假設，並問問甚麼會改變你的詮釋。把未解決問題保留在完成的成品旁邊，讓日後讀者看見判斷在哪些地方仍然必要。若情況許可，以自己的話解釋核心推理，並以相近案例測試它。你不必重現每項專門細節，但需要對結果為何值得你信賴提出站得住腳的說明。以這個標準判斷哪些 AI 貢獻能助你繼續思考，哪些仍需要更多工作。