Declaration — Math and AI:守護數學核心價值,促進 AI 與人類共創

LLM 數學能力突飛猛進,但以解題為唯一評估指標正傷害數學社群。本文翻譯 Math and AI 宣言:要求 AI 證明可驗證、可理解、正確歸屬,並以人類解說與教育將其轉化為真正的數學進步。

本文為 Declaration — Math and AI 之繁體中文翻譯整理,原文版權歸原作者所有。

過去幾個月,大型語言模型(LLM)的數學能力突飛猛進,已經能夠解決許多數學領域中的重大未解問題。然而,AI 公司把解決數學問題當作評估基準的做法,正對數學這門科學及數學社群造成傷害。但 AI 公司追求的目標,和數學社群的目標嚴重脫節。我們認為,這是更廣泛的對齊問題的一部分;這些問題不僅影響其他科學與創意專業,也影響整個社會。

數學研究探討如何理解形狀、數字與自然現象的基本結構。歷經世代累積,它建立了龐大而精深的思想、方法、抽象概念及其他工具體系,用以理解數學的整體圖景。反過來說,現代科技與科學也奠基於數學工具之上。

著名問題往往如同地標與燈塔,讓人們得以衡量我們對這片數學疆域理解的進展。解決其中一個問題,向來代表著新洞見與有趣方法的出現;之後,數學家社群會透過漫長而艱辛的演講、討論與化簡過程加以研究。理想情況下,這個過程最終會產生教科書式的成果呈現,使任何研究生,甚至大學生都能學習。某些數學思想還會繼續它們的旅程,在數十年或數百年後,成為全人類都能理解並使用的工具。

數學社群在許多方面就像人類社會的縮影。它由採取各種不同方法、但共享核心價值的個人所組成。我們這個專業最珍貴的資源,是學生與思想;我們以極大的用心培育兩者。我們深感有責任讓他們充分成長,直到能在數學世界中擁有自己的生命。對學生而言,我們經常提出問題,核心目的在於培養他們的能力,使其能為研究及其他領域的進展做好準備。對思想而言,我們透過演講、私下討論及審慎撰寫的文章加以傳播,並將它們與前人的思想連結起來。這些過程無一例外都需要時間,也都建立在人與人的互動之上。

近幾個月來,AI 成功解決重大數學問題的消息,甚至登上了數學圈以外的新聞頭條。然而,解題只是實現首要目標——概念理解與洞見——的一種工具和代理指標。在 AI 的世界中遺忘這一點,可能會使工具反過來傷害首要目標。事實上,以愈來愈快的速度大量生產「真/假」陳述,可能摧毀孕育思想的沃土,而不是為新思想注入生命。

這些解答經常被倉促公布,沒有留下足夠時間撰寫完善的論述、提煉新的方法與思想,或引用他人先前的相關工作。與所有創意專業一樣,這也引發嚴重的成果歸屬與抄襲問題。此外,如果沒有願意照料這些思想、協助其發展並融入數學典範的數學家,由 AI 構思的思想將永遠無法真正獲得生命,而數學家之間至關重要的人類知識傳承鏈也將中斷。

我們正在目睹一種對智識工作的普遍威脅:AI 的實際使用結果,和它最初的目的出現了錯位。在許多領域與活動中,多年的訓練傳統上不只是為了產出最終答案或產品,也是為了培養理解力,以及提出新問題與新思想的能力。然而,AI 系統建立在龐大的既有人類成果之上,愈來愈能直接產出這類工作的結果,於是這些目標便不再一致。數學社群目前面臨的問題,與其他科學及創意專業所面臨的問題相似,也預示了全人類可能遭遇的困境:當 AI 改變工作的進行方式時,我們要如何確保,自己不會忘記這些工作起初真正追求的是什麼?

AI 有潛力增進並加速真正的數學研究與理解。數學這門專業必須以多種方式適應這些變化。然而,這些變化最終究竟會造福這個領域,還是帶來破壞性的影響,很大程度上,取決於掌控這項新技術的人類怎麼做決定。

數學社群、開發這些技術的公司,以及更廣泛的社會,都必須立即處理這些問題;因為社會也將在許多其他形式的智識工作中,面對類似的挑戰。

Artur Avila(2014 年菲爾茲獎)

Manjul Bhargava(2014 年菲爾茲獎)

Caucher Birkar(2018 年菲爾茲獎)

Pierre Deligne(1978 年菲爾茲獎)

Yu Deng(2026 年菲爾茲獎)

Simon Donaldson(1986 年菲爾茲獎)

Hugo Duminil-Copin(2022 年菲爾茲獎)

Alessio Figalli(2018 年菲爾茲獎)

Martin Hairer(2014 年菲爾茲獎)

June Huh(2022 年菲爾茲獎)

Maxim Kontsevich(1998 年菲爾茲獎)

Elon Lindenstrauss(2010 年菲爾茲獎)

Pierre-Louis Lions(1994 年菲爾茲獎)

James Maynard(2022 年菲爾茲獎)

Curtis McMullen(1998 年菲爾茲獎)

Shigefumi Mori(1990 年菲爾茲獎)

Ngô Bảo Châu(2010 年菲爾茲獎)

Andrei Okounkov(2006 年菲爾茲獎)

Peter Scholze(2018 年菲爾茲獎)

Stanislav Smirnov(2010 年菲爾茲獎)

Terence Tao(2006 年菲爾茲獎)

Maryna Viazovska(2022 年菲爾茲獎)

Cédric Villani(2010 年菲爾茲獎)

Wendelin Werner(2006 年菲爾茲獎)

Efim Zelmanov(1994 年菲爾茲獎)

Hacker News 網友討論整理

討論串:A misalignment of AI in mathematics

以下整理討論串中的主要論點與分歧。留言數仍持續增加,因此這是代表性觀點的歸納,而非完整統計或一致共識。

核心爭點:數學進步究竟是「得到答案」還是「增進理解」?

  • 支持宣言者認為,解出問題只是手段;真正重要的是理解為何成立、提煉可重用的方法、建立概念之間的連結,並把成果傳授給下一代。
  • 較樂觀的留言則主張,即使 AI 先產生龐大或難懂的證明,人類仍可在之後進行解說、化簡、推廣與延伸研究;AI 的成果未必會消滅數學社群,反而可能創造新的研究材料。
  • 雙方真正的分歧,在於「機器已證明某命題」是否足以構成數學進步,還是必須同時提升人類可掌握的理解,才算完整的進展。

支持宣言的主要觀點

  • 宣言不是反對使用 AI:多位留言者指出,連署者(包括積極使用 AI 的數學家)反對的不是工具本身,而是把掃蕩未解問題、製造宣傳紀錄當成首要目標。
  • 驗證正確不等於理解:即使證明通過 Lean 等形式驗證系統,也只能確保形式上的正確性;它不會自動告訴人們哪些想法重要、為何方法有效,或如何將其融入既有知識。
  • 「證明垃圾」會把成本轉嫁給社群:大量難以閱讀、缺少脈絡的 AI 證明,可能迫使數學家耗費大量時間審核與重寫。有人以望月新一的 abc 猜想證明爭議為例,指出難懂成果帶來的社群活動未必具有生產力,也可能只是大量浪費的查核工作。
  • 教育與人才培養可能受損:解題過程讓學生形成直覺、判斷難度並學會提出新問題。若答案可立即取得,學生投入長期訓練的動機,以及培養研究能力的路徑,都可能弱化。
  • 成果歸屬與研究規範尚未成熟:AI 生成的新方法應如何引用、誰能署名、發表者需要理解到何種程度,以及如何避免模型重組既有成果卻未正確歸功,都是尚待建立規範的問題。
  • 問題也在 AI 公司的誘因:部分留言強調,企業追求基準成績、媒體曝光與產品競爭,未必會承擔同行審查、長期教育和知識保存的成本;算力與模型存取權集中,也可能改變研究議程與資源分配。

較樂觀或反對宣言的主要觀點

  • 數學社群可能比想像中更有韌性:即使 AI 帶來大量原始證明,數學家仍可舉辦研討會、撰寫解說文章、找出一般化方向,並把新結果拆成適合學生研究的問題。
  • 形式驗證可大幅降低信任問題:若 AI 產生的是可檢查、可重現的機器驗證證明,社群不必單純相信模型;人類的工作可轉向理解、濃縮與發現意義。
  • 棋類引擎提供較正面的類比:西洋棋與圍棋引擎超越人類後,人類仍從機器策略中學到新觀念,相關競賽與觀賞文化也沒有消失。支持此類比者認為,數學也可能發展出人機協作的新文化。
  • 應用價值不必等待人類完全理解:若 AI 找到更快的演算法、形式化安全證明或可直接應用的數學結果,工程與科技仍可能受益,不必先等到整個數學社群完全吸收。
  • 數學家的角色可能轉型而非消失:未來價值可能更多集中在選擇值得研究的問題、判斷成果是否有趣、建立概念架構、解說、教學,以及把機器產生的結果連接到真實需求。

討論中的其他分歧

  • 「misalignment」一詞的含義:有人把它理解成 AI 安全領域中的技術性「對齊」,因而認為用詞誤導;其他人則認為宣言已清楚指出,錯位的,是 AI 公司和數學社群的目標並不一致,並不是說 AI 本身蓄意傷害數學。
  • 數學能否類比棋類:支持者看到的是人類可向超人類系統學習;反對者則強調,數學不是競技遊戲,它同時是基礎科學、教育體系與技術基礎,外部影響遠大於勝負。
  • 人類是否必須留在理解迴路中:一方認為應用只在乎結果是否正確有效;另一方擔心,若沒有能理解與追問的人類社群,未來將失去辨認重要問題、發現錯誤及培養新研究者的能力。

可歸納出的最低共識

  • AI 將成為數學研究的重要工具,單純禁止或拒絕並不實際。
  • AI 產生的成果應可驗證、可重現,並附有清楚的來源與歸屬說明。
  • 形式正確的證明仍需要解說、脈絡化和教育轉譯,才能真正進入數學知識體系。
  • 研究社群需要及早制定發表、署名、引用、審查與 AI 使用揭露的規範。
  • 最值得討論的並非「AI 能不能解題」,而是要用什麼制度與誘因,讓 AI 的解題能力同時服務人類理解、教育與長期知識累積。

整體觀察

這場討論表面上像是「支持 AI」與「反對 AI」的衝突,實際上更深的爭論是:我們應該把數學視為可量化的答案生產,還是由解題、理解、溝通、教育與共同體傳承所構成的人類知識實踐?較可行的方向可能不是拒絕 AI,而是要求機器產生的成果同時具備可驗證性、可理解性、適當歸屬與可被社群吸收的表達方式。

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *