系列AI for science第 1 篇
從 DENDRAL 到 AlphaFold:讓 AI 進入科學的,是評估制度
2024 年 10 月,諾貝爾物理獎與化學獎在兩天之內都頒給了機器學習。把這件事讀成「AI 終於夠強了」會錯過重點:AlphaFold 之所以被科學界接受,關鍵不在模型架構,而在 CASP——一個從 1994 年開始、把答案藏起來的盲測制度。這篇回顧 AI for science 六十年的四個階段,以及每個階段真正的瓶頸在哪。
2024 年 10 月 8 日,諾貝爾物理獎頒給 John Hopfield 與 Geoffrey Hinton。隔天 10 月 9 日,化學獎的一半頒給 David Baker,另一半由 Demis Hassabis 與 John Jumper 共得11。
兩天之內,兩座獎都落在機器學習上。
把這件事讀成「AI 終於夠強了」,會錯過真正發生的事。獎不是頒給一個模型,是頒給一個被解決的問題——蛋白質摺疊,一個自 Anfinsen 提出「序列決定結構」以來就寫在教科書上的問題1。而讓這個解答被科學界接受的,不是網路架構,是一套從 1994 年就開始運作、把答案藏起來的評估制度。
這篇往回走一遍那六十年。
1965:把專家的腦袋寫成規則
AI 進入科學的第一次認真嘗試是 DENDRAL,1965 年開始於史丹佛,由遺傳學家 Joshua Lederberg 與電腦科學家 Edward Feigenbaum 合作。任務很具體:給一段質譜資料,推斷出化合物的分子結構2。
它的做法是把有機化學家判斷結構的經驗一條一條寫成規則,再用一個能窮舉合法結構的演算法產生候選,用規則去砍。它成功了——在窄的化合物類別上,它的推論確實能用,而且它催生了「專家系統」這個詞。
它的極限也很清楚:規則要人寫,而寫得完的領域太小。每擴張一個化學家族,就要再請一位化學家坐下來,把他的直覺講成句子。這個瓶頸不是算力,是知識取得。
1994:一個把答案藏起來的比賽
第二階段的關鍵事件不是任何一個模型。
1994 年,Moult 等人辦了第一屆 CASP(Critical Assessment of Structure Prediction)。規則是:主辦方蒐集一批已經解出結構、但結構尚未公開的蛋白質,只公布序列;各家在期限內交出預測;截止後才對答案3。
這個設計解決的是當時瀰漫整個領域的問題——每個團隊都宣稱自己的方法有效,而每個團隊都是在自己挑的例子上測的。CASP 把「你說你行」換成「你在你沒看過的題目上行不行」,兩年一屆,公開排名。
一個領域能不能被 AI 推進,先看它有沒有辦法在事前把答案藏起來。
從 1990 年代到 2010 年代初,序列比對、隱馬可夫模型、共演化分析在 CASP 上逐屆爬升,但沒有一屆逼近實驗精度。這段期間真正累積下來的資產有兩樣:蛋白質資料庫(PDB)裡數以萬計的實驗結構,以及一套沒有人能作弊的計分方式。
2012 之後:表徵學習接手
2012 年 AlexNet 在 ImageNet 上的結果,推翻了「特徵要人設計」這個假設4。這件事對科學領域的意義不在影像辨識,而在於:過去必須由專家寫成規則的那一層,現在可以從資料裡學出來。 DENDRAL 撞到的那道牆,將近五十年後從另一邊被拆掉。
DeepMind 的第一版 AlphaFold 在 2018 年 CASP13 拿下第一,做法是用深度網路預測氨基酸對之間的距離分佈,再用梯度下降找符合這些距離的結構5。它比對手好,但還不到實驗精度。
2021:AlphaFold2,以及它為什麼被相信
AlphaFold2 在 2020 年的 CASP14 上,用作者自己的說法,是第一個即使在沒有相似結構可循的情況下,也能穩定達到原子級精度的計算方法——在多數案例上與實驗結構相當,並大幅領先所有其他參賽方法6。方法上,它把多序列比對與結構表示放進同一個可微分的架構端對端訓練,並輸出每個殘基的可信度估計。
值得停下來看的是那個可信度估計(pLDDT)。它讓使用者知道模型在哪一段有把握、哪一段沒有——換句話說,模型交出的不只是答案,還有一張自己標註的可疑清單。
但真正讓結構生物學界在幾個月內改變工作方式的,是 CASP14 這個場合本身。同樣的分數如果來自 DeepMind 自己挑的測試集,它會是一篇論文;來自 CASP,它是一個結論。
其後 AlphaFold 蛋白質結構資料庫把預測結果公開,涵蓋超過兩億一千四百萬條序列7;AlphaFold 3 再把預測範圍從單一蛋白質擴到蛋白質與核酸、小分子、離子形成的複合物10。
Baker 的那一半:從預測轉向設計
化學獎的另一半是另一條線。
David Baker 的實驗室自 1990 年代起發展 Rosetta,做的是能量函數與構形搜尋。2003 年他們發表 Top7——一個自然界不存在、由計算設計、而且實際做出來後 X 光結構與設計圖吻合的蛋白質8。那是方向的翻轉:不是猜自然界已有的結構,是造自然界沒有的。
2023 年的 RFdiffusion 把擴散模型接上這條線,可以在給定約束(要結合什麼、要有什麼對稱性)下生成骨架,再回頭設計序列,並附上實驗驗證9。
所以 2024 年化學獎的兩半,是同一個映射的兩個方向:讀懂序列到結構,和反過來用它。
2024:獎頒給了什麼
諾貝爾獎不頒給工具。化學獎的表彰理由分別寫的是「計算蛋白質設計」與「蛋白質結構預測」11——是問題狀態的改變,不是方法本身。
被表彰的兩項工作滿足同一組條件:
| 條件 | 蛋白質結構這一題的答案 |
|---|---|
| 大量、標準化、可信的既有資料 | PDB 累積數十年的實驗結構 |
| 一個事前藏起答案的評估制度 | CASP,兩年一屆,1994 年起 |
| 一條獨立於模型的驗證路徑 | X 光繞射、冷凍電鏡、實際把蛋白質做出來 |
第三項最常被忽略。RFdiffusion 的設計不是「模型說它會摺成這樣」就算數,是做出來、量出來才算數。
同一套條件,換到別的領域
這組條件解釋了為什麼有些領域跟進得很快。
材料:GNoME 用大規模訓練的圖網路搜尋無機晶體,報告了 220 萬個位於當前 convex hull 以下的結構;而且——正好對上第三個條件——其中已有 736 個穩定結構被獨立的實驗做出來12。氣候:GraphCast 用圖神經網路做中期全球天氣預報,在 1,380 項驗證指標的九成上勝過當時最準確的業務用確定性系統13。兩者都有龐大的既有資料與現成的評估慣例——天氣尤其乾淨,因為明天會自己揭曉答案。
更廣的盤點可以看 Wang 等人在 Nature 上的回顧16,它把這波方法整理成資料表示、假設生成與實驗設計三條線。
沒有被獎項照到的地方
同樣的方法,在缺少上述條件的領域,會產生看起來一樣漂亮、但沒有人查得動的結果。
Kapoor 與 Narayanan 檢視機器學習被引入科學研究後的再現性問題,跨 17 個領域整理出 329 篇受資料洩漏(data leakage)影響的論文——訓練集與測試集之間的資訊滲透,讓報告出來的效能高於真實效能14。這類錯誤的共同點是:它不會讓程式當掉,它只會讓數字變好看。
材料領域也有具體的反例。Leeman 等人重新檢視高通量無機材料預測與自主合成的宣稱,指出其中相當比例的「新材料」在仔細比對後屬於既有相,或結構判定不足以支撐該宣稱15。
這兩件事跟 AlphaFold 的差別不在模型好壞,在於有沒有一個獨立於模型的東西可以把答案駁回。CASP 可以,X 光可以,明天的天氣可以。一篇在自己切分的資料集上報告 AUC 的論文,沒有。
這篇的界線
回顧不是評價。上面每個階段都只選了具代表性的工作,省略了大量平行的貢獻——共演化分析的整條脈絡、Rosetta 以外的設計方法、CASP 之外的評估活動(CAMEO、CAPRI)都沒有展開。引用列表是入口,不是全景。
另外,本文出現的每一個數字都來自被引文獻本身,而下面每一筆文獻都對照過該 DOI 的登錄資料。沒有一個數字是我們自己測的。核對過程中砍掉了兩個流傳很廣的數字——一個 CASP14 的中位分數、一個穩定材料的計數——因為它們無法回溯到這裡引用的論文。如果你看過帶著那兩個數字講的版本,這點值得知道。
接下來
下一篇進入文獻本身:當一個題目沒有 CASP,你要怎麼從兩百篇論文裡建出一張自己敢拿去做統計的表——每個欄位的出處、抽取的失敗模式,以及哪一種錯誤是程式抓得到的、哪一種只能靠人讀。
參考文獻
- [1]Anfinsen, C. B. (1973). Principles that govern the folding of protein chains. Science 181(4096), 223–230. doi:10.1126/science.181.4096.223
- [2]Lindsay, R. K., Buchanan, B. G., Feigenbaum, E. A. & Lederberg, J. (1993). DENDRAL: a case study of the first expert system for scientific hypothesis formation. Artificial Intelligence 61(2), 209–261. doi:10.1016/0004-3702(93)90068-M
- [3]Moult, J., Pedersen, J. T., Judson, R. & Fidelis, K. (1995). A large-scale experiment to assess protein structure prediction methods. Proteins: Structure, Function, and Bioinformatics 23(3). doi:10.1002/prot.340230303
- [4]Krizhevsky, A., Sutskever, I. & Hinton, G. E. (2017). ImageNet classification with deep convolutional neural networks. Communications of the ACM 60(6), 84–90. doi:10.1145/3065386
- [5]Senior, A. W., Evans, R., Jumper, J. et al. (2020). Improved protein structure prediction using potentials from deep learning. Nature 577, 706–710. doi:10.1038/s41586-019-1923-7
- [6]Jumper, J., Evans, R., Pritzel, A. et al. (2021). Highly accurate protein structure prediction with AlphaFold. Nature 596, 583–589. doi:10.1038/s41586-021-03819-2
- [7]Varadi, M., Bertoni, D., Magana, P. et al. (2024). AlphaFold Protein Structure Database in 2024: providing structure coverage for over 214 million protein sequences. Nucleic Acids Research 52(D1), D368–D375. doi:10.1093/nar/gkad1011
- [8]Kuhlman, B., Dantas, G., Ireton, G. C. et al. (2003). Design of a novel globular protein fold with atomic-level accuracy. Science 302(5649), 1364–1368. doi:10.1126/science.1089427
- [9]Watson, J. L., Juergens, D., Bennett, N. R. et al. (2023). De novo design of protein structure and function with RFdiffusion. Nature 620, 1089–1100. doi:10.1038/s41586-023-06415-8
- [10]Abramson, J., Adler, J., Dunger, J. et al. (2024). Accurate structure prediction of biomolecular interactions with AlphaFold 3. Nature 630, 493–500. doi:10.1038/s41586-024-07487-w
- [11]The Royal Swedish Academy of Sciences (2024). The Nobel Prize in Chemistry 2024 — press release. Nobel Prize Outreach. https://www.nobelprize.org/prizes/chemistry/2024/press-release/
- [12]Merchant, A., Batzner, S., Schoenholz, S. S. et al. (2023). Scaling deep learning for materials discovery. Nature 624, 80–85. doi:10.1038/s41586-023-06735-9
- [13]Lam, R., Sanchez-Gonzalez, A., Willson, M. et al. (2023). Learning skillful medium-range global weather forecasting. Science 382(6677), 1416–1421. doi:10.1126/science.adi2336
- [14]Kapoor, S. & Narayanan, A. (2023). Leakage and the reproducibility crisis in machine-learning-based science. Patterns 4(9), 100804. doi:10.1016/j.patter.2023.100804
- [15]Leeman, J., Liu, Y., Stiles, J. et al. (2024). Challenges in high-throughput inorganic materials prediction and autonomous synthesis. PRX Energy 3(1), 011002. doi:10.1103/PRXEnergy.3.011002
- [16]Wang, H., Fu, T., Du, Y. et al. (2023). Scientific discovery in the age of artificial intelligence. Nature 620, 47–60. doi:10.1038/s41586-023-06221-2