AlphaGo
為什麼重要
深度解析
圍棋看似簡單:兩名棋手輪流將黑白棋子落在 19×19 的棋盤上,爭奪圍出的地盤。但一盤棋可能出現的盤面數量約為 10^170——比可觀測宇宙中的原子還多——因此窮舉搜尋毫無希望。1997 年,IBM 的 Deep Blue 擊敗西洋棋冠軍 Garry Kasparov,主要仰賴暴力運算,每秒評估約 2 億個局面。專家原以為圍棋至少還能再守住十年,因為高水準棋藝似乎需要近似人類直覺的能力:辨識模式、判斷哪些局面值得期待,以及感受棋子的長期影響力。AlphaGo 的突破,在於透過深度卷積網路從資料中學出這種直覺,再搭配恰到好處的引導式搜尋,取得決定性效果。
兩個網路和一棵搜尋樹
AlphaGo 的架構有三個主要環節。策略網路是一個深層 CNN,接收棋盤局面後,為值得考慮的下一手輸出機率分布;價值網路則為局面評分,估算最終哪一方會獲勝。每次落子時,系統都會執行蒙地卡羅樹搜尋:它模擬數千盤未完成棋局,讓策略網路決定哪些棋步值得探索,再由價值網路評估所得局面,不必一路下到終局。訓練分階段進行——先用線上圍棋平台上約 3,000 萬個人類棋局局面進行Supervised Learning(監督式學習),學習預測專家落子,準確率約為 57%;再進行強化學習,讓網路與自身的早期版本對弈數百萬盤,唯一的獎勵訊號就是獲勝。學習式評估與引導式搜尋的結合才是核心;神經網絡剪除了暴力運算根本無法觸及的搜尋空間。
第 37 手與改變一切的比賽
AlphaGo 首次登上新聞頭條是在 2016 年初,當時 DeepMind 公布,它已在前一年 10 月以 5–0 擊敗時任歐洲冠軍樊麾——這是電腦程式第一次在無讓子的標準棋盤上戰勝職業棋士。同年 3 月與李世石的比賽才是真正考驗:李世石擁有 18 座世界冠軍頭銜,是一位傳奇棋士,絕大多數旁觀者都認為他會輕鬆取勝。結果 AlphaGo 連贏前三局,並以 4–1 拿下整場比賽。第二局出現著名的第 37 手:在第五線肩衝,講評起初以為那是失誤;AlphaGo 自己的策略網路估計,人類下出這一手的機率約為萬分之一,它卻成為決定勝負的一手,如今被當成真正的新構想研究——而人類已鑽研圍棋數千年。李世石在第四局以同樣精彩的「挖」回應,也就是著名的第 78 手,贏得頂尖人類對 AlphaGo 最終版本的唯一一局。2017 年,程式又以 3–0 擊敗世界第一柯潔,隨後退出競技賽場。
它不是靠蠻力贏的
一個常見誤解是,AlphaGo 就像 Deep Blue 壓倒 Kasparov 一樣,靠著比李世石計算更多局面取勝。事實反而更接近相反:Deep Blue 每秒檢查約 2 億個局面,AlphaGo 卻只評估數千個——少了數個數量級。圍棋的分支係數極大,典型局面約有 250 種合法落子,西洋棋則只有約 35 種,因此暴力列舉根本走不遠;AlphaGo 真正加入的是學習而來的判斷力,知道哪幾手棋值得仔細研究,也知道哪些局面確實占優。從這個角度來看,它不像一部西洋棋計算器,更像一位記憶完美、經驗極深的棋士。不過,也不能忽略其界線:AlphaGo 對圍棋的一切理解都封存在深度學習網路裡,一旦離開棋盤,它便什麼也做不了。
從 AlphaGo Zero 到 MuZero
2017 年,DeepMind 發表 AlphaGo Zero,完全移除人類知識:它從隨機落子開始,只知道遊戲規則,完全依靠自我對弈訓練;約三天後,它便超越擊敗李世石的版本,並以 100–0 橫掃對方;40 天後,它已比先前所有版本都更強。AlphaZero 隨後將同一套演算法套用至西洋棋與將棋,只經數小時自我對弈,便在兩項遊戲中達到超越人類的水準,並在一場廣受討論的對局中擊敗頂尖傳統引擎 Stockfish。MuZero 將這個構想推到最遠:系統甚至不會取得規則,而是自行學習一套描述環境如何回應行動的內部模型——一個學習而成的世界模型——它不僅在圍棋、西洋棋與將棋上追平 AlphaZero,還掌握 Atari 遊戲。這條傳承之所以重要,是因為每一步都移除一層對人類範例的依賴,證明搜尋加上自我改善,可以從零建立專業能力。
它留給現代 AI 的遺產
AlphaGo 的影響遠遠超越它退出競賽之後。那場比賽在 Google 自訂的 TPU 硬體上執行,賽後更點燃現代 AI 浪潮——韓國在幾週內宣布國家 AI 戰略,全球對深度學習的投資也隨之激增。DeepMind 又將類似的學習驅動方法帶進科學,打造出幾乎解決蛋白質結構預測的 AlphaFold。在語言 AI 領域,它的影響隨處可見:RLHF 及其變體,本質上都是由獎勵訊號驅動的強化學習;現代推理模型,又將強化學習與推論階段近似搜尋的探索結合——這正是 AlphaGo 配方的直系後代:讓系統練習、評估自身嘗試,再保留真正有效的做法。