Safe Superintelligence
為什麼重要
深度解析
Safe Superintelligence 於 2024 年 6 月宣布成立，距 Ilya Sutskever 離開 OpenAI 僅一個多月——他曾是 OpenAI 共同創辦人兼首席科學家，也是深度學習時代最具影響力的研究人員之一。創立聲明本質上只有一句話：一項目標、一款產品——安全的超級智慧，安全與能力同步推進。其他一切——不推出產品、沒有營收計畫、不公開研究——都源自這句話。公司在 Palo Alto 與 Tel Aviv 設立辦公室，數月內募得約 10 億美元；據報導，2025 年估值約達 320 億美元，而這一切都是在未發佈任何模型、未發表任何論文，也未公開說明技術路線的情況下達成。與 Sutskever 共同創辦公司的，還有 Daniel Gross（曾領導 Apple 的 AI 工作，並擔任 Y Combinator 合夥人）及前 OpenAI 研究員 Daniel Levy。
從 OpenAI 到一張白紙
Sutskever 通往 SSI 的道路，幾乎串起現代 AI 的所有里程碑。他共同撰寫的 AlexNet 論文在 2012 年掀起深度學習浪潮，2015 年又共同創辦 OpenAI，並以首席科學家身分主導通往 GPT 系列與 ChatGPT 的研究發展。他也是 OpenAI 2023 年 11 月董事會危機的核心人物：最初投票罷免 CEO Sam Altman，數天後又改變立場。那場風波後，他共同領導 OpenAI 的超級對齊團隊，受命研究如何控制比人類更聰明的系統；但該團隊於 2024 年 5 月解散，他與共同負責人 Jan Leike 也雙雙離職。數週後 SSI 成立，這個時機使弦外之音難以忽視：這間實驗室很大程度上是在押注——對齊工作，無法在一家急著將自己試圖控制之技術商業化的公司內妥善完成。
直達目標策略
多數前沿實驗室仰賴推出產品來支付運算費用——聊天機器人、API、企業合約——而每次推出產品，都會將研究人員拉向截止日期、與發佈時程綁定的安全審查，以及功能競賽。SSI 宣示的模式移除這一切：在那款唯一產品完成前，不做任何其他產品；創辦人認為，這能消除侵蝕安全工作的商業壓力。投資人以驚人的條件接受這套做法——據報導，2024 年約 10 億美元的首輪募資，對應接近 50 億美元的估值；2025 年的募資報導更將數字提高至約 320 億美元，而依多數說法，這間實驗室只有數十名員工，營收為零。這項押注的本質是：Sutskever 對當今Scaling Laws（縮放定律）之後將發生什麼的判斷，比任何產品管線都更有價值。他持續主張，隨著預訓練資料接近耗盡，業界正重返研究時代，而 SSI 就是將這項論點化為一家公司。
「安全」究竟代表什麼
SSI 的核心主張，是安全無法事後加裝。依這種觀點，業界的慣常做法——先訓練能力最強的模型，再用防護欄、微調與內容篩選器約束它——是本末倒置，因為比操作人員更聰明的系統，會找到任何為它打造之牢籠的縫隙。SSI 表示，其做法是讓安全與能力同步發展，從第一項實驗起，就將可靠性與可控制性視為設計目標，而非發佈前才套上的補丁。這在技術上具體代表什麼，外界無從得知，因為公司什麼都不發佈：沒有論文、沒有模型卡，也沒有評估結果。懷疑者指出，這使其安全主張無法由外部證偽——這個領域慣用的檢驗工具，從開放評估到Mechanistic Interpretability（機制可解釋性），都需要可供檢查的成果物，而 SSI 未曾發佈任何一項。公司的立場是：存在風險牽涉的利害重大，足以證明安靜工作比在大眾注視下競賽更合理。
它並不急著推出聊天機器人
對 SSI 最常見的誤解，是將它視為 ChatGPT 或 Claude 的秘密競爭者——以為有一天，它會揭開一款更有禮貌之Chatbot（聊天機器人）的面紗。這裡沒有可註冊使用的 API、沒有應用程式，也沒有候補名單；公司表示，在安全解決超級智慧之前，這些都不會出現。另一項相關誤解，是將 SSI 視為倡議或政策組織：它不是。它是一間訓練模型的研究實驗室，組織結構更接近早期 DeepMind，而非智庫；其押注是，率先且安全地實現 ASI，勝過推出中間產品。「率先」與「安全」究竟能否成為自洽的組合——畢竟快速推進與證明安全會朝相反方向拉扯——正是整家公司要透過這場實驗回答的問題。
懸而未決的問題
SSI 的實驗有明顯弱點。前沿訓練需要耗費價值數十億美元的運算資源，數十名研究人員——無論聲望多高——所面對的，是擁有數十萬張 GPU 叢集的實驗室；因此，公司若非找到真正更好的路徑，最終就必須募得規模大到足以讓商業壓力回歸的資金。在什麼都不發佈的情況下，安全主張也無法驗證，等於要求 AI 安全領域的其他人單憑信念接受其使命。直達目標路線已接受過壓力測試：據報導，2025 年 Meta AI 曾探詢收購公司並延攬其創辦人的可能性；Sutskever 公開回絕提議，Gross 不久後離職，Sutskever 則接任 CEO。這一切不代表這項押注有誤——它凸顯的是，SSI 押注於一小群人的判斷力；在這間實驗室打破沉默前，世界無從得知押注結果。