阿里雲於5月27日以白金會員身份加入PyTorch基金會,與AMD、AWS、Google、華為、Meta、Microsoft和NVIDIA並列治理最高層。標題是logo。對建構者重要的是阿里承諾向上游推送的內容:對vLLM和SGLang的貢獻、多晶片相容性工作、AI編譯器最佳化。

阿里在異構硬體上以生產規模執行PyTorch,並維護一個緊跟上游、針對多晶片支援和大規模工作負載進行最佳化的客製PyTorch發行版。他們在這一層級的承諾:跨加速器的開箱即用體驗、AI編譯器最佳化、多晶片相容性、大規模穩定性。公告中列出的現有貢獻包括PAI-TurboX、TorchEasyRec,以及對vLLM和SGLang的上游工作。生產領域涵蓋LLM訓練與推理、自動駕駛、具身AI和推薦系統。

生態系統轉變就在公告之下。PyTorch的硬體支援自始至終以NVIDIA為先,非NVIDIA後端帶著「盡力而為」的能量。在一家業務案例是異構矽(因為中國雲無法可靠獲得H100和H200)的中國雲廠家增加白金席位改變了引力。多晶片支援不再是側通道,而成為白金資助的主線。對推理層的副作用:vLLM和SGLang,任何規模化服務LLM的人都接觸過的兩個開源引擎,獲得一個口袋深、優先級非NVIDIA-only的維護者。

如果你在vLLM或SGLang上建構推理基礎設施並考慮非NVIDIA晶片,框架層級的支援會更快變好。如果你押注PyTorch的NVIDIA-only特性會保持一級地位,關注接下來兩個季度的貢獻元資料。多晶片推動會先在那裡顯現。