阿里云于5月27日以铂金会员身份加入PyTorch基金会,与AMD、AWS、Google、华为、Meta、Microsoft和NVIDIA并列治理最高层。标题是logo。对构建者重要的是阿里承诺向上游推送的内容:对vLLM和SGLang的贡献、多芯片兼容性工作、AI编译器优化。

阿里在异构硬件上以生产规模运行PyTorch,并维护一个紧跟上游、针对多芯片支持和大规模工作负载进行优化的定制PyTorch发行版。他们在这一层级的承诺:跨加速器的开箱即用体验、AI编译器优化、多芯片兼容性、大规模稳定性。公告中列出的现有贡献包括PAI-TurboX、TorchEasyRec,以及对vLLM和SGLang的上游工作。生产领域涵盖LLM训练与推理、自动驾驶、具身AI和推荐系统。

生态系统转变就在公告之下。PyTorch的硬件支持自始至终以NVIDIA为先,非NVIDIA后端带着"尽力而为"的能量。在一家业务案例是异构硅(因为中国云无法可靠获得H100和H200)的中国云厂家增加铂金席位改变了引力。多芯片支持不再是侧通道,而成为铂金资助的主线。对推理层的副作用:vLLM和SGLang,任何规模化服务LLM的人都接触过的两个开源引擎,获得一个口袋深、优先级非NVIDIA-only的维护者。

如果你在vLLM或SGLang上构建推理基础设施并考虑非NVIDIA芯片,框架层级的支持会更快变好。如果你押注PyTorch的NVIDIA-only特性会保持一级地位,关注接下来两个季度的贡献元数据。多芯片推动会先在那里显现。