SK海力士计划通过美国IPO筹集100-140亿美元来扩大内存芯片产能,将自己定位为正在进行的"RAM末日"的解决方案,这场危机正在扼杀AI发展。这家韩国内存巨头旨在利用大量资本注入来建设新的制造工厂,专门为AI工作负载提升高带宽内存(HBM)生产。
时机并非巧合。AI训练运行不断遇到内存瓶颈——我看到团队烧完计算预算,因为他们无法获得足够的快速内存来高效地为模型供能。HBM价格在18个月内涨了三倍,获得分配需要提前数月规划。我认识的每家AI公司都在争夺内存分配,这成了新的GPU短缺。
但现实检查是这样的:即使有140亿美元,新的内存制造工厂也需要2-3年才能投产。SK海力士的IPO可能表明对AI长期需求的信心,但它无法解决目前压垮现有项目的供应紧缩。三星和美光也在提升产能,但这些都无法帮助今天面临内存限制的开发者。真正的问题是这笔资本是否会用于创新的内存架构,还是只是更多昂贵的HBM。
对于AI开发者来说,这意味着要继续围绕内存限制进行优化,而不是等待缓解。专注于更高效使用内存的模型架构,实施更好的缓存策略,并考虑减少峰值内存需求的混合方法。援军即将到来,但仍需数年时间。
