AI工作负载正在推动企业走向供应商所称的"自适应分层"——自动化数据放置系统,承诺在计算需求波动时优化存储成本。与传统分层存储管理不同,这些新系统声称使用智能算法在存储层之间自动移动数据,响应访问模式和性能需求,无需人工干预。

潜在的危机是真实的:AI训练和推理工作负载创建了不可预测的数据访问模式,而传统存储架构并非为处理这些而设计。当你的模型需要为训练提取随机数据集,或为具有完全不同内存占用的推理请求提供服务时,静态存储配置就会变成成本灾难。自适应分层的承诺听起来很有说服力——让AI管理AI基础设施成本。

但我以前见过这种情况。"智能"存储管理已经被承诺了几十年,结果充其量也是好坏参半。根本问题不是数据放置——而是AI工作负载本质上就是昂贵且不可预测的。无论多少热存储和冷存储之间的自动重组都无法解决这样的事实:训练大型模型需要大量的计算和内存,通常是同时进行的。

如果你正在处理螺旋上升的AI基础设施成本,首先关注基础:适当的资源调度、工作负载批处理,以及为你的用例选择正确的模型。自适应分层可能在边际上有帮助,但它不是AI成本危机的灵丹妙药。真正的解决方案是构建更高效的模型,更好地理解你的实际计算需求。