模型API降价反映厂商通过推理优化、缓存、批处理和开源模型竞争降低单位token价格;但专用算力容量、内存和电力成本并未下降。这种背离意味着AI应用层可能更便宜,基础设施层却更贵。企业采购不能只看token单价,还要关注峰值容量、存储带宽、网络延迟和灾备成本,算力运营将从买资源转向优化调度。 关键要点专用算力容量和内存价格上涨模型API降价体现推理优化企业需从token单价转向总拥有成本 返回列表 上一篇 下一篇