AI资讯
存储厂商推进HBM4良率与价格谈判
三星、SK海力士和美光被传围绕HBM4良率、功耗和封装兼容性展开客户验证,价格谈判趋紧,AI芯片厂商对高带宽存储需求持续超过供给。
了解最新AI资讯、学院公告和AI知识笔记
三星、SK海力士和美光被传围绕HBM4良率、功耗和封装兼容性展开客户验证,价格谈判趋紧,AI芯片厂商对高带宽存储需求持续超过供给。
AI GPU对CoWoS需求上升,台积电及供应链扩产仍难以完全覆盖客户订单,部分云厂商被要求提前锁定产能,封装环节成为半导体交付关键瓶颈。
英伟达在开发者渠道释放信息,新一代平台将围绕推理吞吐、显存带宽和液冷效率优化,以应对AI工作负载从训练向高频调用迁移,客户关注每Token成本。
AMD被传通过MI系列加速卡争取云厂商和主权AI项目,强调开放生态与单位推理成本,试图在英伟达主导的市场中获取第二供应商份额。
国内多家芯片厂商围绕大模型推理、视频生成和智能体工具链优化软件栈,降低迁移成本,在信创与智算中心项目中争取份额,但先进制程与存储仍受约束。
行业讨论显示,AI服务器交付后真正被有效利用的算力可能不足规格标称值三成,网络、散热和调度损耗推动数据中心从买卡转向运营效率竞争。
公开数据显示国内日均Token调用量持续增长,AI算力主力从训练转向推理,7×24小时调用使成本结构从一次性建设变为长期运营支出。
新一代AI芯片功耗上升,传统风冷难以支撑高密度机柜,液冷、配电和冷却水资源审批成为智算中心交付的关键变量,部分地区出现排队扩容。
多家云服务商上线面向大模型推理的资源池,按Token、并发和延迟分层计费,帮助企业降低长尾调用成本,同时提升GPU利用率。
手机、车机、机器人和工业设备开始部署端侧模型,边缘推理降低云端成本与延迟,但内存、功耗和模型压缩能力成为终端AI落地关键。