AI资讯
英伟达下一代加速卡聚焦推理与能效
英伟达在开发者渠道释放信息,新一代平台将围绕推理吞吐、显存带宽和液冷效率优化,以应对AI工作负载从训练向高频调用迁移,客户关注每Token成本。
了解最新AI资讯、学院公告和AI知识笔记
英伟达在开发者渠道释放信息,新一代平台将围绕推理吞吐、显存带宽和液冷效率优化,以应对AI工作负载从训练向高频调用迁移,客户关注每Token成本。
AMD被传通过MI系列加速卡争取云厂商和主权AI项目,强调开放生态与单位推理成本,试图在英伟达主导的市场中获取第二供应商份额。
国内多家芯片厂商围绕大模型推理、视频生成和智能体工具链优化软件栈,降低迁移成本,在信创与智算中心项目中争取份额,但先进制程与存储仍受约束。
行业讨论显示,AI服务器交付后真正被有效利用的算力可能不足规格标称值三成,网络、散热和调度损耗推动数据中心从买卡转向运营效率竞争。
公开数据显示国内日均Token调用量持续增长,AI算力主力从训练转向推理,7×24小时调用使成本结构从一次性建设变为长期运营支出。
新一代AI芯片功耗上升,传统风冷难以支撑高密度机柜,液冷、配电和冷却水资源审批成为智算中心交付的关键变量,部分地区出现排队扩容。
多家云服务商上线面向大模型推理的资源池,按Token、并发和延迟分层计费,帮助企业降低长尾调用成本,同时提升GPU利用率。
手机、车机、机器人和工业设备开始部署端侧模型,边缘推理降低云端成本与延迟,但内存、功耗和模型压缩能力成为终端AI落地关键。
AI算力租赁市场出现结构性分化,高端GPU因推理和智能体需求保持紧张,通用训练卡与低配节点面临价格压力,客户更关注交付周期和稳定性。
工业AI公司瓦特曼完成B+轮和B轮融资,由中国移动旗下基金和国投证券领投,资金将用于产品研发和产线扩张,聚焦钢铁、能源等重工业智能化。