AI前沿

了解最新AI资讯、学院公告和AI知识笔记

英伟达下一代加速卡聚焦推理与能效

英伟达在开发者渠道释放信息,新一代平台将围绕推理吞吐、显存带宽和液冷效率优化,以应对AI工作负载从训练向高频调用迁移,客户关注每Token成本。

AMD MI系列瞄准推理性价比

AMD被传通过MI系列加速卡争取云厂商和主权AI项目,强调开放生态与单位推理成本,试图在英伟达主导的市场中获取第二供应商份额。

国产AI芯片加快推理场景适配

国内多家芯片厂商围绕大模型推理、视频生成和智能体工具链优化软件栈,降低迁移成本,在信创与智算中心项目中争取份额,但先进制程与存储仍受约束。

AI基建开始拼有效算力而非卡数

行业讨论显示,AI服务器交付后真正被有效利用的算力可能不足规格标称值三成,网络、散热和调度损耗推动数据中心从买卡转向运营效率竞争。

推理Token调用量上升重塑算力需求

公开数据显示国内日均Token调用量持续增长,AI算力主力从训练转向推理,7×24小时调用使成本结构从一次性建设变为长期运营支出。

液冷与供电成为智算中心扩容瓶颈

新一代AI芯片功耗上升,传统风冷难以支撑高密度机柜,液冷、配电和冷却水资源审批成为智算中心交付的关键变量,部分地区出现排队扩容。

云厂商推出推理专用算力池

多家云服务商上线面向大模型推理的资源池,按Token、并发和延迟分层计费,帮助企业降低长尾调用成本,同时提升GPU利用率。

边缘AI算力需求上升带动终端推理

手机、车机、机器人和工业设备开始部署端侧模型,边缘推理降低云端成本与延迟,但内存、功耗和模型压缩能力成为终端AI落地关键。

瓦特曼完成数亿元B系列融资

工业AI公司瓦特曼完成B+轮和B轮融资,由中国移动旗下基金和国投证券领投,资金将用于产品研发和产线扩张,聚焦钢铁、能源等重工业智能化。

联系客服

微信:leyistar
QQ: 330168885