AI服务器有效算力利用率不足三成 - 71AI应用学院

AI服务器有效算力利用率不足三成

AI资讯 2026-10-20 05:34

AI基建讨论从买了多少卡转向真能用多少。行业人士称AI服务器交付后真正被有效利用的算力可能不到标称值30%,损耗来自网络传输、散热降频和任务调度。一个700亿参数模型每生成一个Token需读取约140GB参数,计算单元常等待数据搬运。Oracle财报显示GPU利用率可达97.9%,说明精细运营能显著改善ROI。

关键要点

  • 有效算力比纸面算力更关键
  • 网络与调度导致大量空转
  • 运营能力拉开数据中心差距

关注小程序免费看电子书(资讯详情)
返回列表

联系客服

微信:leyistar
QQ: 330168885