AI基建开始拼有效算力而非卡数

过去算力建设以GPU数量为核心，如今推理负载增加让有效利用率成为成本关键。模型推理中显存读取和网络等待占比高，若调度不佳，大量GPU空转。Oracle等云厂商通过精细运营实现高利用率，说明问题并非无法解决，而是需要网络、液冷、软件栈和运维投入。这将改变AI基建投资评估方式。