智能体爆发带动推理算力需求远超训练市场占比预计达百分之八十

AI资讯 2026-09-18 05:33

训练阶段虽然单次计算量大，但频率有限；而智能体全天候响应用户请求，产生海量并发查询。这对芯片的实时响应能力、内存访问效率及功耗控制提出严苛要求。厂商正纷纷推出针对Transformer解码器优化的专用加速器，并通过编译层软件栈提升指令执行效率，重塑算力市场的价值分配格局。