OpenAI上线GPT-6.1 Sol Ultrafast,主打8倍速,定价12/60美元每百万token。高速推理意味着单位时间可处理更多请求,但也需要更高吞吐的GPU、更低时延网络和更强内存带宽。对算力行业而言,模型API降价与推理加速并存,客户会更关注每任务成本而非单token价格。若高速模型规模化,数据中心推理集群、边缘缓存和任务路由芯片需求可能上升,算力调度将从容量分配转向时延、成本和权限综合优化。
关键要点
- 高速模型提升单位时间请求处理能力
- 客户评估转向每任务成本
- 推理集群和边缘缓存需求可能上升