IDC最新监测报告显示，受益于手机、PC及智能家居终端全面接入百亿参数级本地大模型，边缘AI推理盒子的市场需求呈现爆发式增长。今年以来出货量同比激增百分之三百，主要得益于专用NPU芯片制程进步与量化技术的成熟。单片硬件的端到端推理成本已从去年的数百美元骤降至七十美元左右。低成本边缘算力使得工业质检、安防监控与车载交互等场景得以实现全天候离线运行，极大拓展了AI应用的物理边界。
关键要点
- 终端大模型本地化部署推动出货量同比增百分之三百
- 专用NPU与量化技术使单片推理成本骤降七成
- 低成本算力赋能工业与车载场景实现全天候离线运行
