在近期举行的开发者大会上,国内领先移动芯片企业公布了新一代NPU架构的技术细节。该架构采用异构计算与稀疏化剪枝技术,使端侧大模型的推理算力密度较上代提升两百个百分点,同时在运行同等负载时整体功耗降低百分之四十。这意味着主流智能手机将在不牺牲续航的前提下,流畅运行百亿参数级别的本地大模型,实现离线语音助手、实时图像生成与隐私保护型文档处理等功能。行业分析师指出,端侧算力的跃升将彻底改变AI应用的交付形态,数据不出设备的本地化推理将成为未来三年消费电子的核心卖点。
关键要点
- 新型NPU架构使端侧大模型推理算力密度提升两倍
- 异构计算与稀疏剪枝技术实现功耗降低百分之四十
- 主流手机将流畅运行百亿参数本地大模型保障隐私
- 数据不出设备的本地化推理或成消费电子核心卖点