海豚投研10月10日分析称，GPU推理瓶颈在于内存墙，即算力单元访问数据的带宽和延迟限制。Cerebras采用不同于主流GPU的路线，不把硅片切成小芯片，而是将整块硅片做成一个超大芯片，集成约4万亿个晶体管和90万个核心，并通过片上存储和互联提升推理效率。该方案若成熟，可能降低大模型推理对HBM和复杂互联的依赖，改变算力集群设计。但晶圆级芯片也面临良率、散热、功耗和软件生态挑战。该事件显示算力产业正围绕推理成本、内存带宽和专用架构展开新一轮竞争。
关键要点
- 瞄准GPU内存墙
- 整块硅片做大芯片
- 可能改变推理算力集群设计
