Mistral Large 4公开预览，被称为大胖猫。其总参数约1.05万亿，每token仅激活49B，支持100万上下文，训练仅使用约4000块GPU。权重将在三周安全评估后开放。马克龙称其为第三条道路，强调欧洲在开源模型和算力效率上的路径。该模型若开放权重，可能为欧洲企业和开发者提供低依赖、可微调的替代选择，同时把MoE稀疏激活和长上下文推向更高性价比。其意义不仅是模型能力，更是用较低算力实现长上下文推理的工程路线。
关键要点
- 总参数1.05万亿但每token只激活49B
- 支持100万上下文且训练使用约4000块GPU
- 权重将在三周安全评估后开放
