面壁智能发布端侧多模态大模型MiniCPM-V 4.7:首个开源无损运行MoE模型,3GB内存即可流畅推理
SmartHey10月13日消息:10月13日,面壁智能正式推出新一代端侧多模态大模型 MiniCPM-V 4.7,涵盖 35B-A3B 与 1B 两大版本。其中,35B-A3B 版本采用先进的 MoE(Mixture of Experts)架构,总参数量达 350 亿,单次推理仅激活约 30 亿参数,成为全球首个可在终端设备上无损、流畅运行的开源 MoE 大模型——仅需约 3GB 内存即可部署,实测解码速度超 15 token/s(iPad Pro 环境),真正实现即问即答、零感知延迟。
该模型发布首日即完成对瑞芯微、NVIDIA、Intel 和 Apple 等主流芯片平台的全面适配,并原生支持 iOS、Android 与鸿蒙操作系统;同时开放完整的端侧适配代码及主流推理框架(如 llama.cpp、MLC-LLM、CoreML 等)集成方案。1B 版本则聚焦极致轻量与高效,让旗舰级多模态能力下沉至更广泛的终端设备,推动端侧多模态技术从实验室探索迈向大众日常应用。
这一突破性进展的核心,源于面壁智能自主研发的LES(Lookahead Expert Scheduling,前瞻专家调度)技术。传统 MoE 模型在移动端面临严重卡顿问题:因每次推理需动态加载特定‘专家’模块,系统不得不反复进行‘加载—等待—计算’循环,造成显著延迟。
而 LES 技术通过智能预测机制实现计算与加载并行化:在当前专家运算的同时,提前预判并预加载后续所需专家至内存,实现无缝衔接。类比接力赛,接棒者已在奔跑中准备接棒,交接瞬间即达全速——全程无需停顿。目前,该技术为业界首个完全开源的端侧 MoE 调度解决方案。

截至今日,由面壁智能联合 OpenBMB 开源社区持续迭代发布的 MiniCPM 系列模型(覆盖文本、视觉、语音全模态),全球累计下载量已突破 6000 万次,成为最受开发者欢迎的国产端侧大模型生态之一。
