OVHcloud发布首个AI模型家族Olala,首款开源模型Olala mini 7A1B支持8GB显存运行

SmartHey11月18日消息,欧洲云服务企业 OVHcloud 当地时间今日正式推出其自研AI模型家族——Olala,并同步发布该系列首款模型:Olala mini 7A1B。

Olala mini 7A1B 采用创新的混合注意力机制,融合 Differential-TPA 与 Mamba-3 架构,总参数量达70亿,其中激活参数为10亿,训练与推理均基于 BF16 精度。该模型将以 Apache 2.0 开源协议在 Hugging Face 平台免费提供,供全球开发者和研究者使用。

模型具备出色的轻量化部署能力:可在仅配备 8GB 显存的消费级或专业级 GPU(如 NVIDIA RTX A4500)上高效运行,在该硬件上实测词元吞吐量达 160 TPS;即使仅依赖 CPU 平台,亦可稳定达到 50 TPS,显著降低AI应用门槛。

OVHcloud 表示,Olala mini 7A1B 在三台位于欧洲的公共超级计算机上完成训练,所用算力资源涵盖 NVIDIA GH200、A100 和 H100 加速卡,整体训练成本约为 700 万欧元(按当前汇率折合人民币约 5,142.8 万元)。

当前发布的初始版本支持 32K 上下文长度;计划于2026年12月底上线的 1.1 版本将把上下文扩展至 128K,并重点增强复杂数学推理能力。此外,OVHcloud 已启动 Olala 2.0 的研发工作,目标参数规模将突破 1000 亿(>100B),持续强化其在欧洲AI基础设施生态中的技术自主性。