在 AI 算力成本飙升、私有违约率高达 9.2% 的背景下,西班牙初创公司 Multiverse Computing 提供了一种替代方案:不再依赖外部计算基础设施,而是让 AI 模型直接在用户设备上运行。
CompactifAI 应用与 API 门户
Multiverse Computing 在压缩了 OpenAI、Meta、DeepSeek 和 Mistral AI 等主要 AI 实验室的模型后,推出了两款产品:
- CompactifAI 应用:展示压缩模型能力的 AI 聊天工具
- API 门户:让开发者和企业直接访问压缩模型的网关
该公司嵌入的 Gilda 模型非常小,可以在本地离线运行,数据无需离开用户设备。
技术架构
应用使用名为 Ash Nazg 的系统自动路由请求:
- 本地处理:优先使用设备上的 Gilda 模型
- 云端回退:当设备 RAM 或存储不足时,通过 API 切换到云端模型
不过,一旦路由到云端,就失去了本地处理的主要隐私优势。目前该应用月下载量不足 5000 次,主要目标客户是企业而非普通消费者。
企业应用场景
CEO Enrique Lizaso 表示:"CompactifAI API 门户现在为开发者提供了直接访问压缩模型的途径,具备在生产环境中运行所需的透明度和控制力。"
关键优势包括:
- 实时使用监控:API 的核心功能之一
- 更低的计算成本:企业考虑小型模型的主要原因
- 隐私和弹性:适用于关键领域工作者
- 离线场景:无人机、卫星等无法保证连接的环境
性能表现
Multiverse 最新的压缩模型 HyperNova 60B 2602 基于 gpt-oss-120b(OpenAI 的公开代码模型)构建。公司声称:
- 响应速度比原始模型更快
- 成本更低
- 特别适合代理式编码工作流
客户与融资
公司已有 100 多家全球客户,包括:
- 加拿大银行(Bank of Canada)
- 博世(Bosch)
- 伊维尔德罗拉(Iberdrola)
融资方面:
- 2025 年完成 2.15 亿美元 B 轮融资
- 目前正筹集 5 亿欧元新一轮融资
- 估值预计超过 15 亿欧元
行业趋势
小型模型的能力正在快速提升。本周 Mistral 发布了 Mistral Small 4,针对通用聊天、编码、代理任务和推理进行了优化。同时推出了 Forge 系统,让企业能够构建自定义模型。
Multiverse 的最新结果表明,小型模型与大型语言模型(LLM)之间的差距正在缩小。对于希望在边缘部署 AI 的企业来说,这是一个值得关注的选项。
