Gimlet Labs 完成 8000 万美元 A 轮融资，用软件层解决 AI 推理瓶颈

斯坦福兼职教授、成功退出创业者 Zain Asgar 创立的 Gimlet Labs 今日宣布完成 8000 万美元 A 轮融资，由 Menlo Ventures 领投。该公司推出了一种创新的"多芯片推理云"技术，可在不同类型的硬件上同时运行 AI 工作负载。

核心技术创新

多芯片推理云

技术突破：

Gimlet Labs 创建了首个也是唯一一个"多芯片推理云"，这是一款软件层，允许 AI 工作负载同时在多种硬件架构上运行。

支持的硬件：

• GPU：NVIDIA、AMD
• CPU：Intel、ARM
• 专用 AI 芯片：Cerebras、d-Matrix
• 高内存系统：各种架构

工作原理：

单个 AI 代理可能包含多个步骤，每个步骤需要不同的硬件：

• 推理：计算密集型
• 解码：内存密集型
• 工具调用：网络密集型

Gimlet 的软件可以将 AI 应用的工作分割到不同的硬件上，使用最适合的芯片处理每个部分。

效率提升

性能数据：

• 推理速度提升：3-10 倍
• 成本：保持不变
• 功耗：保持不变

Zain Asgar 表示：

"目前应用对现有硬件的利用率仅在 15% 到 30% 之间。换句话说，因为闲置资源，你浪费了数千亿美元。我们的目标是找出如何让 AI 工作负载的效率提高 10 倍。"

市场背景

AI 数据中心支出

麦肯锡预测：

如果当前的"部署更多算力"趋势持续，到 2030 年数据中心支出将达到近 7 万亿美元。

资源浪费：

• 现有硬件利用率低
• 新旧硬件混合部署
• 不同工作负载需要不同硬件
• 缺乏统一调度层

行业痛点

芯片厂商困境：

• 没有单一芯片能处理所有 AI 任务
• 新硬件不断推出
• 旧 GPU 需要重新部署
• 缺乏软件层整合

Menlo Ventures 的 Tim Tully 表示：

"多芯片舰队已经就绪——只是缺少让它工作的软件层。"

产品与服务

部署方式

两种选择：

1. 软件许可：

   • 部署在客户现有基础设施
   • 适合大型数据中心
   • 完全控制

2. Gimlet Cloud API：

   • 托管服务
   • 快速集成
   • 按需付费

目标客户

主要客户群：

• 大型 AI 模型实验室
• 超大规模云服务商
• 企业数据中心

不适合：

• 普通 AI 应用开发者
• 小型创业公司
• 个人开发者

商业进展

收入情况

公开数据：

• 发布时间：2025 年 10 月
• 初始收入：8 位数（至少 1000 万美元）
• 客户增长：过去 4 个月翻倍

客户类型：

• 主要模型制造商（未具名）
• 超大型云计算公司（未具名）

合作伙伴

芯片厂商合作：

Gimlet 已与以下芯片制造商建立合作伙伴关系：

• NVIDIA
• AMD
• Intel
• ARM
• Cerebras
• d-Matrix

创始团队

核心成员

Zain Asgar（创始人兼 CEO）：

• 斯坦福大学兼职教授
• 连续创业者
• Pixie 联合创始人（被 New Relic 收购）

Michelle Nguyen（联合创始人）：

• Pixie 前团队成员
• Kubernetes 可观测性专家

Omid Azizi（联合创始人）：

• 分布式系统专家
• Pixie 前团队成员

Natalie Serrino（联合创始人）：

• AI/ML 基础设施专家
• Pixie 前团队成员

历史背景

Pixie 经历：

• 创立时间：2020 年
• 产品：Kubernetes 开源可观测性工具
• 收购：2020 年 12 月被 New Relic 收购
• 收购金额：900 万美元 A 轮（Benchmark 领投）
• 现状：技术已开源，由 Kubernetes 社区管理

融资详情

A 轮融资

领投方：Menlo Ventures

参投方：

• Factory（种子轮领投方）
• Eclipse Ventures
• Prosperity7
• Triatomic

天使投资人：

• Bill Coughran（Sequoia）
• Nick McKeown（斯坦福教授）
• Raghu Raghuram（VMware 前 CEO）
• Lip-Bu Tan（Intel CEO）

种子轮

总额：1200 万美元

投资方：

• Factory（领投）
• 斯坦福教授
• 其他天使投资人

总融资

累计融资：9200 万美元

公司估值：未披露

员工规模：30 人

投资者观点

Menlo Ventures

Tim Tully：

"Gimlet 提供了一个关键的软件层，让多芯片舰队能够协同工作。这是 AI 基础设施领域的重大突破。"

Sequoia

Bill Coughran：

作为天使投资人参与，看好多芯片推理的未来。

Intel

Lip-Bu Tan（CEO）：

个人投资，显示芯片厂商对 Gimlet 技术的认可。

技术优势

硬件抽象层

核心能力：

1. 自动调度：

   • 智能分配工作负载
   • 根据硬件特性优化
   • 实时监控和调整

2. 模型切片：

   • 将模型分割成不同部分
   • 每部分在最适合的硬件上运行
   • 跨架构协同

3. 负载均衡：

   • 动态分配资源
   • 避免热点和瓶颈
   • 最大化硬件利用率

兼容性

支持的框架：

• PyTorch
• TensorFlow
• JAX
• 其他主流 AI 框架

部署环境：

• 本地数据中心
• 公有云
• 混合云
• 边缘计算

竞争格局

主要竞争对手

差异化优势

Gimlet 优势：

• 硬件中立：不绑定特定厂商
• 混合部署：新旧硬件协同
• 效率提升：3-10 倍性能提升
• 成本节约：利用闲置资源

挑战：

• 需要与芯片厂商深度合作
• 技术复杂度高
• 市场教育成本

行业影响

AI 基础设施变革

短期影响：

• 提高现有硬件利用率
• 降低 AI 推理成本
• 加速模型部署
• 减少硬件浪费

长期影响：

• 改变芯片采购策略
• 推动异构计算发展
• 促进 AI 民主化
• 降低 AI 准入门槛

可持续发展

环保效益：

• 减少硬件需求
• 降低能源消耗
• 延长硬件寿命
• 减少电子垃圾

未来展望

产品路线图

2026 年：

• 扩大客户基础
• 增加硬件支持
• 优化性能
• 推出企业功能

2027 年：

• 国际化扩张
• 生态系统建设
• 更多芯片伙伴
• 开发者工具

市场机会

目标市场：

• AI 推理市场：2030 年达 1000 亿美元
• 数据中心优化：数千亿美元
• 企业 AI 部署：快速增长

增长驱动：

• AI 应用普及
• 推理成本压力
• 硬件多样性增加
• 可持续发展需求

结论

Gimlet Labs 的多芯片推理云代表了 AI 基础设施领域的重要创新。通过软件层抽象硬件差异，该公司能够显著提高 AI 工作负载的效率，同时降低对特定硬件厂商的依赖。

8000 万美元的 A 轮融资和与主要芯片厂商的合作伙伴关系，证明了市场对该技术的认可。随着 AI 推理需求的持续增长，Gimlet 的技术可能成为 AI 基础设施的关键组成部分。

对于大型企业而言，采用 Gimlet 的技术可能意味着显著的 cost savings 和性能提升。但对于小型开发者，可能需要等待更亲民的产品版本。

AI 基础设施的竞争正在加剧，Gimlet Labs 的多芯片方法提供了一个有趣且实用的解决方案。未来几年，我们将看到这种方法是否能在 NVIDIA 等巨头的竞争中占据一席之地。