本文来自微信公众号：投中网 （ID：China-Venture），作者：刘燕秋，题图来自：AI 生成
当英伟达宣布达成跟 OpenAI 最高 1000 亿美元的合同，它的竞争对手，AI 芯片初创公司 Groq 也刚刚宣布完了一笔 7.5 亿美元 （约合人民币 50 亿元）的最新融资，融资后估值为 69 亿美元 （约合人民币 490 亿）。这一数字超过了 7 月间的传闻。当时有报道称，Groq 的融资额将达到约 6 亿美元，估值接近 60 亿美元。
资本正高度关注 AI 推理芯片赛道——Groq 曾于 2024 年 8 月以 28 亿美元的估值融资 6.4 亿美元，这意味着，在短短一年多的时间里，估值翻了一倍多。本轮融资由 Disruptive 领投，此外也获得了来自贝莱德、Neuberger Berman 集团有限责任公司和德国电信资本的 「重大投资」，以及包括三星电子、思科、D1 Capital 和 Altimeter 在内的现有投资者的出资。
根据半导体产业研究，全球 AI 芯片市场正处于高速增长期，2023 年市场规模只有 231.9 亿美元，预计至 2029 年将以 31.05% 的复合年增长率攀升至 1175 亿美元。随着大语言模型从研发走向应用，AI 产业重心正从训练阶段转向推理环节。英伟达财报也显示，2024 财年第四季度数据中心 GPU 收入的 40% 来自推理处理。
如果只是在旧有游戏里的竞争，新玩家总是很难出头。不过时代总有新需求和新机会，正是行业的结构性调整为 Groq 这类专注推理优化的芯片厂商提供了战略窗口。「推理正在定义人工智能时代，我们正在构建能够高速、低成本地提供推理的美国基础设施。」Groq 创始人兼首席执行官乔纳森·罗斯 （Jonathan Ross）表示。
一、前谷歌工程师创业，挑战英伟达
Groq 由一群前谷歌工程师于 2016 年创立，由 AI 加速器 ASIC 张量处理单元 （TPU）的设计者之一乔纳森·罗斯和前 Google X 工程师道格拉斯·怀特曼 （Douglas Wightman）领导。乔纳森·罗斯在谷歌工作期间，负责开发 TPU 芯片，这是一种专为机器学习任务设计的处理器，至今仍在为谷歌云的 AI 服务提供支持。
TPU 于 2016 年发布，同年 Groq 正式亮相。Groq 以生产优化预训练模型的 AI 推理芯片而闻名。它所开发的芯片被称为语言处理单元 （LPU），与通常用于 AI 系统的图形处理单元 GPU 有着显著区别。
在人工智能发展早期，芯片以训练为中心，如今业界正逐渐将重点转向为推理而设计的硬件。不管是英伟达，还是规模更小的竞争对手 AMD，都准备提供更多专注于推理的芯片，强调即便在推理时代，其优势依旧明显。比如 GTC2025 上，英伟达推出了分布式推理服务库 Dynamo，基于这个全新的服务库，可以实现新一代 Blackwell GPU 相比 Hopper GPU 40 倍的性能提升。
之所以受到投资人的青睐，正是因为 Groq 致力于打破英伟达的垄断。其产品面向开发者和企业，提供云服务或本地硬件集群两种形式。云和本地硬件都可以运行热门模型的开放版本，例如 Meta、DeepSeek、Qwen、Mistral、Google 和 OpenAI 的模型。Groq 表示，其产品能够以比其他同类产品低得多的成本维持 AI 性能。
Groq 也销售数据中心计算能力。2024 年 2 月，Groq 推出了开发者平台 GroqCloud，吸引开发者使用 Groq API 并租用其芯片的访问权限。Groq 还在一个月后收购了 Definitive Intelligence，这是一家以提供一系列面向企业的 AI 解决方案而闻名的初创公司，可以帮助 Groq 完善其云平台。9 月，Groq 又宣布和中东石油巨头阿美公司的数字和技术子公司签署了一份谅解备忘录，宣称要 「在沙特阿拉伯王国建立世界上最大的推理数据中心」。
在商业模式上，Groq 和英伟达略有区别。英伟达属于软硬结合，两条腿走路，既卖 GPU 芯片和服务器等硬件，又通过 CUDA 平台绑定开发者。Groq 则自建数据中心，将 LPU 组成服务器集群，提供云端推理算力租用服务，使得客户无需采购硬件即可尝试服务。
二、融了超过 30 亿美元，Groq 会是新时代的英伟达吗？
曾有自称为 Groq 员工的网友在 Reddit 上称，公司的目标是三年内超越英伟达。英伟达的市值摆在那里，要挑战巨头，这一雄心自然能吸引来不少愿意为之买单的投资人。据 PitchBook 估计，Groq 迄今已融资超过 30 亿美元。
2017 年，Groq 从 Social Capital 的 Chamath Palihapitiya 获得了 1000 万美元的种子资金。此后几年，Groq 还没混成投资圈的宠儿，只拿了三轮小规模融资，累计约 6000 万美元。
2021 年 4 月，Groq 在由 Tiger Global Management 和 D1 Capital Partners 领投的 C 轮融资中筹集了 3 亿美元。其他投资者包括：The Spruce House Partnership、Addition、GCM Grosvenor、Xⁿ、Firebolt Ventures、General Global Capital 和 Tru Arrow Partners，以及来自 TDK Ventures、XTX Ventures、Boardman Bay Capital Management 和 Infinitum Partners 的后续投资。在 C 轮融资之后，它的估值超过 10 亿美元，正式跻身独角兽行列。
2024 年 8 月，在由贝莱德私募股权合伙人领投的 D 轮融资中，Groq 又筹集了 6.4 亿美元，公司估值达到 28 亿美元。
除了挑战英伟达的好故事，要想让现在的投资人掏钱，必须得用数据说话。此次融资披露的数据显示，Groq 为超过 200 万名开发人员的 AI 应用程序提供支持，而一年前在接受 TechCrunch 采访时，这一数字为 35 万，如此迅猛的用户增长速度令人惊讶。
那么，Groq 要想超越英伟达，到底有多少可能性呢？
首先，必须明确一点，Groq 不是通用 GPU，而是专门为 transformer 类推理计算设计的芯片。极高的吞吐和极快的推理速度是其优势，Groq 宣称 LPU 能实现每秒数百 token 的生成速度，远超常规 GPU 的推理速度。但天下没有免费的午餐，LPU 卡的成本也更高。（当然 Groq 宣称自己已经算成本平衡得不错了。）此外，Groq 的芯片更强调低延迟和稳定响应，适合对话、搜索、Agent 等交互式 AI 应用，能效比高。
纵然 Groq 有自己的优势，也要看到，英伟达的优势不在于局部，而是生态。CUDA 生态是英伟达的巨大护城河，而 Groq 需要从零建立工具链和开发者社区。与此同时，Groq 当前优势主要体现在中小规模模型推理，大规模模型支持能力仍待验证。SemiAnalysis 的分析指出，Groq 的性能数据部分来自于在较旧工艺节点 （如 14nm）实现的高效设计，但这也意味着其能效优势建立在有限规模之上。如果想在大规模商业化中与英伟达抗衡，Groq 必须进入更先进的制程 （如 4nm），这需要更大资本投入和代工厂资源。而且企业对英伟达软硬一体化方案有一定的依赖度，迁移成本不低。
因此，综合来看，Groq 在细分市场可能胜出，但短期内仍然难以威胁英伟达的主导地位。
想要挑战英伟达的创业公司当然不只 Groq。专注大模型训练的 Cerebras 已提交 IPO 申请，计划融资 10 亿美元，估值达 80 亿美元。Cerebras 2016 年成立于硅谷，主要面向 AI 大模型训练，强调超大算力、超高内存带宽。其策略也是先切细分市场，典型应用场景是，科研机构、云服务商和医药公司用来训练超大规模神经网络。
类似这样的竞争者共同构成了对英伟达的差异化包围，但尚未形成系统性威胁——英伟达仍占据全球 AI 云端训练市场 80% 的市场份额。
但从另外一个角度来说，我们还是乐见有更多新公司能借助新的技术路线冒头，把桌子掀翻。回到开头英伟达和 OpenAI 的合作，英伟达给 OpenAI 投资，OpenAI 给甲骨文付费买算力，甲骨文从英伟达买芯片补充算力。不管 AI 是不是泡沫，三家科技巨头相互抬轿子，至少眼下大家在二级市场的股价都高高的。要是这时突然冒出一个陌生面孔，把局搅乱，不管会不会重构秩序，故事高低能更精彩一点。