2016 年，谷歌张量处理单元 TPU 的发明者乔纳森·罗斯（Jonathan Ross），在美国加利福尼亚州山景城创建了一家名为 Groq 的 AI 芯片公司。

经过几年的发展，这家致力于生成式 AI 解决方案的企业，已经构建了旨在大规模实现低延迟、节能和可重复推理性能的 LPU 推理引擎，并希望实现这样一个使命，即创建 AI 经济，以让任何有绝妙创意的人都能使用并负担得起。

过去几天，这家长期以来一直处于隐身状态的公司，在互联网上引发较大的轰动。

Groq 基于自研 LPU 推理引擎，让 Mixtral 8x7B 等开源大语言模型能够以几乎每秒 500 个 token 的速度运行，并在大多数基准测试中击败了以每秒 40 个 token 的速度运行的 GPT-3.5。（编者注：token 指的是 AI 训练过程中处理文本的最小单元。）

显而易见，如果推理速度像 LPU 这样快的芯片在今后变得越来越普遍，那么用户等待生成式 AI 缓慢输出内容的日子会逐渐消失。与此同时，Groq 的发展也将不可避免地为 GPU 芯片的霸主英伟达带来威胁。

（来源：Groq 官网）

日前，该公司收购了一家位于美国加利福尼亚州帕洛阿托的初创公司 Definitive Intelligence，收购金额尚未公开。

据了解，Definitive Intelligence 由桑尼·马德拉（Sunny Madra）和加文·雪利（Gavin Sherry）于 2022 年共同创立，前者为该公司的联合创始人兼 CEO，后者为联合创始人兼 CTO。

Definitive Intelligence 主要推出与生成式 AI 有关的产品，包括开发大语言模型所需的开源库集合 OpenAssistants，和连接到企业与公共数据库的可视化生成器 Advisor。

Pioneer 是该公司的主要工具之一，作为一种“自主数据科学代理”，能够实现对任何数据分析任务的处理，比如预测建模等。

据悉，在 Groq 收购 Definitive Intelligence 之前，后者筹集的风险投资达到 2550 万美元[1]。

在本次收购之后，马德拉将领导 GroqCloud 业务部门，主要利用他在服务企业客户方面积累的专业知识和丰富经验，通过 GroqCloud 来广泛地拓展用户对 LPU 推理引擎的访问。

对此，罗斯在公司发布的新闻稿中表示：“我们很欢迎来自 Definitive Intelligence 的马德拉和他的团队帮助我们实现公司使命。

该团队拥有 AI 解决方案和进入市场策略方面的专业知识，并且致力于与社区分享知识。他们是领导我们 GroqCloud 业务部门的完美人选。”

需要说明的是，GroqCloud 云平台是 Groq 围绕开发人员打造的一个新平台，已经具有该公司完全集成的文档、代码示例和自助服务访问权限（用户能通过**** https://console.groq.com/ 访问）。

那么，GroqCloud 业务部门的工作重点都有哪些呢？

具体来说，GroqCloud 不仅能够帮助用户通过自助服务平台轻松访问 LPU 推理引擎，还能为客户部署新的生成式 AI 应用程序，并为这些程序提供只有 Groq 才拥有的超快运行速度。

公开资料显示，GroqCloud 自 2024 年 2 月 19 日试运行以来，已经吸引了大量开发人员，其中数千人对于 Groq API 的使用持非常积极的态度。

而马德拉和该平台的业务团队计划最初将工作重点集中在扩大容量、提高效率、建立合作伙伴关系以及构建开发者平台。

“世界现在才意识到高速推理对生成人工智能的重要性。在 Groq，我们为开发人员提供了实现生成式 AI 承诺所需的速度、低延迟和效率。”马德拉在一封电子邮件声明中说。

同时，他也在该声明中表示：“自从 2016 年第一次见到罗斯以来，我一直是 Groq 的忠实粉丝，我很高兴能加入他的行列，Groq 团队力求将最快的推理引擎推向世界。”

事实上，除了 GroqCloud 业务部门，Definitive Intelligence 拥有的工程资源还帮助 Groq 正式组建了 Groq Systems 业务部门。

该部门在聚焦创新的同时，还会为需要将 Groq 芯片用于其 AI 计算中心的公共部门和客户提供服务。

对于 Groq 为何选择将 GroqCloud 和 Groq Systems 分成两个部门，罗斯解释说：“这将使 Groq 能够继续快速创新、加速推理并引领 AI 芯片竞赛，而传统提供商和其他 AI 领域的知名企业仍然在尝试构建一款可以与我们的 LPU 竞争的芯片。”

其实，Definitive Intelligence 并非是 Groq 收购的第一家公司。在此之前，该公司曾于 2022 年完成对高性能计算和 AI 基础设施解决方案公司 Maxeler Technologies 的收购。

面临如今定制 AI 芯片市场的竞争如此激烈的当下，这或许不会是 Groq 的最后一次收购行动，毕竟该公司显然打算先于竞争对手站稳脚跟。

*博客内容为网友个人发布，仅代表博主个人观点，如有侵权请联系工作人员删除。