中国存储网消息，数据中心生成式 AI 推理计算领域的活跃参与者 d-Matrix 已完成 2.75 亿美元的 C 轮融资，目前对该公司的估值为 20 亿美元，使迄今为止的融资总额达到 4.5 亿美元。
新资金将推进公司的路线图，加速全球扩张，并支持为超大规模、企业和主权客户部署全球性能最高、最高效的数据中心推理平台的多次大规模部署。这轮超额认购吸引了欧洲、北美、亚洲和中东的领先投资公司。该资金由包括 BullhoundCapital、Triatomic Capital 和淡马锡在内的全球财团共同领投。本轮融资还包括卡塔尔投资局 （QIA） 和 EDBI 的新参与，以及 M12、Microsoft 的风险基金以及 Nautilus Venture Partners、Industry Ventures 和 Mirae Asset 的后续参与。
d-Matrix 的全栈推理平台结合了突破性的计算内存集成、高速网络和推理优化软件，与基于 GPU 的系统相比，性能提高了 10 倍，成本降低了 3 倍，能效提高了 3-5 倍。由 d-Matrix 的 Corsair 推理加速器、JetStream NIC 和 Aviator 软件提供支持的解决方案可以在 Llama 70B 模型上以每个令牌 2 毫秒的速度每秒生成高达 30K 的令牌。该平台的计算密集设计使客户能够在单个机架中以令人难以置信的速度运行多达 100B 参数的模型。
这种性能和效率的阶梯式变化直接解决了日益增长的人工智能可持续发展挑战。通过使一个数据中心能够处理十个工作负载，d-Matrix 为减少全球数据中心能耗提供了一条清晰的途径，同时使企业能够毫不妥协地提供经济高效、有利可图的人工智能服务。
“从第一天起，d-Matrix就一直专注于推理。六年前，当我们创办 d-Matrix 时，培训被视为人工智能面临的最大挑战，但我们知道一系列新的挑战很快就会到来，“d-Matrix 首席执行官兼联合创始人 Sid Sheth 说。“我们预测，当训练好的模型需要大规模持续运行时，基础设施将无法准备就绪。在过去的六年里，我们一直在构建解决方案：一种全新的架构，使人工智能能够随时随地运行。随着行业进入人工智能推理时代，这笔资金验证了这一愿景。
投资者信心反映了 d-Matrix 的差异化技术、快速的客户增长以及不断扩大的全球合作伙伴网络——包括最近与 Arista、Broadcom 和 Supermicro 宣布的基于开放标准的 d-Matrix SquadRack 参考架构。强大的产品路线图以 3D 内存堆叠创新和以客户为中心的上市战略为特色，进一步确立了 d-Matrix 作为新 AI 基础设施堆栈基石的地位。
投资者之声
“随着人工智能行业的重点从训练转向大规模推理，赢家将是那些早期预见到这一转变并为之构建的人，”BullhoundCapital 创始人 Per Roman 表示。“d-Matrix 的脱颖而出不仅在于其技术深度，还在于其清晰的战略愿景。该团队比任何人都明白推理将定义人工智能的经济学——他们在这一见解上表现出色。
Triatomic Capital 普通合伙人 Jeff Huber 表示：“人工智能推理正在成为生产人工智能系统的主要成本，而 d-Matrix 已经破解了大规模提供性能和可持续经济性的密码。“他们的数字内存计算架构专为最重要的低延迟、高吞吐量推理工作负载而构建。凭借 Sid、Sudeep 和他们世界一流的团队，以及卓越的合作伙伴生态系统，d-Matrix 正在重新定义人工智能基础设施的经济可能性。
“人工智能推理需求的爆炸式增长向我们表明，效率和可扩展性可以成为超大规模企业和人工智能工厂收入获取和盈利能力的关键贡献者，”Microsoft 风险基金 M12 管理合伙人 Michael Stewart 说。“d-Matrix 是第一家解决 LLM 推理中当代单位经济问题的 AI 芯片初创公司，适用于增长最快的各种规模的模型，内存产品架构中的差异化元素将以领先的延迟和吞吐量维持 TCO 优势。”