中国存储网消息，Semidynamics是一家致力于开发以内存为中心的AI基础设施用于大规模推理的先进计算公司，宣布了SK海力士的战略投资，海力士是领先的存储器制造商的典范。这项投资反映了一种共同信念：记忆架构而非单纯计算将决定下一代AI推理的经济学，而每个代币的成本才是关键指标。
随着大型语言模型的规模扩大，以及代理式、多回合工作负载要求在更长的推理会话中持续上下文，系统性能越来越受内存容量和数据移动的限制，而非原始计算。半动力学能够提供传统基于HBM推理系统的数倍内存容量，因此支持更大的模型、更大的KV缓存和更大的上下文。这三项功能使每个机架用户更多，直接降低了每个代币的成本。
总部位于巴塞罗那的Semidynamics是少数几个从内存墙核心设计其专有开放RISC-V架构实现的处理器公司之一，这并非作为对现有计算架构的改造，而是其创立论点。该架构融合了Semidynamics专有的Gazzillion内存子系统技术，并由不断增长的专利组合支持，旨在减少限制当前AI基础设施的数据流动瓶颈。Gazzillion是Semidynamics独有的耐延迟技术，这种设计理念贯穿处理器，从核心和张量单元到内存子系统，能够在传统AI加速器长时间内存访问时间内保持系统高效运行。
公司最近与台积电完成了3纳米硅磁带输出，这是其首个也是欧洲半导体公司在该工艺节点实现的首个且首批案例之一，标志着其在交付高性能AI推理处理器和垂直集成系统路线图上的一个重要里程碑。
为内存墙设计
这项投资反映了处理器与先进内存技术之间紧密架构对齐日益重要的地位。通过此次合作，两家公司将探索机会，将Semidynamics架构与下一代内存技术协同优化，以支持日益严苛的AI推理工作负载。
Semidynamics以内存为中心的架构旨在应对当今AI基础设施面临最大压力的工作量：执行多步推理、在长上下文中执行、维护有状态会话并持续运行而非处理离散请求的智能推理系统。这些工作负载本质上是数据流动问题。通过优化数据在系统中的流动方式，该架构减少了决定大规模令牌成本的带宽和延迟瓶颈。
“SK海力士的投资直接反映了AI基础设施的发展方向，在这些系统中，内存架构与计算同等重要。我们围绕这一论点构建了Semidynamics，这次合作巩固了我们的地位，因为我们正值行业认识到代币经济学既是计算问题，也是内存问题，更是个问题，“Semidynamics创始人兼首席执行官Roger Espasa说。
“人工智能工作负载本质上是内存受限的问题，行业在架构层面的解决方案投资不足。Semidynamics是少数几个从基本原则围绕这一限制构建公司之一，“SK海力士美国风险投资主管郑熙珍补充道。
资金与动能
此次投资是在Semidynamics持续扩大其在人工智能和高性能计算领域合作伙伴生态系统之际进行的。该投资将支持未来的流片和系统级开发，包括机架平台的建设。
迄今为止，公司已从欧洲和西班牙创新项目获得4500万欧元的非稀释资金，支持其人工智能硅片和基础设施技术的发展。
Semidynamics正在构建一个全栈AI基础设施平台，涵盖芯片、板块和机架级系统，专为数据中心级推理部署而设计。