AMD和Cerebras发布业界领先的兼具超低延迟和超高吞吐量的AI推理解决方案

2026年7月23日,加利福尼亚州旧金山和森尼韦尔讯 – AMD(纳斯达克股票代码:AMD)与Cerebras System(纳斯达克股票代码:CBRS)宣布建立技术合作伙伴关系,并将推出一款结合AMD Helios机架级解决方案和Cerebras晶圆级引擎的全新解耦式AI推理解决方案。该解决方案在Advancing AI 2026大会上首次亮相,旨在为最先进的AI应用提供所需的超低延迟,同时大幅提升吞吐量和效率。

《AMD和Cerebras发布业界领先的兼具超低延迟和超高吞吐量的AI推理解决方案》

AMD与Cerebras的联合解决方案将AMD Helios与Cerebras晶圆级引擎整合到单一的推理工作流中,以实现性能和效率的最大化。AMD Helios将提供一个高性能、可扩展的吞吐量引擎。而Cerebras晶圆级引擎技术将带来超快、超低延迟的解码和token生成能力。在2026年7月采用Kimi 2.6 1T大模型作为工作负载的模拟测试中,在相同交互体验水平下,这两大计算引擎的结合相较于纯Cerebras WSE架构,预计可实现最高5倍的每瓦每秒(T/s/W)token数。

AI推理工作负载在延迟、吞吐量、token容量、成本和规模等方面正日益呈现出不同需求。高容量工作负载优先考虑最大化token生成,而编码、实时copilots、在线代理和智能体工作负载则需要更快地响应时间。这些差异正在推动对异构基础设施的需求,使计算技术能够根据特定的工作负载需求相匹配。

AMD与Cerebras的解决方案利用解耦式推理来解决这一挑战,独立优化工作流中的两个主要阶段。AMD Helios提供超高吞吐量,可处理提示词和大型上下文窗口。Cerebras晶圆级引擎则以超低延迟加速内存带宽密集的token生成。通过在一个集成式的工作流中连接这些领先的引擎,两家公司正在打造一个能够实现超低延迟推理且不会牺牲吞吐量或扩展性的差异化平台。

AMD董事会主席及首席执行官苏姿丰博士(Dr. Lisa Su)认为:“AI推理正在成为AI领域中最大的基础设施机遇之一,其需要采取更灵活的方法来满足日益增长的多样性。AMD Helios可为更广泛的推理工作负载提供领先的性能和可扩展性。通过与Cerebras合作,我们正在将这一领先优势延伸至那些更为延迟敏感的应用领域中,同时为实时智能体AI打造一个强大的全新平台。”

Cerebras首席执行官及联合创始人Andrew Feldman表示:“对于超快推理的需求正在以前所未有的速度增长。Cerebras提供了全球更快且具备超低延迟的推理能力。与AMD的合作为我们提供了一个令人难以置信的机会,以将这种性能带给更多客户。”

随着AI逐渐应用于软件开发、自主智能体、机器人、科学发现及其他响应时间会直接影响客户体验和系统实用性的应用领域中,快速token生成能力正在变得越来越重要。这一联合解决方案将互补的架构整合在一起,旨在满足这些需求。

 

点赞

发表评论

邮箱地址不会被公开。 必填项已用*标注