这些新平台凸显了高通科技在构建全栈数据中心基础设施方面日益增长的地位。
摘要：
- 推出新的数据中心解决方案，包括高通Dragonfly C1000 CPU、高通高带宽计算、高通Dragonfly AI300推理加速器及领先的连接产品，并配合定制硅片解决方案
- 高通蜻蜓AI300加入了AI200和AI250，加入我们多代AI加速器路线图，每年更新一次
- 高通新HBC技术以更低的令牌功耗打破了内存壁垒
- 与领先的人工智能和数据中心公司签订的多年期、多代际数据中心协议
- 来自35家以上技术生态系统领导者的广泛行业支持
高通科技公司在投资者日宣布，将推出新的数据中心解决方案，包括高通Dragonfly C1000 CPU、高通高带宽计算（HBC）、高通Dragonfly AI300推理加速器及连接产品，结合定制硅片解决方案，所有这些都旨在最大化每瓦性能和令牌吞吐量，同时降低总拥有成本。这些新平台凸显了高通科技在构建全栈数据中心基础设施方面日益增长的地位，优化了人工智能，涵盖代理型和数据中心级CPU、人工智能推理加速器、高性能连接以及大规模定制硅片解决方案。高通Dragonfly AI300加入了此前公布的高通Dragonfly AI200和AI250，加入其数据中心解决方案产品组合，并发布了年度Cadence AI加速器路线图。
“代理人工智能推动了数据中心对人工智能推理需求的显著增长。随着这些成为主流工作负载，基础设施必须以更低的功耗和成本提供更高的性能，“高通公司总裁兼首席执行官Cristiano Amon说。 “这正好发挥了高通的优势，我们为这次转变做好了充分准备。通过高通蜻蜓，我们将高性能、低功耗计算带入数据中心，与领先客户签订多年、多代代协议。”
为超大规模开发
者打造的以推理为先的平台 高通科技凭借数十年在片上系统（SoC）、低功耗设计、高性能处理和领先知识产权方面的专业知识，结合了400亿多个组件工程的经验，打造了为数据中心级、代理密集型AI推理工作负载设计的拆分机架级AI基础设施，实现超大规模的人工智能工作负载。这些创新实现了更好的令牌经济性、低延迟、简化集成、可扩展部署以及更低的总拥有成本。随着智能人工智能大幅增加代币需求，高通科技的解决方案针对每瓦代币数进行了优化，作为降低TCO的关键杠杆。
“企业现在所需的远远超出了单个组件。高通科技公司数据中心执行副总裁兼总经理Tony Pialis表示：“通过高通Dragonfly，我们将计算、人工智能、内存和连接性整合成一个统一的机架级平台，专为日益复杂的代理驱动工作负载设计，同时解决内存带宽和功耗的关键瓶颈。这建立在高通科技数十年来的基础上：大规模实现高性能、低功耗计算，现已应用于数据中心，极少有公司能匹敌。”
从硅片到机架：一个分解的机架级AI推理平台
- 专为实现代理型、通用及人工智能头节点工作负载的领导性能和利用而设计的数据中心CPU，且具备同级最佳的功耗和总成本
- 定制设计的高通Oryon CPU核心，针对核心性能和频率优化>5 GHz，以应对大规模部署的代理工作负载，提供卓越的性能
- 250+核数芯片组设计，实现卓越的吞吐量和规模，同时实现卓越的每核性能
- >与现有基于规格的服务器CPU竞争产品基准相比，每瓦性能估计提升了2倍
- 架构和设计注重最佳吞吐量、响应速度和基础设施利用率，以应对关键数据中心使用，降低资本支出和运营支出，以实现规模化中每位TCO领导层的顶级性能
- 多芯片组架构实现模块化集成，实现与先进封装技术的集成，实现性能和IO扩展，面向数据中心领域的通用AI CPU目标
- >2TB/s的PCIe Gen 7连接，以及CXL连接，支持下一代加速器、高速网络、存储和内存拆分
- 采用前沿低功耗内存技术，构建的内存子系统旨在提供卓越的带宽、容量、延迟和功耗效率
- 基于CPU的推理，并可选地附带HBC
- 配备了先进的可靠性、可用性和可维修性（RAS）功能，包括ECC、故障隔离和错误恢复，以实现大规模的韧性运行
- 支持风冷和液冷，支持在符合OCP ORv3标准的机架和服务器上部署于多样化的数据中心环境
- CPU 产品组合包括：专为高吞吐量代理编排和低延迟交互式 AI 应用场景设计的代理型 CPU;通用CPU，设计为针对第一方工作负载的每TCO最佳性能，以及针对第三方使用弹性的每vCPU性能;AI头节点CPU，旨在通过高速CPU实现低开销主机处理，最大化XPU在生成式AI计算中的XPU利用率
- 预计2028年将实现商业化上市
高通高通高带宽计算（HBC）
- 创新的专用近内存计算架构，将计算与高速内存带宽结合，采用3D堆叠硅片解决方案，解决人工智能数据流动的根本瓶颈
- HBC拥有多代发展路线图，旨在以更低的总拥有成本和更高的能效，提供更快、更高效、更具可扩展性的处理，相较于高带宽内存（HBM）
- 在第一代 HBC 中，AI250 设计上实现业界领先的 133 TB/s 每张卡，与 LPDDR5X 的 AI200 相比，有效内存带宽提升了 18 倍;AI300 配备 HBC 第二代，旨在实现进一步的提升，比 AI200 提升 54 倍
- HBC的设计目标是使每瓦带宽相较于HBM提升6倍，相比其他在卡层标准化的已发布产品规格
- HBC设计旨在使每瓦容量相较于机架级标准化的竞争对手发布产品规格提升200倍
- HBC旨在实现AI代理的高效扩展，以满足持续推理、内存带宽和实时响应的需求
- 我们与供应链的战略合作关系和独特实施，解决了因3D集成领导、系统级设计、LPDDR领导力和能效专业知识而带来的近内存计算复杂性
- 预计2027年中期将对配备AI250的HBC Gen 1进行商业采样
- 第三代风冷和直冷液冷机架级AI推理平台——继去年十月推出的AI200和AI250解决方案之后
- AI300集成了突破性的高通HBC第二代计算加速技术，集成内存和提升有效内存带宽，专为拆分推理部署设计（AI250采用HBC第一代）
- 实现行业领先的内存容量和有效带宽，实现高吞吐量、低延迟的性能，适用于大型语言和多模态模型（LLM， LMM）推理及代理型AI工作负载
- 预计每瓦内存带宽在每瓦方面比现有GPU架构高出4倍到8倍
- 可通过UALink（超加速链路）和ESUN（以太网扩展网络）扩展;用铜线和光学来扩展
- 预计2028年将进行商业采样
定制硅片
- 大规模性能优化的硅片，用于下一代人工智能和云数据中心基础设施
- 专为代理人工智能及其他专业工作负载定制的定制硅片
- 涵盖硅片、系统和软件的端到端协同设计能力，以满足客户特定的性能、功耗和集成需求
- 先进的封装和模块化架构旨在提升性能、能效和可扩展性
- 经过验证的知识产权和简化的设计执行，支持更快的上市时间和降低执行风险
- 从设计到大规模生产的执行，依靠生态系统和供应链关系支持
交通连接
- 涵盖点对点、铜线、光纤及园区覆盖互联的广泛连接组合，支持下一代AI数据中心
- 支持高带宽的800G和1.6T连接，涵盖光纤、AOC和AEC应用，从数据中心内链路到最长20公里的校园部署
- 结合高通技术的SerDes、PAM4、相干轻量DSP、信号完整性和遥测能力，支持可扩展、高性能的AI基础设施
- 解决数据流动瓶颈，这些瓶颈是AI数据中心性能在日益分散、分散且带宽密集的基础设施中的核心
跨生态系统
除了新的高通蜻蜓数据中心产品组合外，高通科技还宣布与Meta签订了一项为期多年的多代代协议。
高通科技与Meta宣布达成战略多代合作，Qualcomm Technologies将成为Meta数据中心CPU的供应商。高通科技的数据中心中央处理器Dragonfly C1000计划为Meta下一代服务器群提供动力，凸显了高性能、节能计算在大规模扩展环境中日益重要。
此外，超过35家全球技术和人工智能生态系统领导者也在支持高通科技的数据中心愿景和商业解决方案，包括Advantest、Arista、Astera、Cirrascale、Compal、Confidential Core AI、Core42、Delta、Fibercop、富士康、技嘉科技、HUMAIN、Inventec、IONOS、联想、Master Works、Microchip Technology、Micron Technology、NEC、NeuReality、广达、Pegatron Corporation， 三星SDS、Saptiva AI、SK海力士美国、Supermicro、Teradyne、TeraHop、UMC、Vast Data、Viettel IDC、VNPT集团和Wistron。
高通科技致力于制定多代数据中心路线图，每年重点推进AI推理性能、能效和总拥有成本。
声明： 此文观点不代表本站立场；转载须要保留原文链接；版权疑问请联系我们。
