AI推理
Vast Data 与 Nvidia 一起重新设计智能化时代的 AI 推理架构
原生运行于Nvidia BlueField-4 DPU上的庞大AI作系统，整合了传统存储层级，提供共享的Pod级KV缓存，支持确定性访问，支持长上下文、多回合和多代理推理。...
d-matrix 筹集 2.75 亿美元，为人工智能推理时代提供动力
新资金将推进公司的路线图，加速全球扩张，并支持为超大规模、企业和主权客户部署全球性能最高、最高效的数据中心推理平台的多次大规模部署。...
高通发布AI200及AI250芯片，入局3000亿美元AI推理蓝海市场
这是高通继2019年Cloud AI 100、2023年Cloud AI 100 Ultra之后，在数据中心AI推理领域的第三次重要布局。高通技术公司发布AI200和AI250，重新定义AI时代机架级数据中心推理性能。...
Axelera AI 推出 Europa 处理器，用于可扩展的边缘到企业 AI 推理
Europa 的设计具有成本效益且易于使用，使任何组织都能释放尖端人工智能应用程序的力量。...
NVIDIA 推出 Helix，通过数百万个令牌上下文将 AI 推理速度提高 32 倍
与传统方法相比，这种方法可以将处理速度提高多达 32 倍，从而实现更复杂、响应更迅速的 AI 应用程序。...