市场事件

公开 · 进行中

AI 汇编自 Infoway · 7 篇已分析故事

Supermicro 与 IBM 和 NVIDIA 推出 KV 缓存解决方案,展示显著的推理性能优势

Supermicro 宣布推出一款与 IBM 和 NVIDIA 共同开发的 KV 缓存存储解决方案。该方案结合了 Supermicro 全闪存存储服务器、IBM Storage Scale 软件、NVIDIA Dynamo 推理软件以及 NVIDIA Spectrum-X 网络。测试发现,与未使用 KV 缓存的系统相比,该方案缩短了长上下文 AI 模型开始响应前的等待时间。

发布时间:

更新时间:

发生了什么

超微电脑宣布与 IBM 和 NVIDIA 合作开发一款用于人工智能任务的存储方案。该方案结合了三方的服务器、存储软件、人工智能软件和网络技术。测试显示,使用长提示词的人工智能模型开始回应前的等待时间缩短;一份报道说,在一项特定测试中,首次回应速度最高快了 56 倍。

全球影响 / 市场背景

这款方案可能帮助人工智能系统更快回应,并更好地利用计算资源。但公告没有提供客户承诺、采用数据、销售额或财务影响,因此它对超微电脑业务的好处目前还不清楚。

下一步关注

  1. 查看是否有公司宣布部署该方案,因为这能说明是否有人在实际使用它。
  2. 查看是否公布了这项测试以外的测量结果,因为不同情况下的表现可能不同。
  3. 查看是否公布销售额或财务影响,因为公告没有说明该方案是否会带来收入。

受影响资产

  • AMD EPYC 9005 Series (Turin) processors
  • International Business Machines Corporation
  • NVDA
  • Super Micro Computer, Inc.

证据