当前位置:首页 > 资讯中心 > 汗汗漫画网 > 正文

黄仁勋:AI彻底改变计算堆栈,现在,存储也加入了这场变革丨直击CES

2026-01-06 10:31 精品歌词网

专题:2026年度国际消费电子展(CES)

  新浪科技讯 1月6日上午消息,在国际消费电子产品展览会(CES 2026)上,NVIDIA宣布,NVIDIA BlueField-4数据处理器作为全栈NVIDIA BlueField平台的一部分,为NVIDIA推理上下文记忆存储平台提供支持,这是一种新型AI原生存储基础设施,专为AI新前沿而打造。

  随着AI模型扩展到数万亿参数和多步骤推理,它们会生成大量的上下文数据,并以键值(Key-Value,KV)缓存表示,这对准确性、用户体验和连续性至关重要。键值(KV)缓存无法长期存储在GPU上,因为这会成为多智能体系统中实时推理的瓶颈。AI原生应用需要一种新型的可扩展基础设施来存储和共享这些数据。

  据悉,NVIDIA推理上下文记忆存储平台通过扩展GPU内存容量为上下文记忆提供基础设施,实现跨节点的高速共享,与传统存储相比,可将每秒处理的token数量和能效提升高达5倍。

  NVIDIA创始人兼首席执行官黄仁勋表示:“AI正在彻底改变整个计算堆栈,现在,存储也加入了这场变革。AI不再是那种单次交互的聊天机器人,而是能够理解物理世界、进行长期推理、基于事实、使用工具完成实际工作并兼具短期和长期记忆的智能协作伙伴。借助BlueField-4,NVIDIA及其软硬件合作伙伴正在为AI新前沿重塑存储堆栈。”

  NVIDIA推理上下文记忆存储平台可提升键值(KV)缓存容量,并加速机架规模AI系统集群之间的上下文共享,同时为多轮AI智能体的上下文持久地提高响应速度和AI工厂吞吐量,并支持长上下文、多智能体推理的高效扩展。(文猛)

上一篇:广电总局:拟8月份起不播娱乐性强的古装剧偶像剧
上一篇:没有上一篇了
  • 黄渤执导电影《一出好戏》将于4月2日登陆韩国

    黄渤执导电影《一出好戏》将于4月2日登陆韩国

    3月23日消息,据外国媒体报道,樊登读书会由黄渤导演,黄渤,遮天之永生大帝舒淇,王宝强,张艺兴等出演的华语片《一出好戏》发布韩国版海报,确定将于4月2日登陆韩国。该片于2018年8月10日在中国内地上映。讲述了公司员工团建出游遭遇海…
    03-23
  • 王祖蓝李亚男女儿1岁生日 苟芸慧自封“怪阿姨”

    王祖蓝李亚男女儿1岁生日 苟芸慧自封“怪阿姨”

    北京时间12月21日消息,据香港媒体报道,套博鳌李亚男和王祖蓝女儿王天韵(Gabby)一岁生日,两夫妻为女儿举行生日派对,李亚男的好姐妹王君馨(Grace)与苟芸慧(苟姑娘)都有出席派对。王君馨与和苟姑娘分别在社交网上载照片,范德蒙行…
    12-21
  • 何小鹏称支付宝以后应该开发机器人的刷脸支付功能

    何小鹏称支付宝以后应该开发机器人的刷脸支付功能

    新浪科技讯8月12日上午消息,小鹏汽车董事长,UC优视创始人何小鹏今天上午发布视频称,自己用钢铁助理操作手机预定了MONAM03。他表示,也许以后不仅仅是在互联网有“嘴替”了,现实生活中也有“手替”了。何小鹏在视频中展示了钢铁助理手…
    08-12
  • 肖恩门德卡米拉牵手漫步 被偶遇共进早餐享受安静

    肖恩门德卡米拉牵手漫步 被偶遇共进早餐享受安静

    据外媒,肖恩门德(ShawnMende)周三下午在纽约被发现与卡米拉卡贝罗(CamilaCabello)一起庆祝生日。目击者表示卡米拉看到了一家她想去的商店,随后便进入商店,ihos登录而肖恩呆在外面并且在通电话。当他们重聚时,他们牵着手一起在街…
    08-09
  • 张凌赫方回应跑男中写错字:正片使用了未更正镜头

    张凌赫方回应跑男中写错字:正片使用了未更正镜头

    此前,有网友发现张凌赫在《奔跑吧》节目中把“糕”写成了“榚”,引发争议。28日,粉丝针对书写争议求证张凌赫方得到反馈,称当时录制情形较急,艺人写完后已经及时改正,但正片错误使用未更正镜头。艺人的“糕”字最终版并不存在书写错…
    06-29