当前位置:首页 > 资讯中心 > 家店装休在线 > 正文

亚马逊与 AI 公司 Hugging Face 合作:定制芯片低成本运行 AI 模型

2024-05-23 14:23 精品歌词网

IT之家 5 月 23 日消息,亚马逊公司的云部门宣布,已与人工智能初创公司 Hugging Face 合作,将在亚马逊的定制计算芯片上更低成本地运行数千个 AI 模型。

估值 45 亿美元(IT之家备注:当前约 326.25 亿元人民币)的 Hugging Face 已成为 AI 研究人员和开发者分享聊天机器人或其他 AI 软件的中心,并得到了亚马逊、Alphabet 旗下的谷歌和英伟达等公司的支持,它是开发者获取和调整开源 AI 模型(如 Meta Platforms 的 Llama 3)的主要平台。

当开发人员调整了开源的 AI 模型后,他们通常希望使用该模型来驱动软件。亚马逊和 Hugging Face 周三宣布,他们已经合作在一个名为 Inferentia2 的定制亚马逊网络服务(AWS)芯片上实现这一目标。

“对我们来说,效率非常重要 —— 确保尽可能多的人能够运行模型,并且能够以最具成本效益的方式运行,”Hugging Face 的产品和增长负责人 Jeff Boudier 说。

AWS 希望吸引更多的 AI 开发者使用其云服务来交付 AI。虽然英伟达在训练模型的市场上占据主导地位,但 AWS 认为其芯片可以以较低成本运行那些经过训练的模型。

负责 AWS 人工智能产品的 Matt Wood 表示,你可能每个月训练这些模型一次,但可能每小时对它们进行成千上万次推理,这是 Inferentia2 真正闪光的地方。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

上一篇:广电总局:拟8月份起不播娱乐性强的古装剧偶像剧
下一篇:1亿美元!文远知行披露Uber最新投资详情:未来5年将在海外15座新增城市部署Robotaxi
  • 武汉全市影院暂停营业 各区影院陆续关停

    武汉全市影院暂停营业 各区影院陆续关停

    据21世纪经济报道消息,阿兰娜·莫特森经多家武汉影院人士交叉印证,牟其中的八大金刚武汉全市影院暂停营业,青海企划平台各区影院陆续关停中。目前,青海企划平台2020春节档的七部电影已全部撤档。…
    01-23
  • CUBE娱乐创始人洪胜成要求调查音源囤积

    CUBE娱乐创始人洪胜成要求调查音源囤积

    据韩国媒体报道,吉林财经大学教务处2月16日CUBE娱乐洪胜成会长通过CUBE娱乐表示:“通过所有音乐人的努力和热情发展起来的韩流正在走向世界中心,梦想三国武将排名但是国内音乐产业却在倒退。”“本应该引领音源产业的榜单已经沦落为音…
    02-16
  • 莲藕重逢!马伊琍晒与梅婷合影亲密无间

    莲藕重逢!马伊琍晒与梅婷合影亲密无间

    10月27日,偶偶吧美眉网马伊琍在微博晒出与梅婷的合影,废后将军结局并配文:“莲藕重逢,送小羊回家4鲜嫩依旧。”两人并肩靠在一起,德尔塔符号对着镜头露出微笑亲密无间。据悉,废后将军结局两人在电视剧《在远方》中分别饰演路晓欧与…
    10-27
  • Meta推出新版自研AI芯片:性能较上代提高三倍,降低对英伟达依赖

    Meta推出新版自研AI芯片:性能较上代提高三倍,降低对英伟达依赖

    AI(人工智能)芯片紧缺之际,越来越多科技巨头选择自行研发。当地时间4月10日,社交巨头Meta公布了自主研发芯片MTIA的最新版本。MTIA是Meta专门为AI训练和推理工作设计的定制芯片系列。和去年五月官宣的Meta第一代AI推理加速器MTIAv1相…
    04-11
  • 为确认杨紫是否把自己当最好的朋友 乔欣竟这样做

    为确认杨紫是否把自己当最好的朋友 乔欣竟这样做

    近日,乔欣在节目中称自己有社交敏感,“经常收了工就回房间,所以一部戏拍完也不会遇到几个好朋友”,“但拍完《欢乐颂》之后,恰比天文台就和杨紫变成了好朋友”。她还表示杨紫是自己在圈内最好的女性朋友。当蔡康永问及“万一杨紫在别…
    08-20