Facebook开源AI硬件,一口气推出“三件套”

来源:快报
责任编辑:王亮
字体:

新智元报道

来源:Facebook, VentureBeat

编辑:元子

【新智元导读】面对每个月27亿活跃用户产生的数据量,Facebook将重心从通用硬件转向AI专用硬件。在今天的开放计算项目全球峰会上,发布并开源了3款AI硬件,分别是面向训练的Zion、面向推理的Kings Canyon及面向视频转码的Mount Shasta。

一个全家桶app,每个月要服务27亿人,不容易呐!不信你问Facebook。

为了应对大量的算力要求,这家位于Menlo Park的技术巨头,硬是从通用硬件转移到了专用加速器。这些加速器的作用,是保证其数据中心的性能,功耗和效率,特别是在AI领域。

今天,Facebook一口气推出了3款硬件产品,分别是用于AI模型培训的“下一代”硬件平台Zion;以及针对AI推理优化的定制专用集成电路Kings Canyon;以及视频转码Mount Shasta。并捐赠给旗下的开放计算项目使用。

Open Compute Project(OCP)是Facebook在2011年4月发起的一個数据中心开放架构技术发展组织,目前成员包括Intel、Red Hat、Facebook、Mozilla、Rackspace、NTT Data、百度、高盛以及Google等。

https://benchlife.info/8597-2/

Facebook称这三款硬件产品将大大加速AI的训练和推理。“人工智能用于各种服务,以帮助人们进行日常互动,并为他们提供独特的个性化体验,” Facebook工程师Kevin Lee,Vijay Rao和William Christie Arnold在博客文章中写道,“在整个Facebook的基础设施中使用人工智能工作负载,能够增强各服务之间的相关性,并改善我们的用户体验。”

Zion

Zion为AI训练创建Block

和Block之间通信

Zion专为处理包括CNN,LSTM和SparseNN在内的神经网络架构的“频谱”而量身定制。包括三个部分:拥有8个NUMA CPU插槽的服务器;配备了8加速器芯片组,以及一个厂商中立(vendor-agnostic )的OCP加速器模块(OAM)。

Zion的高内存容量和高带宽,得益于两个高速fabric,一个用来连接所有的CPU,另一个用来连接所有的加速器。除此之外,还得益于其灵活的架构,可以使用顶部扩展到单个机架中的多个服务器机架式(TOR)网络交换机。

“加速器内存带宽高但容量低,所以我们通过对模型进行分区来解决这个问题:将频繁访问的数据驻留在加速器上,而访问频率较低的数据驻留在带有CPU的DDR内存里,“Lee,Rao和Arnold解释道,“所有CPU和加速器的计算和通信都是平衡的,并通过高速和低速互连,极大地提高了效率。”

Kings Canyon

Zion为AI推理创建Block

和Block之间通信

至于专为推理任务而设计的Kings Canyon共分四个部分:Kings Canyon推理M.2模块;Twin Lakes单插槽服务器;Glacier Point v2载卡;以及Facebook的Yosemite v2机箱。Facebook表示正在与Esperanto、Habana,英特尔,Marvell和高通公司合作,开发能够同时支持INT8和高精度FP16工作负载的ASIC芯片。

ASIC不运行通用代码,需要专门的编译器将图形转换为在这些加速器上执行的指令。Glow编译器的目标是从更高级别的软件堆栈中抽象出特定于供应商的硬件,以使基础架构与供应商无关。它接受来自PyTorch 1.0等框架的计算图,并为这些ML加速器生成高度优化的代码。

Glow编译器

Kings Canyon中的每台服务器都结合了M.2 Kings Canyon加速器,以及一个连接Twin Lakes服务器的Glacier Point v2载卡。其中两个被安装到Yosemite v2 sled中,并通过NIC链接到TOR开关。Kings Canyon模块包括一个ASIC,一个内存及其他支持组件,比如通过PCIe通道与加速器模块通信的CPU。而Glacier Point v2包含一个集成的PCIe交换机,允许服务器同时访问所有模块。

“通过适当的将模型进行分割,我们得以运行非常大的深度学习模型。例如,对于SparseNN模型,如果单个节点的内存容量不够用,就在两个节点之间对模型进行分片,从而增加模型可用的内存量。“Lee,Rao和Arnold说过,“这两个节点通过多主机NIC连接,允许高速交换。”

Mount Shasta

Mount Shasta是与Broadcom和Verisilicon合作开发的ASIC,专为视频转码而开发。在Facebook的数据中心内,它将被安装在带有集成散热器的M.2模块上,位于可容纳多个M.2模块的Glacier Point v2(GPv2)载板中。

Facebook表示,平均而言,预计这些芯片的效率会比目前的服务器“高出许多倍”。它的目标是在10W功率范围内,以60fps速度输入流编码效率至少比4K高出一倍。

“我们希望Zion、Kings Canyon和Mount Shasta的设计,能够满足我们在AI训练、AI推理和视频转码方面不断增长的工作量。”Lee,Rao和Arnold写道,“我们将采取硬件和软件协同设计,不断改进硬件产品的效率。但一家厂商的能力终归有限,希望更多的厂商都能够进入Facebook的生态中,共同努力。“

参考链接:

https://code.fb.com/data-center-engineering/accelerating-infrastructure/

https://venturebeat.com/2019/03/14/facebook-open-sources-hardware-for-ai-model-training-and-inference/

请注意:本文转载自QQ快报,并不代表本网赞同其观点,版权归原作者所有,本网不承担任何责任,特此声明。

根据您访问的内容,您可能还对以下内容感兴趣,希望对您有帮助:

Facebook怎么不让别人看见我的好友?

答:Facebook不让别人看见我的好友操作方法: 1、打开Facebook - Friends - 好友列表右上方有个笔的标志 - 点击,Edit Privacy 2、然后设置成Only Me就可以 Facebook常用隐私设置具体操作方法: 1、在Facebook上分享 帐户 > 隐私设置 > Facebook分享...

Facebook怎样提到别人

答:在留言或是写东西的时候想到提到某人或是一些人,只要加个@然後再输入人名,然後就会弹出要你选择人的选项。 Facebook(脸书)是美国的一个社交网络服务网站 ,创立于2004年2月4日,总部位于美国加利福尼亚州帕拉阿图,2012年3月6日发布Windows...

facebook注册最好填什么电子邮箱

答:一般社交网站注册并不会限定使用什么邮箱,你可以使用你所拥有的任何邮箱,包括QQ邮箱来进行注册。若你担心它不支持数字帐号,那么你可以开通英文帐号用以注册。不过这得登录电脑,进入邮箱网页版之后,点击页面左上方的设置,在“帐户”选项卡中...

中国可以使用facebook吗?

答:facebook中国也是可以使用的。 需注意:要手机或pad本身有网络。 一、安卓系统操作步骤如下: 下载安装netpas云墙安卓版,直接百度搜就行; 打开云墙进入加速界面; 点击绿色模块的三角按钮连接加速; 点击绿色模块,进入加速列表界面,如果fb没...

如何在Facebook上投放广告

答:选择一款合适的辅助软件也很重要!下面是一米软件facebook群控,你可以了解一下 1,多Facebook账户管理:可独立设置每个Facebook账户的cookie和登录环境等,并集成界面统一切换管理。 2,批量发布图文动态:可对每个FB账户进行图文日志发送,更...

FaceBook如何回复别人给自己的评论?

答:你发了一条状态,别人评论你的状态。你在你的状态裏面回覆他们都能知道的只要某某人赞了或者是在你的状态裏面留言过一次。接下来不管任何人留言都能收到系统的提示的。 也就是在自己的Facebook动态那会看到别人的评论,如果你想回复别人给自己的...

facebook可以在中国使用吗

答:可以在中国使用。但是需要一些特殊的处理以后才能在中国正常使用facebook。但是在中国的使用率比较小,一般都用微信,陌陌。你可以通过连接国际网络使用。 拓展资料:在中国怎么使用facebook。1、需要稳定连接到国际网络才能使用Facebook创建账...

facebook怎么设置中文

答:请到设置>通用(账户通用设置)> 语言(点击编辑)>选择主要语言> 保存更改就可以了

facebook 改名字怎么改

答:1、在 Facebook 的右上角,点击 “帐户”。 2、选择 “帐户设定”。 3、点击 “帐户设定”后,进入以下的页面 – 我的帐户页面。点击 “设置”。 4、 在 “用户名” 栏的右边,点击 “更改”。 5、点击 “更改”后,出现一些供选择的名字,储存就可以了。 Faceb...

为什么中国不能上YouTube、facebook、twitter?

答:因为 这些网站在国外,国内部门无法管理它们,所以只能禁止访问。 国内要访问这些网站,需要借助代理。 你可以留下邮箱,有人会发工具给你的。你也可以到 fbk365 上下载到。

声明:以上内容由用户提供,并不代表本网赞同其观点。如有任何不妥,请与不良与违法信息举报中心联系:513175919@qq.com

www.book1234.com true http://www.book1234.com/q/20190315/20190315A0J31S.html report 79661
娱乐时尚
科技资讯
历史文化
真视界
旅游美食
精彩图文
我爱我车
母婴健康
关于本站 | 广告服务 | 手机版 | 商务合作 | 免责申明 | 招聘信息 | 联系我们
Copyright © 2004-2018 book1234.com All Rights Reserved. 布客网 版权所有
京ICP备10044368号-1 京公网安备11010802011102号
12345678910 热门社会娱乐体育军事汽车财经科技育儿历史美食数码心理时尚宠物收藏家居文化三农健康科学游戏动漫教育职场旅游电影教育考试: 学历财经建筑 医药公考资格外语电脑作文招聘中小学留学 文档 移民 文库专栏23问答中心z资讯z资讯1资讯涨资讯涨资讯1资讯问答图书馆知识IT编程数码信息解决方案信息中心IT科技问答新闻中心软件教室设计大全网络相关英语学习开发编程考试中心参考范文管理文库营销中心站长之家IT信息中心商学院数码大全硬件DIY企业服务网吧在线百科硬件知识手机平板汽车游戏家电精彩摄影现代家居IT女人经验健康养生猎奇创业攻略教育学习历史时尚潮流最近更新涨知识