请选择 进入手机版 | 继续访问电脑版
搜索
房产
装修
汽车
婚嫁
健康
理财
旅游
美食
跳蚤
二手房
租房
招聘
二手车
教育
茶座
我要买房
买东西
装修家居
交友
职场
生活
网购
亲子
情感
龙城车友
找美食
谈婚论嫁
美女
兴趣
八卦
宠物
手机

中国西部煤炭网 荷兰中文网 Graphcore如何能成为西方半导体业唯一“独角兽”?遗忘预言巨剑

[复制链接]
查看: 737|回复: 0

1万

主题

4万

帖子

7万

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
75772
发表于 2019-7-12 07:28 | 显示全部楼层 |阅读模式
这是写在帖子头部的内容


总部位于英国布里斯托(Bristol,UK)的新创公司Graphcore,开辟了一款被称为智能处置单元(intelligence processing unit,IPU)的新型AI加速器;该公司在2016年在风险本钱业者的支持下诞生,并在2018年12月停止的最初一轮融资召募了2亿美圆。
Graphcore估量市值达17亿美圆,被以为是西方半导体产业界唯一的“独角兽”,其投资者包括Dell、Bosch、BMW、Microsoft和Samsung等巨头。EE Times记者比来采访了Graphcore履行长Nigel Toon (文章上方大图右,左为Graphcore技术长Simon Knowles),泛论该公司愿啊I加速器市场以及AI范畴未来成长。
EE Times:Graphcore的IPU芯片已经起头销售了吗?以什么形式?
我们的产物已经量产出货以获得营收,今朝正在与少少数早期客户合作。我们今朝的首要产物是一款可插入办事器的double-width、full-height 300W PCI Express卡,顶部毗连器可以实现卡间互连。每一片Graphcore C2卡都配有两颗Colossus IPU处置器芯片;该芯片自己,即IPU处置器,是迄今为止最复杂的处置器芯片──在16纳米单芯片上包容了240亿个晶体管,每颗芯片可供给125 teraFLOPS运算力。
我们能在一个标准4U机箱中插入8张卡,卡间透过IPU链路互连。卡上的处置器能像是同一个处置单元般配合运作,供给双petaFLOPS的运算力。IPU与CPU和GPU的运算架构分歧,能为机械智能供给更高效力的处置平台。这类运算模块能利用于云端运算办事器,也具有进驻自动驾驶车辆的潜力。
EE Times:Graphcore若何因应在数据中心履行深度进修软件仓库的应战?
在曩昔3、4年突起的标准化深度进修框架,如TensorFlow和PyTorch,搭配ONNX等图形描写子(graph descriptors),能支持某些框架之间的数据交换,让开辟职员快速设想神经收集;这些设想根基上是图形框架,也就是说,它们描写了一种包括运操纵数(operators)和图形内部元素链接的数学图形。
而我们从这些高阶框架中获得输出并将其输入到我们称之为Poplar的软件层;Poplar饰演我们的映照和编译工具,采用高阶框架图形并将它们映像成为在IPU处置器上履行的完整运算图形。每颗IPU处置器都有1,200个自力的公用焦点,以及机械进修所需的一切控制操纵和超越函数(transcendental function)。每个IPU焦点可履行多达六个法式线程;是以假如你有16颗处置器,在一个4U机箱中可以履行跨越10万个自力的平行法式。
正是这类平行化水平,让用户可实现快速练习模子并停止实时操纵──这也让我们可以在自然说话处置以及了解自动驾驶车辆利用的视频方面获得重猛停顿。是以,强大的平行处置才能真的很是重要。
有了Graphcore的IPU,能在处置器内部天生完整的机械进修模子。该处置用具稀有百MB的RAM,可在处置器上以跨越1.6GHz的速度全速运转;其中的提早已被法式线程隐藏。若GPU内具有高带宽内存(HBM)等内存技术,还能以更快的速度操控模子。
HBM可到达900GBps的内存带宽,我们的单颗IPU处置器则可约45TB内存带宽;是以一个4U机箱中若有16颗处置器,将带来大量的内存带宽──能平交运作不计其数个法式线程;这是我们得以加速机械智能使命履行速度的部分缘由。
EE Times:与市道上领先的GPU计划相较,Graphcore的IPU性能表示若何?
这取决于使命。假如是履行用以分类静态影象的前馈卷积神经收集(feed-forward convolutional neural networks),GPU的表示已经相当好,但IPU可以供给两到三倍的性能上风、偶然甚至是五倍。对于更复杂的模子,例若稀有据往返传递以尝试了解情境(例如对话)的模子;由于数据被传递屡次,需要很是快。对于这样的利用,由于一切的模子都保存在我们的处置器中,IPU可以比GPU快很多,甚至能够快十倍、二十倍大概五十倍。
EE Times:Graphcore能否计划将性能测试成果送交MLPerf或其他基准检验平台?
我们会这么做;今朝我们专注在与早期客户合作,帮助他们处理现实题目,但我们会回过甚去做一些基准检验。基准检验平台的题目在于它们比力守旧,凡是专注于标准的卷积神经收集(CNN),可是这个产业已经往前走了很大步。虽然基准检验是有用的相对权衡标准,但看到产物在现实利用上的实在性能表示也很重要。
创新成长可说日新月异,很难保证你不是“拿苹果跟橘子比”;假如采用标准框架,(为了比力)在分歧的系统上停止尝试也很轻易。
EE Times:Graphcore的IPU芯片在推论与练习上都适用吗?
是的,你可以用不异IPU芯片停止推论或练习;从架构的角度来看,这对我们很是重要,由于随着机械进修演进,系统将可以从经历中进修。推论性能表示的关键包括低提早、能利用小模子、小批次(small batches),以及能够会尝试导入稀疏性(sparsity)的练习模子;IPU可以有用地完成一切这些工作。
是以在一个4U机箱中,16颗IPU配合合作合作停止练习,每颗IPU可以履行自力的推论使命,并由一个CPU上履行的虚拟机来控制,终极你会获得一个可用于练习的硬件。是以一旦模子被练习、布署,随着模子演进且我们起头想要从经历中进修时,便可以采用不异硬件。
EE Times:在人材方面,Graphcore将若何培育软件开辟工程师,就像是合作对手Nvidia为CUDA技术所做的?
Graphcore的映照和编译工具Poplar虽然在某种水平上与CUDA差不多,但现实上是一种法式说话,不是在较低层级描写图形的框架。你可以在Poplar中描写一种新型的卷积函数,或一种新型的递归神经收集层,将之视为高阶框架中的函式库元素(library element)。我们可供给各类高阶运操纵数与函式库元素,还有很多低阶运操纵数;你可以轻松将之互连以建立新的函式库元素,大概是假如你想做一些完全创新的工作,可以利用Poplar C ++情况建立自己的工具。
我们希望大师分享他们的创新让其他人利用。假如你检视Google的TPU或NVIDIA的GPU,会发现很多函式库元素都是封锁的黑盒子,没法看到它们是若何打造;但而我们的是开放的,人们可以停止点窜并扩大,我们希望建立的是这样的一个开放社群。
EE Times:在AI范畴,Graphcore面临的是包括Google、百度(Baidu)、Nvidia、Intel,以及听说也在开辟自家芯片的数据中心巨头Facebook、阿里巴巴(Alibaba)等对手。Graphcore将若何与那些公司合作?假如数据中心业者开辟自己的AI加速器,市场合作态势又将若何变化?
我以为会有三个首要市场。首先是一个相当简单的小型加速器市,凡是是以利用于手机的IP焦点形式来供给;我们晓得一些手机大厂已经在停止这类开辟,但我们没有介入这个市场。
还有一个是类似ASIC组件的市。痪倮此,某家公司具有具有大量用户的特定工作负载──也许他们经营一个很大的交际收集──他们可以在一颗芯片中建立一个很是具体的功用,然后在数据中心布署该芯片以加速履行此功用。这类ASIC范例计划市场也会很大,但我们也没有介入。
我们在做的是一种通用处置器,可以让你用来做很多分歧的工作,而且是以惊人的效力。假如该技术利用于云端运算情况,能很是轻松地处理题目,而且功用多样、轻易编程,并带来极具效益的成果…我们相信这是一种能在市场上致胜的技术。
人们打造专属ASIC范例芯片的究竟,几近可证实GPU并非市场所需。市场需要的是一种更高效益、轻易利用、为机械智能量身打造的处置器,这正是我们所做的。我们以为通用IPU有机遇构成迄今最大的一个市场种别,透过为以上一切题目从零起头打造一种更高效益的处理计划,我们相信我们能主导该范畴的产业标准。
EE Times:在AI加速器市场仿佛成为带领者的GPU,实在在一路头并不是为了这个目标而设想,您以为它会继续占据支流职位吗?
假如只是要做根基的前馈卷积神经收集,GPU是很不错的处理计划,但随着收集变得越来越复杂,人们需要全新的处理计划──这也是为何他们要用ASIC和FPGA。
我们打仗过的一切创新者都说,利用GPU会障碍障碍他们的创新,而假如仔细看一下他们正在做的模子品种,会发现他们首要采用的是CNN形式,由于递归神经收集和其他品种结构,例如强化进修,不能很妥帖地映像在GPU。研讨范畴由于缺少够好的硬件平台而受限,这也是为什么我们要将IPU推向市场。
EE Times:Graphcore会进入企业利用市场吗?假如答案是必定的,你们要若何在合作对手环伺的该市场脱颖而出?
企业利用市场很成心机,出格是当很多公司正尝试停止实在的深度进修──我们对这个部分出格感爱好,也并专注于此。题目是,我们该若何打仗这类客户?他们遍及全球,分离在分歧的垂直市。欢杂谛麓垂纠此,这是一个很难进入的市场。
但我们的战略可以说相当“狡猾”──我们与Dell建立了亲近的合作关系;Dell是我们公司的投资者,透过与他们合作,我们顺遂地进入企业利用市,并透过量种分歧形式将我们的技术供给给客户。举例来说,我们的产物能够是4U规格一体化IPU办事器,也能够是内建单片IPU PCI卡的工作站;我们有很多分歧的选项瞄准这个市,我们也已获得管道。
EE Times:恭喜你们成为西方半导体界的唯一“独角兽”;具有如此高的身价,Graphcore将若何确保投资者获得杰出的投资报答?
具有很高的估量市值对我们的公司来说是好事,由于那是公司营业形式的有力考证,而且能让我们可以筹集到大量资金。我们现在具有具有惊人长大速度的“火力”,这很是重要,由于我们地点的是一个新兴市。徽饫喽谖蠢吹牧街寥昴诜⒒痈谢,我们得在这段时候内跑得很是快,以成为市场上的领先者。
感激您的阅读

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Copyright © 2006-2014 人才网||人才市场 网上求职|网上找工作 上潜力英才网 版权所有 法律顾问:高律师 客服电话:0791-88289918
技术支持:迪恩网络科技公司  Powered by Discuz! X3.2
快速回复 返回顶部 返回列表