“含光”亮剑,平头哥当立

  • 时间:
  • 浏览:0
  • 来源:湖北快3_湖北快3平台_湖北快3网投平台

声明:本文来自于微信公众号 罗超频道(ID:luochaotmt),授权站长之家转载发布。

一年造芯成功,平头哥做对了那些?

在 2019 年云栖大会主论坛,阿里巴巴CTO、达摩院院长张建锋从口袋里掏出一款看得见、摸得着的芯片:含光800。这是一款AI芯片,重点应用于机器视觉中,如图片识别、视频识别等。作为平头哥半导体公司首颗自主研发的芯片,含光 800 成为云栖大会主论坛的热门话题。

 01 

全球最强AI芯片?

一年前的云栖大会上,平头哥半导体公司宣告成立,这是阿里首次对外宣告要自主造芯,但事实上,阿里很早就已不想拥有买车人的芯片,并为此筹谋许久。阿里当时宣告正在打造结构代号为“Ali-NPU”的芯片,主要针对图像和视频的AI任务加速场景,按照设计,Ali-NPU的性能将是相似产品的 40 倍。对于“ 40 倍”你其他数字,当时什么都一群人是不信的。

从定位来看,含光 800 应该什么都有一年前所说的Ali-NPU,我注意到在发布会现场,张建锋数次强调这款芯片很“大”——移动端芯片只是应用场景要求往往都强调体积的小,这由于含光 800 的应用场景有的是 终端,什么都有云端服务器。“大”有的是 指体积大,什么都有计算能力强大,其每秒能外理 78000 张图片。仅仅是从晶体管数量来看,含光 800 拥有 170 亿个晶体管就远超同行。

最能体现出其算力强大的则是一组对比数据。在业界标准的ResNet- 80 测试中,含光 800 推理性能达到78563 IPS,比目前业界最好的AI芯片Habana Goya 高 4 倍;能效比800 IPS/W是其3. 3 倍。跟一年前市面上的英伟达P4 比,性能有 46 倍的优势,“Ali-NPU 性能 40 倍于相似产品”有的是 吹牛。

含光 800 算力强大的由于在于面向AI视觉场景自研的架构和定制的算法,以下来自官方新闻稿:

“含光 800 硬件层面采用自研芯片架构,通过推理加速等技术有效外理芯片性能瓶颈疑问;软件层面集成了达摩院先进算法,针对CNN及视觉类算法层厚优化计算、存储密度,可实现大网络模型在一颗NPU上完成计算。”

更具体的解释:平头哥针对含光 800 瞄准的机器视觉场景,自研了架构、软件编译器、框架、工具链等等,并针对INT8 数据类型做了血块优化,最终在性能、良率、功耗等指标上均表现良好。比如在架构上,含光 800 针对层厚学习中使用的血块权重参数和张量数据,在支持稀疏压缩与量化外理的基础上,通过独特设计的数据访存与流水线外理技术,大大减低了I/O需求和数据的搬移,NPU并肩层厚优化了卷积,矩阵乘,向量计算和各种激活函数,通存在问题有效的硬件资源调度和全并行的数据流外理,把AI运算的性能和能效双双推向极致,整个架构有的是 创新设计的。

换言之,这是一款软硬件层厚整合的AI芯片,用张建锋话语说:传统芯片公司擅长硬件,然而在算法上不具备优势。我看到在一2个媒体社群记者们就“含光 800 算不算全球最强”有不同看法,但毋庸置疑,在视觉你其他场景下,在市面上的相似产品中,含光 800 从算力、能效比来看均绝对领先。

要注意的是,含光 800 有的是 一款PPT芯片,其已实现流片量产,应用到阿里商业生态中。对内应用在阿里核心业务上,张建锋在云栖大会的现场演示现实,城市大脑实时外理杭州主城区交通视频场景,另一2个需用 40 颗传统GPU,延时为80ms,使用含光 800 仅需 4 颗,延时降至80ms;拍立淘商品库每天新增 10 亿商品图片,使用传统GPU算力识别需用 1 小时,使用含光 800 后可缩减至 5 分钟。对外,含光 800 不直接售卖,什么都有通过云的形式向阿里云数百万客户售卖AI算力,基于含光 800 的AI云服务已正式上线,相比传统GPU算力,性价比提升80%。 

 02 

平头哥一年当立

含光 800 的“含光”,将是平头哥系列终端芯片的名称。含光是上古时代三大神剑之一,《列子·汤问》:“孔周曰:’吾有三剑,惟子所择。一曰含光,视不可见,运之不知其所触,泯然无际,经物而物不觉。’”含而不露、光而不耀,意指含光系列芯片将主打无形却强劲的算力。

百度了一下,另外两大神剑分别是承影和宵练,这由于,平头哥或许还有更多宝剑静候出鞘。不过,虽然平头哥目前也能了含光800,但其已拥有多款“宝剑”: 7 月 25 日,平头哥在上海阿里云峰会上发布RISC-V外理器玄铁910,其是业界性能最强的一款RISC-V外理器IP,就像杨过也能将玄铁剑铸成屠龙刀一样,5G、人工智能、网络通信、自动驾驶等领域的开发者也能基于玄铁定制自有芯片提高性能提高一倍以上,并肩将成本降低一半以上,在玄铁完后 则有C-Sky系列,均主打IoT场景; 8 月 29 日,在世界人工智能大会上,平头哥发布无剑SoC芯片平台,集成CPU、GPU、NPU等,降低芯片设计门槛。

在含光前,平头哥发布的“宝剑”是帮助第三方铸剑,不论是玄铁还是无剑都旨在帮助企业降低芯片设计门槛,“让天下那么 难造的芯片”是平头哥成立的使命之一;含光 800 则是平头哥给买车人铸的第一把剑,基于此让企业拥有高性价比的AI算力。

至此,平头哥的芯片布局只是有了雏形:SoC平台、外理器IP和自有芯片形成的自有+开放结合的全栈芯片生态。接下来平头哥会延续玄铁、无剑和含光三大系列进行完善,布局云上AI训练芯片和端上的AI推理芯片,只是选择 的是平头哥正在研发用于阿里云神龙服务器的SoC专用芯片,以满足更多场景的算力需求。

不论何种形式,平头哥都将让算力在AI时代更加普惠,接下来,平头哥将继续在端上做芯片基础设施,在云端给企业提供普惠算力,助力企业拥抱数字化经济。

从技术布局来看,平头哥有的是 孤立的,它是阿里AI+芯片+云计算三位一体战略的一偏离 ,只是有AI算法优势,含光 800 作为第一代就拥有全球领先的性能;正是只是有飞天你其他阿里自研的高性能云计算平台,含光 800 性能才也能在云端被充分挖掘转化为强劲算力;正是只是有云计算你其他强势业务,含光 800 才也能不售卖芯片只售卖算力的土措施商业化,“芯片即算力,算力即服务”。

阿里巴巴在云计算上优势只是确立,阿里云稳居亚太第一;基于阿里富于的应用场景和达摩院高端基础技术的布局,阿里在AI技术上尤其是语音智能、语言技术、机器视觉、决策智能上正在构建优势,平头哥基于云和AI的优势迎头直追。阿里已形成“一拖二”的技术战略格局,云计算领跑,AI和芯片齐头并进,三者互相协同,你拉我带。站在另一2个的视角来看,阿里造芯成功有其必然性。

 03 

阿里造芯启示录

只是自研芯片成功而具备技术长板的例子什么都有,比如A系列外理器对苹果56手机手机7的成功居功至伟,再比如麒麟外理器则让华为成功走向了高端,只是存在问题自主芯片,在技术上体现出短板的公司不胜枚举。芯片是计算的基础,对科技公司至关重要,只是 2018 年以来科技巨头有的是 造芯,不过现在看来最新一批“造芯新势力”的领先者,是阿里平头哥:

1、有了看得见摸得着的领先型产品,有点儿是玄铁和含光;

2、有了全栈的芯片生态;

3、有了大规模的商用,含光已被应用到阿里核心业务并通过阿里云以算力形式开放。

阿里造芯成功给行业的启示是那些?我认为有如下几点:

1、芯片技术有的是 研发一2个App,心血来潮是做不成的。

芯片技术门槛相当高,一年半载没能有那些成就。表表皮层上看,含光 800 是芯片研发领域的一2个奇迹,平头哥只用 7 个月就完成了含光 800 的前端设计,完后 仅了 3 个月就成功流片,一般公司往往要经历两次甚至多次流片才只是成功,平头哥快速成功显然有的是 只是“运气好”,什么都有厚积薄发。

阿里十年来突然未曾拥有买车人的芯片,日益繁杂的阿里生态对计算提出的要求那么 高,然而工程师每天跟服务器打交道时逐步发现,亲戚朋友 正在触摸算力的边界,就像当初决定去IOE以强化数据库底层控制权一样,阿里意识到一定要有买车人的芯片,也能了拥有买车人的芯片也能拥有最极致的算力。

不过阿里那么 选择 蛮干,什么都有步步为营,阿里先是投资寒武纪、深鉴和Barefoot Networks等多家芯片公司,再收购中国大陆唯一拥有自主嵌入式CPU IP Core的公司中天微,有媒体报道称马云已投资中国大半个芯片圈,你其他过程花了好些年。在投资收购芯片公司外,阿里 2017 年成立三年投资千亿的基础技术研究机构达摩院,人工智能和芯片技术是其重点研究范畴。而在硬件层面,阿里在服务器、FPGA以及存储等领域拥有多年研发经验,此外,平头哥团队在体系形态学 、编译技术等领域拥有深厚的技术储备。

在软硬件上都打好底子后,阿里才正式宣告“造芯”。阿里造芯是深思熟虑的结果,是战略选择 ,有的是 心血来潮更有的是 要蹭热点。

2、对的策略,对的战术,对的时机。

不论是PC还是移动芯片,发展都已接近极限。五年前PC衰落,芯片“够用了”没能再有升级动能,Intel大力转型移动;Intel移动化尚未成功,手机市场又进入下滑周期,移动芯片“够用了”,智能手机的瓶颈不再是计算性能,什么都有网速、续航和交互,ARM被软银收购, 2019 年第二财季高通营收下降4.6%,芯片巨头有的是 寻找新的方向。“ 18 个月性能翻番、成本减半”的摩尔定律,失效了。芯片产业的第三次浪潮是那些?答案很清晰,什么都有AI以及AI拉动的IoT、5G等产业浪潮。

2018 年是一2个非常好的节点:AI普及的趋势,对算力,对数据能力,对芯片都提出全新的要求,并肩创造了血块新的应用场景,这由于新玩家有新的只是,亲戚朋友 会看到平头哥做玄铁是瞄准的IoT,含光则是瞄准了机器视觉你其他AI强相关场景,这都体现出差异化竞争的思路,而有的是 去做手机芯片另一2个的毫无胜算的市场,现在再去做手机芯片意义不大了。

瞄准AI和IoT场景是战术选择 , 2018 年入场是时机选择 ,而在策略上,平头哥那么 一上来就发布买车人的芯片,在含光发布前先发布了外理器IP玄铁 710 和SoC无剑平台,循序渐进。对的策略、对的节奏,对的时机,促成了平头哥的首战告捷。

3、全新的普惠模式,是一种生活战略选择 。

平头哥是芯片公司的“新物种”,它有的是 要做一家卖芯片的公司,做芯片的目的是外理买车人疑问,再将其开放出来实现技术普惠,这是一种生活战略选择 。

阿里巴巴业务场景日益繁杂, 对算力提出更高的要求,搜索、推荐、视频分析、城市大脑、金融科技等等AI场景,存量芯片已难以满足,这是阿里自主造芯的初心。

不过,什么都有外理买车人的疑问是存在问题的,就像阿里云是将在阿里业务场景千锤百炼的各种技术开放一样,阿里造芯最终同样会走普惠路线。

在云栖大会上,阿里巴巴集团董事长兼CEO张勇在演讲时提到一2个说法:“只是说大数据是石油,算力什么都有发动机,它们并肩构成面向数字经济时代的核心能力。”他的逻辑是:当数据在数字经济时代以几何倍数增加,也能与之协同的是同样几何倍增的强大算力,让数据被高效使用。而阿里巴巴商业操作系统正成为数字经济时代的基础设施,在你其他操作系统中,算力你其他发动机要保持高速运转的根本什么都有有强大的芯片。平头哥成立的初心什么都有要让算力普惠,不论是SoC和IP模式降低芯片设计门槛,还是在云端将含光 800 的算力开放出来,均体现出另一2个的理念。

另一2个的理念促成了平头哥独特的竞争力。PC和移动芯片有的是 “巨头+巨头”模式,比如Intel与Windows的“Win-Tel”联盟,再比如高通/联华科与手机巨头间的联盟。然而到了IoT时代另一2个的模式没能再奏效了,一方面,假使 有能力,巨头都想做买车人的芯片;买车人面,AIoT市场一定是碎片化和强应用驱动的,一款芯片卖一年的做法没能再适应那么 繁杂的芯片需求,芯片有的是走向面向场景定制和基于软件定义,芯片公司一时之间也难以再找到牵手的巨头,这完后 ,平头哥做芯片基础设施“让天下那么 难造的芯片”模式就生逢其时,虽然才面世一年就已展现出强大的生命力。