登录注册   忘记密码

怎样发挥Kirin 970人工智能的最大威力?

在华为发布搭配NPU的Kirin 970之后,行内人员都对这个AI芯片的应用充满了各种想象和疑问,这不但因为它是业界首颗集成NPU的移动SoC,更因为它的强悍性能。据公开资料显示,Kirin 970每分钟处理2005张图片;而在没有NPU的情况下,同样时间处理的图片只有97张。可见NPU在人工智能世界里的实力。

TIM截图20180327151251.png

华为无线终端芯片产品市场总监周晨


华为无线终端芯片产品市场总监周晨在日前于香港举办的Linaro 开发者大会上也表达了同样的观点。他指出,NPU由于本身设计的独特性,能够高效地运行神经网络模型,大大提升推理的效率,这是CPU和GPU所不能比拟的。但华为的AI布局并不仅仅是NPU,他们所提供的是一套便捷的解决方案:

TIM截图20180327151325.png

Kirin 970的GPU/CPU/NPU的Die面积和NN性能对比



HiAI是基础

华为HiAI移动计算平台是一个开放的AI生态,能够将Kirin 970的AI能力“赋予”第三方的应用,而这主要基于开发者的需求所决定的。在周晨看来,现在的开发者在做开发的时候,非常关注开发成本、收益和IP保护三个方面,而HiAI正好能够完美解决这解决这个问题。

640.webp (27).jpg

HiAI移动计算平台


作为一个面向人工智能应用的异构计算机构。HiAI拥有了几项方便开发者的特性:


(1)提供一些经常被使用的人工智能功能API,这样的话上层应用就可以利用这些API更好的将相关模型在移动设备上运行;


(2)支持更多主流的架构,兼容更多的模型;


(3)提供对模型和算子的独立硬件加速。


(4)异构计算配置,能够让开发者可以灵活的配置神经网络模型的加速。从上图我们可以看到,HiAI底层提供了GPU、CPU、DSP和NPU的硬件支持,应用在运行的时候,芯片会判断工作量和对时延的需求,然后自动选择GPU或者AI加速器执行相关处理,这样就能达到性能最优化处理的效果。

640.webp (28).jpg

HiAI最新SDK支持的项目


根据周晨介绍,HiAI移动计算平台支持稀疏模型加速,且NPU可以跳过系数为零的乘加运算,这可在保持计算精度的同时,大大提高计算效率,并降低了带宽要求;另外,HiAI移动计算平台支持8位和1位量化,有效降低计算带宽和存储消耗,提高能耗效率。


在这个基础之上,华为还将对HiAI持续升级(例如增加对Caffe 2和ONNX等的支持),保证整个平台符合新兴应用的需求。 



Hikey 是加速器


有了HiAI之后,开发者就能基于其开发应用了,但并不是所有的开发者都能够买一个搭载Kirin 970芯片的手机来开发,且手机上的接口并不能很完美地符合开发者的需求。为了更好地拓展Kirin 970的AI应用范围和方向,华为推出了一个实用的解决方案——HiKey 970 AI开发板。从与周晨的交流中我们得知,这已经是华为Hikey开发板系列的第三款了。

TIM截图20180327151433.png

Hikey 970


周晨表示:“新的Hikey 970不但支持华为HiAI SDK,而且相对于纯CPU运算AI,Hikey 970更有25倍的性能提升和50倍的效率提升。当然,支持流行的AI栈、主流的OS和更多的硬件接口也是必不可少的。”

TIM截图20180327151510.png

HiKey 970的规格


在周晨看来,通过提供开发板的方式,一方面可以让大家能够感受到Kirin 970的人工智能实力,能在上面做更多的创新,为华为和相关的开发者提供更多的应用方向;另一方面,由于有了更多的开发者在上面投入开发,也为芯片升级提供了更多思路和指引方向,从而为更好地满足开发者的需求,也为消费者带来更好的体验。


华为方面也打算通过人才培养、开发支持,创新支持和市场等计划来扩展Hikey 970的覆盖范围。

TIM截图20180327151527.png

闪耀明星计划


关于AI,其实大家最关注的还是应用的问题,在问到华为对于AI未来应用的展望时。


周晨回答说:“现在华为的HiAI的API已经支持了比较多的应用,展望未来的更多创意方向,期待大家的共同挖掘。”

640.webp (29).jpg

HiAI目前支持的多种类型应用


你对AI的应用有什么期望?

您的评论:

0

用户评价

  • 暂无评论