炼数成金 门户 商业智能 深度学习 查看内容

小米开源自研移动端深度学习框架MACE

2018-7-2 10:51| 发布者: 炼数成金_小数| 查看: 17237| 评论: 0|原作者: Amusi|来自: CVer

摘要: Mobile AI Compute Engine (MACE) 是一个专为移动端异构计算平台优化的神经网络计算框架。主要从以下的角度做了专门的优化:代码经过NEON指令,OpenCL以及Hexagon HVX专门优化,并且采用 Winograd算法来进行卷积操作 ...

模型 框架 深度学习 开源 C++

Mobile AI Compute Engine (MACE) 是一个专为移动端异构计算平台优化的神经网络计算框架。主要从以下的角度做了专门的优化:

性能
代码经过NEON指令,OpenCL以及Hexagon HVX专门优化,并且采用 Winograd算法来进行卷积操作的加速。 此外,还对启动速度进行了专门的优化。

功耗
支持芯片的功耗管理,例如ARM的big.LITTLE调度,以及高通Adreno GPU功耗选项。

系统响应
支持自动拆解长时间的OpenCL计算任务,来保证UI渲染任务能够做到较好的抢占调度, 从而保证系统UI的相应和用户体验。

内存占用
通过运用内存依赖分析技术,以及内存复用,减少内存的占用。另外,保持尽量少的外部 依赖,保证代码尺寸精简。

模型加密与保护
模型保护是重要设计目标之一。支持将模型转换成C++代码,以及关键常量字符混淆,增加逆向的难度。

硬件支持范围
支持高通,联发科,以及松果等系列芯片的CPU,GPU与DSP(目前仅支持Hexagon)计算加速。 同时支持在具有POSIX接口的系统的CPU上运行。

地址:https://github.com/XiaoMi/mace

MACE 文档
链接: https://mace.readthedocs.io/en/latest/

打开MACE 在线文档网页,引入眼帘的是:
Getting started
Development
FAQ



这里简单介绍一下Getting started中的Introduction内容:

移动AI计算引擎(MACE)是一种针对移动异构计算平台优化的深度学习推理框架。 下图显示了整体架构。



模型格式(Model format)
MACE定义了与Caffe2类似的自定义模型格式。MACE模型可以由TensorFlow和Caffe的导出模型转换。YAML文件用于描述模型部署详细信息。在下一章中,有详细的指导说明如何创建这个YAML文件。

模型转换(Model conversion)
目前,我们为TensorFlow和Caffe提供模型转换器。未来将支持更多框架。

模型加载(Model loading)
MACE模型格式包含两部分:模型图定义和模型参数张量。图形部分使用协议缓冲区进行序列化。所有模型参数张量一起连接成一个连续的字节数组,我们在下面的段落中称这个数组张量数据(array tensor data)。在模型图中,记录张量数据偏移和长度。

模型可以通过3种方式加载:
模型图和张量数据都是外部动态加载的(默认情况下,来自文件系统,但用户可以自由选择自己的实现,例如,使用压缩或加密)。这种方法提供了较大的灵活性,但却是最薄弱的模型保护。
模型图和张量数据都转换为C++代码并通过执行编译的代码加载。这种方法提供了最强大的模型保护和最简单的部署。
模型图转换为C++代码并构造为第二种方法,张量数据作为第一种方法在外部加载。

MACE Model Zoo
随着MACE一起开源的还有MACE Model Zoo项目,目前包含了物体识别,场景语义分割,图像风格化等多个公开模型。

链接: https://github.com/XiaoMi/mace-models

打开上述链接看到下述画面,着实蛮震撼的!这里简单介绍一下部分现有的model:

CNN
inception-v1-v2-v3

resnet-v2-50

vgg16

mobilenet-v1-v2(轻量级)

squeezenet(轻量级)

图像分割
deeplab-v3-plus



MACE Demo
MACE 目前还提供了Android的示例程序,大家可以下载编译好的APK文件进行安装,快速感受一下MACE的魅力。

链接: https://cnbj1.fds.api.xiaomi.com/mace/demo/mace_android_demo.apk

Amusi 这不马上就下载好,测试感受一下,下面是测试结果。

Refrigerator


Laptop


Amusi 个人觉得识别率一般般,而且是只输出Top1的结果。识别速度嘛,还可以吧,毕竟是魅族Mx6上跑CPU模式。如果换上骁龙845处理器的手机,应该...

如何评价小米开源的移动端深度学习框架MACE?

小米突然开源了自家的深度学习框架,是不是在为“上市”做准备呢?

让我们看一下知乎上大佬们怎么看待这个事件?


截止2018-06-29,只有两个人回答了该问题,大家的反映并不是很热烈,也许知道这件事情的人不多吧。但 Amusi 觉得MACE的出现,还是一件很有意义的事情,国内能做深度学习框架开源的公司真不多!

(温馨提示)国内有自研开源深度学习框架的公司有:
PaddlePaddle(百度)
Angel(腾讯)
Other

小米开源MACE,这是一件很正能量的事情,工业界和学术界都应该鼓励和支持!就如左上角所示,有222位关注者,也说明了大家对这件事情的期待。

链接: https://www.zhihu.com/question/283030623

声明:文章收集于网络,如有侵权,请联系小编及时处理,谢谢!

欢迎加入本站公开兴趣群
商业智能与数据分析群
兴趣范围包括各种让数据产生价值的办法,实际应用案例分享与讨论,分析工具,ETL工具,数据仓库,数据挖掘工具,报表系统等全方位知识
QQ群:81035754

鲜花

握手

雷人

路过

鸡蛋

最新评论

热门频道

  • 大数据
  • 商业智能
  • 量化投资
  • 科学探索
  • 创业

即将开课

 

GMT+8, 2018-11-16 07:51 , Processed in 0.130046 second(s), 23 queries .