一代深度学习框架研究 _深度学习框架

一代深度学习框架研究
于璠
华为技术有限公司
摘要：从人工智能的历史出发，简述深度学习发展历程以及目前的挑战，通过介绍新一代深度学习框架的特点，分析总体框架，阐述自动并行、自动微分、自动调优等技术优势以及协同昇腾处理器的性能优势，希望可以为深度学习技术研究人员提供参考。
关键词：人工智能；机器学习 ; 深度学习 ; 计算框架 ; MindSpore
1 引言众所周知，人工智能（artificial intelligence，AI）作为影响广泛的颠覆性基础技术，将对未来各行业的发展产生深远影响。发展人工智能目前已上升到国家战略层面，但人工智能的发展并非一帆风顺。20世纪50年代，人工智能早期的发展极其缓慢，虽然在语音处理和问题求解等方面取得了不俗的表现，但仍存在很大的技术局限性；之后人工智能经历了两轮寒冬，直到20世纪90年代中期，遵循摩尔定律，计算机的运算能力呈指数级增长，各种机器学习算法得以快速验证、训练和应用，从而引发了人工智能的复兴。
1997年，IBM公司制造的深蓝（DeepBlue）计算机系统战胜了当时的国际象棋世界冠军卡斯帕罗夫，引起了社会各界对人工智能的高度关注，重燃了人们对人工智能的信心。自此，人工智能的新一波浪潮逐步席卷全球。在本轮人工智能浪潮中，最具价值也最具影响力的一项研究当属深度学习理论。得益于大数据的不断积累和计算机的飞速发展，海量数据解决了神经网络训练的过拟合问题，而高性能的硬件设备使模型训练成为可能。近年来，随着深度学习研究的不断深入，人们目睹了谷歌AlphaGo成功击败人类世界围棋冠军以及包括无人车在内的各项智能技术的蓬勃发展，人们仿佛再一次看到了人工智能赶超人类的希望。总而言之，人工智能正在逐步改变人类的日常生活模式，并凭借其惊人的效果和迅猛的发展势头，广泛融入各个行业的实际应用中。深度学习的研究和应用在近几十年得到了爆炸式的发展，并且已经在图像识别、语音识别、机器翻译以及游戏等方面取得了巨大的成功。
为了获得更好的性能，深度学习的网络结构日益复杂，网络深度和数据集也日益增大，这给深度学习的计算框架带来了巨大的挑战。但现有的AI计算框架很难兼顾性能和易用性，而且深度学习应用已经从云侧扩展到了边缘和端侧，这对AI计算框架提出了新的挑战，如在保护用户隐私的前提下，让开发者能够实现AI应用在云、边缘和端侧的快速部署，全场景互联互通。因此，全场景的AI计算框架应满足以下3个要求：
● 实时训练或推理；
● 每个终端使用和训练其私有模型；
● 训练好的模型应能在多样化的硬件平台上运行。
为了更清晰地认识业界现有的计算框架，从易开发、高效执行和全场景3个角度对国外的TensorFlow、PyTorch、MXNet以及国内的PaddlePaddle进行了比较，见表1 。
其中，易开发表现为API友好、调试难度低以及额外的自动化属性。高效执行包括计算效率、数据预处理效率和分布式训练效率。全场景指框架同时支持云、边缘以及端侧场景。可以看出，这些训练框架仍然不能满足之前提出的3个要求。因此，需要开发一个覆盖所有场景的深度学习框架，满足实时、专用、多样化的需求。本文详细阐述了笔者团队自研的新一代深度学习框架（MindScope）的架构、技术开发思路、性能优势。

文章插图

2 MindSpore的总体框架MindSpore是华为技术有限公司推出的新一代深度学习框架，其总体框架分为前端表示层（mind expression，ME）、计算图引擎（graph engine，GE）和后端运行时3层，如图1所示。

文章插图
图1 MindSpore总体框架
2.1 前端表示层前端表示层向用户提供Python接口，并将用户的Python代码转换为数据流图。该部分包含Python API、MindSpore中间表示（intermediate representation，IR）统一计算图表达、计算图高级别优化（graph high level optimization，GHLO）3个部分。
● Python API向用户提供统一的模型训练、推理、导出接口以及统一的数据处理、增强、格式转换接口。
【一代深度学习框架研究】● MindSpore IR提供统一的计算图表达，MindSpore基于此IR进行pass优化。
● GHLO包含与硬件无关的优化，如高级别优化（high level optimization，HLO）（如死代码消除等）、自动并行和自动微分等功能。