边缘计算(Endge computing),同边缘智能(Edge intelligence,EI),指将人工智能算法从传统的云计算中心转移到网络边缘的终端设备。本文搬运自【Edge Intelligence: Paving the Last Mile of ArtificialIntelligence with Edge Computing(Zhi Zhou, Xu Chen, En Li, Liekang Zeng, Ke Luo, Junshan Zhang)】
优势
- 终端生成的大量数据需要人工智能来有效挖掘数据价值
- 深度学习驱动要素: algorithm, hardware, data and application scenarios,而网络边缘为大量数据源头,可见终端设备需要与人工智能有效结合,两者相互促进。
- 边缘计算减少敏感数据在网络中的传输,提高隐私安全性。
发展
- 边缘计算六层划分:
其中Cloud-edge指边缘设备的部分数据交给云计算中心处理,In-edge指部分数据交给邻近的边缘设备协同处理(数据传输距离缩减),On-device指在设备单机处理。
这六层又可以根据模型训练设备划分为三层
边缘计算模型训练
- 架构:中心化、去中心化、混合
- 评价指标:训练损失、一致性(去中心化架构下各个终端模型一致性)、私密性、数据交换代价、延迟、能源效率。
- 目前边缘计算训练有如下解决方案:
模型推断
边缘计算受限于设备性能及能耗问题,前辈们提出了如下解决方案。
挑战:各种各样的方案,使得应用场景下模型配置参数十分复杂,庞大的搜索空间难以找到最优应用方案。
现状及展望
- 工业现状:亚马逊、谷歌、微软等都建立了边缘计算相关平台,但目前这些平台都依赖于云数据中心。
- 平台与框架的展望:
- EI平台建设需要较强的兼容性,以满足多样化的模型需求
- 兼容各种深度学习框架的模型
- 当前有多种边缘设备专用编程框架(tensorflow Lite, Caffe2, MXNet),但没有哪一种优于其他框架,未来需要一款更优的框架。
- 需要对计算资源更友好的模型
来源:CSDN
作者:geek_hch
链接:https://blog.csdn.net/geek_hch/article/details/93336470