AI“拍了拍”边缘端

正如人们总是先解决温饱问题，才开始展开精神层面的追求一样。人工智能过去几年的发展一直专注在算力、数据和场景这三大要素之上，但如今人们已经开始意识到隐私和安全的重要性，并抗拒将关键数据上传至云端处理。

实际上，除了隐私和安全问题，高成本的云端AI还存在另外两大劣势。智能设备已经成为了人们日常生活的一部分，根据Cisco云指数的推测，2021年全球将有超过500亿台终端设备，这些设备一年产生的数据总量将达到847ZB，以云计算为代表的集中式处理模式已经略显疲态。

海量的数据处理需要传送到云计算中心进行，这增大了系统的时延，同时对网络带宽带来了极大的压力。因此，实时性和带宽不足成为了云端AI的两大劣势，为了带来更快、更低成本、更安全的应用体验，AI开始由云端向边缘端蔓延。

什么是边缘AI

设备被认为是AI真正被需要的地方。

根据IDC的预测，到2023年，边缘AI软件市场预计将从2018年的3.55亿美元增长到1.12万亿美元。IDC研究总监Dave McCarthy说：“ AI是边缘计算中最常见的工作负载。随着物联网实施的成熟，人们对在生成点应用人工智能进行实时事件检测的兴趣与日俱增。”

边缘AI实际上指的就是终端智能，即在硬件设备上本地处理的AI算法。边缘AI是融合网络、计算、存储、应用核心能力的开放平台，将AI部署在边缘设备上可以使智能更贴近用户，更快、更好地为用户提供智能服务。

众所周知，训练和推理是人工智能基于机器学习的两个主要阶段，实现边缘AI就是要让训练完成的模型可以直接在嵌入式设备中脱网运行和推理，从而使其更具有自主性。

值得一提的是，在边缘端进行推理之前，还需要进行人机交互。在2020世界人工智能大会的《万物智联，芯火燎原》人工智能芯片创新主题论坛上，芯原股份创始人、董事长兼总裁戴伟民表示，对于终端来说，人机交互至关重要。目前比较常见方式的包括语音、视觉等，在AI算法的加持下，人机交互正变得越来越高效。

Synaptics高级副总裁、IoT部门总经理 Saleel Awsare表示，人机交互技术让边缘设备能够理解并响应人们的工作、语音或触摸，而无需持续连接云。

越来越多的人开始探讨边缘AI的优势，这是否意味着边缘AI与云端AI已经形成了对立面呢？

壁仞科技联合创始人、总裁徐凌杰在人工智能芯片创新主题论坛上表示，随着边缘算力的丰富，包括5G大规模铺开，越来越多地应用场景选择在边缘进行展开，但这并不代表云和边缘是两个互相对立的角色，相反，这两者是相辅相成，分工协同的。

徐凌杰指出，云端有着非常强的算力，智能终端从技术和商业模式上来讲都是云端智能在边缘侧的一个延伸，是一个分布式的技术体现。过去几年云已经经历了非常强劲的增长，边缘端也在逐渐上升的趋势当中，数据显示，今年整个AI芯片的产业会有将近200亿人民币的市场规模，将近7成还是在云端，因为云端还是代表了非常强的算力水平。

徐凌杰进一步指出，边缘AI最大的特点便是离客户更近，为云端减少负载，节省带宽，提升反馈效率。其次，让终端数据留在终端，让云端去处理一些抽象、有共性的数据，从而保护隐私。但问题也随之而来，在终端设备收到连接问题、功耗及小型化的困扰下，芯片的面积、功耗、算力都不能够完整满足客户所有的需求，这时就需要云端AI芯片。

在分工协同的情况下，徐凌杰强调，边缘侧会更加场景化，更加人性化，更加体现出它对于一些场景的理解和高效性，而云端芯片需要更加智能化，能够处理各种各样的业务。

边缘AI如何落地

AI蔓延至边缘端是大势所趋，但如何落地是产业界需要共同应对的问题，因为将AI部署到边缘设备上还面临着多重挑战。

小米科技投资合伙人孙昌旭表示，智能硬件是边缘AI最好的落地场景，因为边缘AI肯定需要智能硬件提供数据，过去小米就做了两个很重要的事情：一是自研深度学习推理框架，屏蔽底层芯片的差异，让大家更好的互通；二是芯片的评测框架，解决芯片厂家，尤其是创业公司与硬件集成商之间的信息不对称问题，提高沟通的效率。

对于消费类系统厂商该如何布局终端AI技术，在孙昌旭看来需要围绕应用场景来展开一些拓展应用。目前，AI主要围绕语音和视频两大不同应用场景，未来还将有其他一些场景加入，终端是服务于应用场景的。

边缘AI的落地主要通过CPU、GPU和AI专用芯片来实现，三星电子高级副总裁MoonSoo Kang认为， AI的计算架构一直在进化发展，并且现在仍在不断地发展中。通用CPU是用于AI应用领域的最灵活的计算解决方案，但是它并没有针对AI应用领域所需的计算操作进行特别优化。GPU随后在AI类型应用中变得非常流行，因为它们在处理AI类型计算方面具有更高的效率。

“但现如今，通过定制设计的AI处理器(custom-designed AI processors)可以实现更高的计算效率，我们相信这才是AI计算的未来，” MoonSoo Kang如是说。