人工智能应用的快速演进正改变设备的创建和使用方式。随着人工智能技术能力不断增强，所有物联网相关产品开始朝向符合终端需求的应用开发，不再仅依靠云端连接的支持。终端计算的优势包括实时性、数据隐私和领先的能源效率，对设备制造商来说，不需要在产品销售的每个区域都布署云基础设施，产品上市的时间和成本就能缩短。虽然云端和边缘计算各有优势，但若边缘计算能克服云端无法解决的问题，人工智能的未来将会在终端实现……

目前AI主要有云端人工智能（Cloud AI）和人工智能边缘计算（Edge AI）两种形态。从2012年深度学习开始到2016年、2017年，大部分AI应用都是在云端开发的。云端的优势是计算能力很强、计算速度很快，这是终端无法比拟的，在2014年时，若把一张照片丢到云端再回来，网路延迟大概是250～1250毫秒（ms）；当时若在终端计算，需要耗时3秒钟，这种速度当然是无法被接受的。但到了2016年，因为硬体和演算法的进步，终端的网路延迟从3秒钟一口气降低到50ms，代表AI在终端是可行的。

发展边缘AI计算能力的重要原因之一，就是要解决延迟的问题。AI若能更靠近物联网设备，把原本在云端的计算引到边缘设备，由边缘电脑用更快的速度做出即时决策，这是在云端解决方案中无法实现的。

Edge AI将成潮流？

联发科技计算与人工智能技术群处长吴骅指出，边缘AI的优势在于提高智慧深度神经网络（DNN）的执行效率，同时保持良好的准确性，并缩短产品上市的投资与风险。深度学习从2012年开始慢慢走红，让机器从搜集好的数据中进行学习，除了增加准确率，也减少人工的投入，尤其是影像辨识的错误率从26％大幅下降到16.4％，2015时已达到人工辨识的水准，错误率只有3.6％。

图一、联发科技计算与人工智能技术群处长吴骅

吴碧娥／摄影

另一方面，云端可能会有大量数据传输速度慢、反应不及时、隐私容易泄露等问题，因此若将AI部署在终端，可以省去数据在本地与云端来回传递的过程，不仅反应速度更快，且可避免传输过程中泄漏隐私，并能降低整个系统的功耗。吴骅认为，虽然云端和终端各有优势，但若终端能克服云端上无法解决的问题，AI必定会在终端实现；至于终端无法辨识的部分，可也以和云端计算合作。

边缘AI计算量快速成长

边缘AI的计算量正在快速成长，过去深度学习是做影像分类、主体侦测；2018年进入影像分割，计算需求达到500G MACs等级，今年深度学习开始进入影像品质阶段，计算效率可能会达到10T MACs等级，意味着边缘计算量将不断增加。边缘AI正在实现新颖的应用，并驱动更高的AI计算能力，因为新兴的APP越来越复杂，需要更高的AI能力，为AI装置设计的系统级芯片（SoC）将比往任何时候都更具挑战性。

在AIoT 时代，人与设备、设备与设备之间的交流，都有赖于资料安全、超低时延的边缘AI计算能力。联发科近日发布人工智能加上物联网的AIoT平台，NeuroPilot是一个以异构计算为基础，整合软硬体、完整、开放的人工智能平台，将CPU、GPU和APU等异构计算功能内建到SoC中，透过Edge AI处理平台生态系统，发展出从智慧手机到智慧家庭、可穿戴、物联网和联网汽车所需的全面软体工具，藉由打造专为边缘装置设计的AI处理器，联发科目标是成为边缘装置AI计算的重要推手，携手产业链合作伙伴共同打造AIoT生态圈。

AI Everywhere

联发科希望透过NeuroPilot AI平台，结合产业链其他厂商一起把edge AI做大，要让人工智能的快速普及，Edge AI的最高境界就是实现AI Everywhere。为了做到这一点，联发科的AI平台采用跨操作系统的通用架构，能够跨平台和跨产品线进行部署，将同一套架构应用到各种智慧型装置甚至车用电子上，合作伙伴只要编写一次程式，即可实现处处部署。联发科正在转化各种智慧型装置并创造更多商机，像是扫地机器人不只要会打扫，还要能分辨宠物排泄物；视讯会议要直接能辨识与会者身份、语言自动转换、还能自动撰写会议纪录；车用方面则是投入无人驾驶研发。针对上述情境，联发科会在已有的装置解决方案中，进一步带入AI，从「被动的智慧」化为「主动的智慧」。

吴骅也强调，边缘AI技术的快速发展将推动更多AI应用，记忆体和散热将是两个最关键的设备限制，DNN效能提升和专用硬件设计继续会是关注焦点。

数据源：2019/5/24「联发科AI平台应用分享研讨会」，吴骅简报资料

好消息～北美智权报有微信公众号了！ 《北美智权报》内容涵盖世界各国的知识产权新闻、重要的侵权诉讼案例分析、法规解析，以及产业与技术新知等等。 立即关注北美智权微信公众号→ NAIP_IPServices ～欢迎读者分享与转发～