多视角看未来边缘智能的发展

李铭

1多因素推动边缘智能飞速发展

边缘智能的飞速发展首先是得益于近两年人工智能（AI）技术的快速落地，各个行业在这个过程中可以感受到AI对于产业变革的巨大能量。这是—个关键原因：AI技术在应用中展现出来的巨大价值，从而推动了边缘智能的发展。

第二个原因是由于边缘AI的自身特性。早期的一些AI技术应用都是部署在云端或数据中心里，例如以图搜图。最近几年，人工智能在工业质检、医疗健康、智慧城市和物流等行业都得到了不少应用。很多企业由于习惯会考虑将应用算力部署在云端或数据中心里。但以工业产线上的AI机器人为例，它对数据处理的时延和即时性要求较高，若仍然采用在云端部署来处理数据的方法，在实际生产中就有些不切实际。

而边缘计算的自身特性就可以解决时延和即时性的问题。因为随着AI部署点位越来越多，数据量也越来越大，庞大的数据量在数据中心中处理后再反馈到设备端，会产生很大的延时问题。这就对设备端和云端之间的网络连接环境要求较为严格，同时增加了数据处理成本。

第三个因素就是对数据隐私和安全的要求。传统人工智能会将数据传送到数据中心，掌握数据中心密钥即可访问数据，因此需要保障整个数据中心的安全。但是在未来，边缘端即数据中心，所有数据可以本地处理和本地存储，只有本地用户可以访问数据，大大提升了数据的安全性。综上几个方面是近两年边缘计算，尤其是边缘计算和AI相结合的形式正在飞速发展的原因。

2未来边缘智能发展的四个方向

随着边缘AI技术的火爆，在实际场景中落地的应用也越来越多。因此可以看出边缘AI的一个明显趋势，即未来边缘AI会向着更加智能、更加灵活、更加安全和更易部署的方向发展。

第一个发展方向是边缘AI会更加智能，无论在算法层面或是应用层面，都能够真正推动产业和服务的智能化。

第二个发展方向是更加灵活，这是边缘AI与传统云端AI的一个重要区别。边缘AI可以不依赖于设备端和云端的通路，在网络环境不稳定甚至断网的情况下也可以正常工作。这就能够打破物理空间对AI应用的限制，无论是在偏远的沙漠里还是在比较封闭的基地，或者是高空的监控中心，都可以随时检测设备的运行情况。

第三个发展方向是更加安全，这是指在数据处理和存储方面。边缘AI不仅需要保障AI盒子中的本地数据和算法安全，还需要保障设备端与数据中心之间的通信安全。

第四个发展方向就是更易部署。对于边缘设备来说， 不同的行业应用会有不同的通信协议和传感器接入，这就对应用的部署，软件的框架，包括硬件平台的移植还有设备的管理有很高的要求。

这四个发展方向说明了开发软件和平台的重要性，因为对最终客户或者开发者来说，软件的能力还有软件的迭代演进就成为一个非常重要的热点。从平台本身来说，未来必然是一个人工智能加IoT再加5G技术融合的方案。

从2019年英伟达推出适用于AI计算的EGX平台后，就开始不断地对硬件和软件方面包括整个产品框架的完善。目前为止英伟达在EGX平台上面包含了嵌入式硬件Jetson等其他推理服务器产品。通过EGX平台可以直接对全套英伟达的软件部署、推理以及大数据处理，对不同行业的SDK进行相应的支持和覆盖，从而对智慧城市、物流、零售、5G机器人等正在进行智能化改造或智能化升级的领域进行强有力的支撑。

2022年英伟达在边缘AI方面会继续打磨EGX产品线，不断推出新的功能和更多SDK，针对不同的功能不断打磨使其更加具有实用性，从而能够丰富产品生态，帮助合作伙伴在不同场景中落地相应的产品。

3边缘智能中产业融合的四个角色

第一种角色是设备制造商，同类设备在不同的领域应用时会有不同的生产标准，而不同的生产标准会由不同的设备生产厂商负责。

第二个角色是云厂商，例如阿里云、腾讯云或者谷歌云，负责云端数据处理。

第三个角色是通信类厂商，例如中国移动，中国联通等通信公司，在设备端和云端中起到连通作用。

第四个角色是算法供应商，提供边缘计算服务器的算力和配置，在云端和边缘端中起到润滑剂的作用。

未来边缘计算并不只是在边缘上的一个点发生化学反应，要同时在云端、边缘端和设备端通过已上四个角色进行相互融合。云端的计算能力、5G传输速度、传感器的精准监控以及边缘计算的特性，不断交织并且迭代产生互相推动向前发展的作用。所以未来将会是这几个角色互相促进协调发展的状态和局势。

4“接地气”成为边缘AI痛点

边缘AI的快速发展，对于AI行业和技术人员来说既是机遇同时也是挑战。

機遇在于整个行业面对的国内市场是一个非常庞大而且快速成长的市场，同时伴随着市场的扩张还有各种新技术的涌入，会给整个行业带来积极的变革。对于技术人员来说，技术方面的成长是非常可期的。

其实要强调的是所谓的挑战，当前边缘AI面临“接地气”的问题，从过去的经验中可以发现无论是云厂商、边缘计算厂商还是算法提供商，在沟通过程中存在一个共同的痛点——就是如何将AI算法真正地落地到客户的实际场景中。这就要求行业内的技术专家和算法工程师走出研究室和办公室，去现场和各个领域的专家、管理人员以及一线工作者一起讨论研究。

AI不能解决所有行业中的问题，它只是产业智能化当中的一环，作为一个推动力量。在边缘AI的发展中要尽量避免为了 AI而去开发AI，需要考虑实用性和必要性。

现在行业中更加倾向培养复合型AI技术人才，不仅要在AI算法领域中有所学习，同时也要积累其他某一领域的专业知识。解决“接地气”的问题要倾听各个行业中的实际问题，并且解决实际问题，这是目前AI 行业中面临的关键问题。

在推动实际应用落地上，英伟达推出了 Jetson Nano 模块，帮助多个行业（包括智慧城市、智慧工厂，以及农业和机器人）的边缘设备部署AI，支持量产的模组系统（SOM）可以提供强大支持。同时Jetson Nano由NVIDIA JetPack™提供支持，并具备相同的 CUDA-XTM软件堆栈，该堆栈可用于打造各行各业的突破性AI产品。JetPack包含适用于应用开发和优化的最新NVIDIA工具，并支持容器化和编配等用于简化开发和更新工作的云原生技术。开放的平台配合开放的工具能够助力边缘AI更好地发展，英伟达EGX平台为不同领域的技术融合搭建稳固的桥梁。