加快分布式人工智能的应用
发表于 2021-07-05 15:59:05

在本帖中提及的Qualcomm产品均由Qualcomm Technologies公司和/或其子公司提供。

在最近进行的“加快分布式人工智能应用”网络研讨会中,Qualcomm Technologies, Inc.产品管理副总裁齐亚德·阿斯加尔就分布式人工智能的现状及其背后的Qualcomm® Snapdragon™ 移动平台进行了深刻而务实的说明。

让我们快速浏览一下本次网络研讨会的一些要点和见解,以及当今开发人员可以用来构建分布式人工能解决方案的资源。

5G和人工智能

目前,5G正在世界各地部署,从而实现其承诺;齐亚德认为,由于所有的超低延迟性,毫米波将成为游戏规则的改变者

与此同时,人工智能在云端和边缘侧的引用也在迅速发展。随着5G和人工智能的融合,齐亚德指出了它们之间的共生关系。换句话说,5G允许人工智能推理部署到网络的不同部分。同时,人工智能配合智能信号处理可以提高复杂条件下通信技术(例如:调制解调器的效率

Snapdragon移动平台的开发人员目前可以使用各种用于移动设备和固定无线接入的5G调制解调器和天线模块。例如,本公司最新一代的Snapdragon移动平台,即Snapdragon 888 5G移动平台与本公司Snapdragon X60 5G调制解调器-射频系统整合在一起。有关5G调制解调器的完整清单,请参阅本公司的最新博客:“驾驭5G浪潮,每次一毫米

功率效率

强大的人工智能还必须具有功率效率。在本次网络研讨会中,齐亚德探讨了Snapdragon 888 5G移动平台架构的关键特性,该架构可以减少的功耗是上一代Snapdragon移动平台的三倍。他特别强调了标量、向量和张量处理能力的融合,并指出它们与当今神经网络的不同部分的一致性。他还提到了平台更大的共享内存,这种特性可以减少数据传输量例如,权重和偏差)并更快地进行上下文切换。

开发人员可以从Snapdragon 888移动硬件开发工具包HDK开始。齐亚德指出,开发人员可以利用丰富的人工智能软件堆栈,包括为机器学习(ML)提供高水平管线的Qualcomm® 人工智能(AI)用神经处理软件开发工具包,以及进行低水平、裸金属优化的Qualcomm® Hexagon™ DSP软件开发工具包此外,开发人员还可以使用本公司的开源人工智能模型效率工具包AIMET,为经过训练的神经网络模型提供先进的模型量化和压缩技术。

云人工智能100

齐亚德指出,些云人工智能客户现在每天进行200到400万亿次推理,导致些数据中心的电力消耗每年翻一番。造成这问题的原因是缺乏用于机器学习处理的GPU/CPU可扩展性。这就是本公司通过Qualcomm® 人工智能100为企业提供Snapdragon移动技术原因。利用平台,企业可以在云中按比例扩大推理,同时获得本公司Snapdragon平台提供的功率效率效益

汽车

随着电动汽车成为主流以及自动驾驶功能的发展,汽车垂直行业正在经历巨大的进步。齐亚德还指出,本公司的业务从信息娱乐扩展到了ADAS自动驾驶和高级驾驶员辅助该业务应从驾驶员监控开始,但也承认需要通过多层冗余和持续系统性能实现安全

本公司的自主功能解决方案是Qualcomm® Snapdragon Ride™平台。授权开发人员可以使用Qualcomm®自动驾驶和高级驾驶员辅助ADAS)软件开发工具包进行开发。作为一种C++ API,该软件开发工具包含针对汽车执行图像处理功能的众多类和方法。

物联网

物联网设备与目前大量可用的传感器相结合,有助于将在边缘收集到的数据在本地或云端进行处理。齐亚德提到了大物联网在大物联网中,多个设备相互协作,相互协调,以提供不同层次的智能同样另一个研究领域联邦学习可以帮助开发人员选择在边缘执行训练

物联网的另一个关键亮点是其始终在线人工智能的愿景。通过目前流行的智能音箱设备上使用的唤醒词可能已经熟悉了这一理念。但现在,始终在线人工智能正在扩展并融合摄像头、传感器等附加数据流,从而提供新的功能类型例如,针对汽车驾驶员禁用某些功能

有几种片上系统可供开发人员构建物联网解决方案,如本公司的APQ80xx系列应用处理器Qualcomm® QCC51xx系列片上系统,例如Qualcomm® QCC5100


点击这里查看详情!

您可以访问齐亚德的网络研讨会,时长大约40分钟,在该链接上还有一个演示的播客。如果想了解更多齐亚德的更新内容,请关注其推特

CSDN官方微信
扫描二维码,向CSDN吐槽
微信号:CSDNnews
微博关注
【免责声明:CSDN本栏目发布信息,目的在于传播更多信息,丰富网络文化,稿件仅代表作者个人观点,与CSDN无关。其原创性以及文中陈述文字和文字内容未经本网证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本网不做任何保证或者承诺,请读者仅作参考,并请自行核实相关内容。您若对该稿件有任何怀疑或质疑,请立即与CSDN联系,我们将迅速给您回应并做处理。】