Qualcomm AI计算机:如何为 Windows on Snapdragon 应用添加 AI 功能
发表于 2023-10-09 11:09:21

Snapdragon Qualcomm 品牌产品是 高通计算有限公司/或其子公司的产品。

Windows on Snapdragon是下一代 Windows 平台。Windows on Snapdragon 搭载 Qualcomm Technologies 移动计算平台(如骁龙 8cx Gen 3),性能强悍,续航超长。也就是说,您开发的应用可以运行更长的时间,提高用户参与度。此外,该平台功耗较低、始终在线,还具有始终连接 Wi-Fi 5G 选项,几乎可以随时随地运行应用。

但这还不是全部。现在人工智能备受媒体瞩目,骁龙 8cx Gen 3 内置 NPU,即 Qualcomm Hexagon 数字信号处理器 (DSP) ,可能是最令人期待的功能。Hexagon DSP Qualcomm AI 堆栈提供支持,边缘应用 AI 使用的Qualcomm AI 引擎即以此处理器为基础。借助这款信号处理器,我们可以将 Windows 应用的硬件加速 ML 推理卸载到 Hexagon,而 CPU GPU 仍然可以自由执行各自的任务。

为帮助入门,Qualcomm 无线学院创建了一门课程:课程共分成 15 个系列,探讨了如何开始在 Windows on Snapdragon 进行开发,以及将我们的 AI 堆栈集成到您的 Windows 应用中。下面我们详细讲解一下课程的结构安排。

一门 Windows 开发人员创建,面向 Windows 开发人员的课程

高通技术公司总监兼产品经理 Rami Husseini 在课程开始首先介绍了 Windows on Snapdragon,包括其主要功能是如何提升应用的用户体验的。Rami 随后介绍了Windows 开发工具包 2023(下图 1),这是一款适用于 Windows on Snapdragon 开发的经济型 HDK,然后讨论了相关的工具和框架以及不同的构建选项 - 原生应用程序、仿真和混合应用

1 – Windows 开发工具包 2023

高通技术公司高级工程师 Pradeep Singh 深入探讨了相关的工具、框架和库。他从头开始创建了一个Hello World基本控制台应用,展示了如何将两个开源项目重新编译成 Windows on Snapdragon 原生项目,并回顾了应用程序的调试。

AI 集成到  Windows on Snapdragon 应用

随后,课程重点介绍了如何将 AI 集成到 Windows 应用。高通技术的 工程师兼高级经理 Graeme Ashford 讲解了 Qualcomm AI 堆栈。他回顾了适用于 Windows 的 Qualcomm 神经处理 SDK 如何优化(例如量化)ML 模型并将其转换为 DLC 格式(在 Hexagon 上实现优化运行时推理的专有格式)。该工作流程如图 2 所示。

2 – ML 模型转换为我们专有优化格式,以便在骁龙上执行的神经处理 SDK 工作流程。

他讨论了不同 ML 从业人员在这个工作流程中的角色,包括数据科学家、ML 培训工程师、ML 推理工程师、应用开发人员和 DevOps 工程师。

Graeme 使用 Qualcomm 神经处理 SDK,将 ResNet50 图像分类模型从 ONNX 转换为 DLC 格式,对所有内容重新做了梳理。在这个过程中,他演示了如何准备图像数据,以供该模型处理,然后将 Qualcomm 神经处理 SDK 运行时集成到  Windows on Snapdragon 应用,使用优化后的模型运行推理。

您准备好构建 Windows on Snapdragon 应用了吗?
许多公司,包括Adobe Sketchable PlusShapr3D ,已经针对这个平台开发或移植了同类应用。

现在就注册Qualcomm Compute 的 AI简单快速并且完全免费!此课程一共大约一个小时,学完之后您将能够:

  •   Windows on Snapdragon 开发准备开发环境。
  • 编译/重新编译应用程序,以便本机或混合执行。
  • 构建 ML 模型训练管道。
  • C++ Windows on Snapdragon 应用中运行推理。

快速提示:如果计划移植应用,今天就可以尝试以下操作。使用 Visual Studio 2022,以及现有的 x64 计算机,交叉编译 Windows on Snapdragon 二进制文件。您需要一台 Windows on Snapdragon 设备来运行输出,不过在 HDK 到达之前,您可以先检查可能会碰到哪些构建问题。

以下是一些额外的资源可供使用:

Snapdragon Qualcomm 品牌产品是 高通科技有限公司 /或其子公司的产品。Qualcomm 无线学院 是高通科技有限公司和/或其子公司的项目。

  

CSDN官方微信
扫描二维码,向CSDN吐槽
微信号:CSDNnews
微博关注
【免责声明:CSDN本栏目发布信息,目的在于传播更多信息,丰富网络文化,稿件仅代表作者个人观点,与CSDN无关。其原创性以及文中陈述文字和文字内容未经本网证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本网不做任何保证或者承诺,请读者仅作参考,并请自行核实相关内容。您若对该稿件有任何怀疑或质疑,请立即与CSDN联系,我们将迅速给您回应并做处理。】