高通技术团队最近从(Microsoft Build)——2024年5月20日至22日在华盛顿州西雅图市举行的微软年度开发人员大会——带回了令人兴奋的消息。
人工智能仍然是今年的焦点。本次活动的主题不仅涵盖了当前的人工智能趋势,还关注了人工智能的基本承诺,而这些承诺正在推动人工智能个人电脑和计算新时代的发展。主题演讲强调了人工智能现在如何确保计算机能够接受多模态输入,提供用于保留上下文的内存、推理和规划能力,并减少了我们的认知工作量。
微软新发布的Copilot+个人电脑成为本次活动的焦点。这些人工智能优先型个人电脑由 骁龙® X Elite和骁龙X Plus处理器(骁龙X系列平台)驱动,其功能可提升20倍[1],效率可提升100倍[2],可在边端运行人工智能工作负载,并提供业界领先的人工智能加速能力。
为了进一步深入了解开发人员如何利用骁龙计算平台,高通科技公司在活动中提供了几场以开发人员为重点的演讲,涵盖了Windows on Snapdragon以及骁龙AI Hub。
让我们来分析一下这些演讲中的一些重要亮点。
骁龙科技公司的高级产品经理德旺·阿加沃尔论述了高通AI Hub——一种帮助开发人员使用ONNX RT和DirectML等流行的运行时优化、验证和部署人工智能模型到高通科技平台的工具。使用高通AI Hub,您可以在几分钟内进行部署,同时体验到显著的性能提升。
在本次会议上,我们发布了对于骁龙X系列平台的支持。此外,该团队还宣布了高通AI Hub的全新“自带模型”功能。目前,除了使用现有的预构建模型外,开发人员还可以将任何人工智能模型上传到高通AI Hub。这意味着开发人员可以为他们现有的开发模型或他们想要试验的其他模型使用该工具。
在本次会议上,微软ONNX RT首席软件工程师经理乔治·吴与德旺一起讨论了微软将ONNX RT集成为高通AI Hub中的运行时选项,并进行了现场演示。
为了用一个现实世界中的例子来完善这一问题,德旺和乔治邀请了Cephable公司(一家辅助技术公司)的工程总监乔恩·坎贝尔。乔恩展示了他们的技术如何使用户能够通过由实时摄像头捕捉到的头部动作来控制PowerPoint幻灯片,该控制信号由运行在骁龙X PlusNPU上的计算机视觉算法通过摄像头数据生成。约翰强调了在NPU上的处理如何释放CPU和GPU,从而确保在用户想要工作的任何地方具有隐私和辅助功能。
在开发端,高通AI Hub使乔恩的团队能够将现有的TFLite模型转换为ONNX RT。利用高通AI Hub,他们确信自己的模型能够在目标平台上正确运行并表现良好——这些方面通常是在开发生命周期的后期确定。利用高通AI Hub,两名开发人员能够在大约一周的时间内构建其人工智能功能,比预计的30天要短得多。
高通科技公司的产品经理安基特·卡普尔深入探讨了边缘人工智能开发以及如何利用骁龙X系列40+ TOPS的NPU性能。
安基特首先介绍了NPU的架构,以及NPU如何有效地处理机器学习模型中的标量、向量和矩阵运算。然后,他说明了高通人工智能软件栈如何支持不同的框架和运行时,包括ONNX RT和DirectML,以及可用于开发的不同层次的软件开发工具包。开发者资源包括Jupyter Notebook、示例代码、白皮书、附加组件和文档。
安基特还给出了他对混合人工智能的愿景——人工智能在云和端之间分布式工作。他还论述了微软和高通科技公司在Windows Studio Effects方面的合作,以支持下一代人工智能功能,例如Live Captions、Paint Live Co-creator和自动超分辨率。
通过Windows on Snapdragon的构建指南实现您的愿景
在此次采访中,高通科技公司的产品经理迪利普·卡普尔论述了300多家顶级独立软件开发商是如何在Windows on Snapdragon设备上进行构建或移植。这些项目展现了高通科技公司在移动领域的进步给个人电脑带来的益处,即电池效率和移动性能的提升。安全巨头迈克菲(McAfee)首席工程师卡尔·伍德沃德的证词支持了这一点。他的团队使用高通科技公司的解决方案来检测边端设备的深度伪造,同时保留了用户最关心的东西:低延迟性能、电池寿命和隐私。
迪利普强调,高通开发人员门户网站(qualcomm.com/developer)是开发人员可以了解更多信息的起点。随后,他展示了高通科技公司在活动中发布的、面向Windows的骁龙开发人员工具包。该开发人员工具包是一个经济高效的平台,确保开发人员能够在骁龙X系列平台上构建、测试和优化其Windows应用程序。
额外演示:
Windows on Snapdragon和高通AI Hub构建演示
是否准备好在Co-Pilot+个人电脑上构建您的下一个Windows项目?
要开始您的Windows和人工智能开发之旅,请查看以下资源,以了解更多信息:
- Windows on Snapdragon开发人员门户网站:用于构建或将现有Windows应用程序移植到Windows on Snapdragon上的文档、工具和其他学习资源,。
- 高通人工智能枢纽(AI Hub):免费注册,为您下一个运行在骁龙X系列平台上的Windows应用程序转换、优化和部署机器学习模型。
- 高通人工智能软件栈:将高通科技公司的人工智能解决方案集成到您的应用程序中的文档、工具和其他学习资源。
在所发布内容中表达的观点仅为原作者的个人观点,并不代表高通公司或其子公司(以下简称为“高通公司”)的观点。所提供的内容仅供参考之用,而并不意味着高通公司或任何其他方的赞同或表述。本网站同样可以提供非高通公司网站和资源的链接或参考。高通公司对于可能通过本网站引用、访问、或链接的任何非高通公司网站或第三方资源并没有做出任何类型的任何声明、保证、或其他承诺。
骁龙和高通品牌产品属于高通科技公司和/或其子公司产品。
