随着生成式AI的飞速普及和计算需求的日益增长,混合处理的重要性空前突显。与仅在云端进行处理不同,混合AI架构在云端和边缘终端之间分配并协同处理AI工作负载。云端和边缘终端(如智能手机、汽车、个人电脑和物联网终端) 协同工作,能够实现更强大、更高效且更普及的AI应用。
高通技术公司发布白皮书《混合AI是AI的未来》,深入阐述混合AI架构的领先优势,终端侧AI将如何赋能生成式AI实现规模化扩展,以及公司如何凭借终端侧AI领导力、全球化规模和生态系统赋能,让混合AI成为现实。
混合AI架构带来诸多优势
混合AI将支持生成式AI应用开发者和提供商利用边缘侧终端的计算能力降低成本。混合AI架构或仅在终端侧运行AI,能够在全球范围带来高性能、个性化、隐私和安全等优势。混合AI架构可以根据模型和查询需求的复杂度等因素,选择不同方式在云端和终端侧之间分配处理负载。
利用边缘侧终端规模化扩展生成式AI
随着强大的生成式AI模型不断缩小,以及终端侧处理能力的持续提升,混合AI的潜力将会进一步增长。参数超过10亿的AI模型已经能够在手机上运行,且性能和精度达到与云端相似的水平。不久的将来,拥有100亿或更高参数的模型将能够在终端上运行。混合AI策略适用于几乎所有生成式AI应用和终端领域,对推动生成式AI规模化扩展,满足全球企业与消费者需求至关重要。
终端侧AI领导者
高通作为终端侧AI领导者,面向包括手机、汽车、XR头显与眼镜、PC和物联网等在内的数十亿边缘终端,提供行业领先的硬件和软件解决方案,对推动混合AI规模化扩展独具优势。
通过全栈AI优化引领终端侧AI解决方案
高通的AI引擎和软件栈为加速终端侧AI推理提供了解决方案,并具备行业领先的性能和能效优势。凭借一系列基础研究,以及跨AI应用、模型、硬件与软件的全栈终端侧AI优化,我们的持续创新让公司始终处于终端侧AI解决方案的最前沿。
赋能AI生态系统
高通力求创造能为社会带来积极影响的AI技术。高通的终端侧AI愿景基于透明、负责、公平、管理环境影响和以人为本等原则,致力于负责任地管理AI,并采取措施以规避潜在危害。高通终端侧AI解决方案旨在赋能增强的隐私性和安全性,这对打造稳健可信的AI生态系统至关重要。高通技术公司还专注于为全球数十亿、由高通和骁龙®平台支持的终端提供开发和部署的简便性,从而赋能开发者和独立软件开发商(ISV)。利用高通AI软件栈,开发者可以在我们的硬件上创建、优化和部署AI应用,一次编写即能实现跨我们芯片组解决方案的不同产品和细分领域进行部署。凭借技术领导力、全球化规模和生态系统赋能,高通技术公司正在让混合AI成为现实。