昇腾AI携手22家伙伴发布大模型应用一体机,让企业AI落地更简单
发表于 2025-03-22 16:16:39

2025年3月21日,在华为中国合作伙伴大会 · 昇腾人工智能伙伴峰会上,昇腾AI携手22家伙伴正式推出大模型应用一体机系列产品,满足企业轻量化AI部署的核心需求。

图片1.png

大模型应用一体机系列产品依托昇腾AI基础软硬件平台,通过软硬协同优化与场景化封装,深度融合算力硬件、算法模型及部署工具,具备高性能、易部署的特点,显著降低AI应用门槛,为企业提供标准化、轻量化的解决方案。 

为更好地支持伙伴打造更具竞争力的大模型应用一体机产品,昇腾AI在基础架构层持续创新:

推理加速优化:搭载MLA(混合精度加速)融合算子、混合并行加速架构及向量检索加速技术,推理吞吐性能较传统方案提升90%,支撑高并发实时场景需求。

●部署效率升级:提供适配量化权重文件、自动化推理调优套件及一键式部署工具,模型适配与部署时间缩短50%。

●应用敏捷上线:支持vLLM框架,实现固件、驱动及软件的自动化管理,支持一键式升级与标准化接口调用,帮助企业快速完成AI应用上线。

大模型应用一体机的发布,不仅是昇腾与伙伴技术协同的里程碑,更是产业智能化进程的加速器。未来,昇腾将与伙伴深化协同创新,与千行万业的探索者并肩前行,让AI技术更简单、更高效地融入企业核心业务场景,共同推动智能化从“可选项”迈向“必选项”,为产业升级注入新动能。


「免责声明」:以上页面展示信息由第三方发布,目的在于传播更多信息,与本网站立场无关。我们不保证该信息(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关信息并未经过本网站证实,不对您构成任何投资建议,据此操作,风险自担,以上网页呈现的图片均为自发上传,如发生图片侵权行为与我们无关,如有请直接微信联系g1002718958。 

CSDN官方微信
扫描二维码,向CSDN吐槽
微信号:CSDNnews
微博关注
【免责声明:CSDN本栏目发布信息,目的在于传播更多信息,丰富网络文化,稿件仅代表作者个人观点,与CSDN无关。其原创性以及文中陈述文字和文字内容未经本网证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本网不做任何保证或者承诺,请读者仅作参考,并请自行核实相关内容。您若对该稿件有任何怀疑或质疑,请立即与CSDN联系,我们将迅速给您回应并做处理。】