越来越多企业选择拥抱大模型，以帮助业务实现提质增效。而随着DeepSeek等AI大模型的快速发展和开源，出于获得更好的响应速度、更高的数据安全性以及在特定任务上更好的表现等考虑，私有化部署也成为企业应用大模型的首选方式。

然而，大模型本地化部署在云端环境中带来了诸多便利的同时，也使得AI工具更容易暴露在公网环境中，引入潜在安全隐患。近期，腾讯朱雀实验室就发现了多个广受欢迎的AI工具中普遍存在的安全漏洞，这些漏洞一旦被利用将造成严重后果，包括不限于数据泄露、知识库污染、算力劫持、设备接管等。

  ●   数据泄露：通过API接口漏洞、未加密传输或权限配置缺陷，窃取模型训练数据、用户隐私信息及模型参数等敏感资产。

  ●   知识库污染：当知识库管理接口存在未授权上传权限时，攻击者可实施定向内容投毒攻击，导致合规风险。

  ●   算力劫持：非法占用GPU/TPU/CPU集群资源进行加密货币挖矿、DDoS攻击或竞品模型训练。

  ●   设备接管：使用RCE漏洞，接管控制服务器，如Ollama远程代码执行漏洞（CVE-2024-37032）。

为了帮助企业及时发现并应对这些风险，腾讯云安全中心依托强大的体检能力自动发现AI风险。云安全中心支持一键同步云上资产，支持添加云外资产，实时/定期对资产进行全端口扫描、服务识别、指纹测绘、漏洞扫描、暴露路径管理（CLB、安全组等配置识别）。

该体检能力主要功能包括四大方面：

  ●   全面资产扫描：支持对云上和云外的所有资产进行全面扫描，全端口扫描。

  ●   实时漏洞检测：集成多款漏扫引擎，风险指纹识别，实时检测潜在的暴露面和漏洞风险。

  ●   云资源风险检查：支持对 CVM、CLB、容器镜像、COS等云数据库，共10类云资产的配置风险检查及统一安全管理。

  ●   体检报告生产：自动生成详细的报告，根据扫描结果，提供针对性的安全防护建议和解决方案。

借助这一体检能力，企业能及时发现和应对大模型部署和应用中对外暴露的风险，保护自身数据和算力资源，保障业务的稳定运行。使用云安全中心的“体检”能力也非常简单，只需以下几个步骤：

  ●   登录腾讯云控制台：访问腾讯云官网，登录您的账户。

  ●   进入云安全中心：在控制台中找到并进入云安全中心模块。

  ●   启动体检任务：在资产中心—点击资产更新后，选择漏洞与风险中心—安全体检—标准体检，选择全部资产。

  ●   查看报告：扫描完成后，系统会自动生成详细的报告，您可以在控制台中直接查看。

暴露面扫描配置示意图

  ●   测绘结果查看：在漏洞与风险中心-风险服务暴露页面查看大模型应用等对外暴露的风险服务。

风险服务对外暴露-高危提示

云安全中心漏扫结果

此外，腾讯主机安全（云镜）支持检测大模型是否存在漏洞（根据版本号匹配）。

扫描配置界面

“大模型如今是黑灰产重点盯防和攻击的对象，也是供应链攻击的重点突破口。因此，企业在部署和应用大模型时应树立安全意识，例如从正规渠道获取模型文件，即时修复模型漏洞、配置安全组权限收敛AI敏感工具避免对外暴露，并通过部署专业安全产品来抵御潜在风险。”云鼎实验室相关技术专家表示。

人工智能安全态势管理（AI-SPM）现状和规划

随着生成式AI在企业中的应用更加广泛，其对企业组织安全基础设施和数据治理的挑战将会更大。目前，人工智能安全态势管理（AI-SPM）正在以工具或产品的形式，保障企业人工智能和机器学习系统的安全性和可靠性。

AI-SPM通过持续检测、评估AI模型和数据的安全态势，协助企业应对挑战。目前，众多厂商已经开始提供AI-SPM产品与工具，其中部分厂商从零开始构建，也有公司基于CSPM上拓展，但AI技术引发的变革高速且持续，行业中大多数产品都无法实现足够全面、足够集成的应对风险。

对于企业来说，基于AI-SPM掌握自身全部的模型、训练数据、供应链和web接口安全情况，都是非常必要的。腾讯云安全中心将继续快速迭代，帮助云上客户增强AI系统的安全性、提升防御主动性、降低攻击面，通过自动化管理和响应提升运营效率。

「免责声明」：以上页面展示信息由第三方发布，目的在于传播更多信息，与本网站立场无关。我们不保证该信息(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关信息并未经过本网站证实，不对您构成任何投资建议，据此操作，风险自担，以上网页呈现的图片均为自发上传，如发生图片侵权行为与我们无关，如有请直接微信联系g1002718958。