所有版权归中国经济网所有。
中国经济网新媒体矩阵
网络广播视听节目许可证（0107190）（京ICP040090）
在近日举行的世界互联网大会乌镇峰会上，360数字安全集团发布了《大模型安全白皮书》（以下简称《白皮书》）。本白皮书系统地描述了首次运行大型模型时的五个关键风险，并提出了外部构建“基于模型”的动态屏障和内部“平台原生”的安全基础的核心理念。它基于实战，提供可实施的安全解决方案。有助于构建大规模模型应用的全链路安全防线，推动人工智能产业朝着“安全、友好、可靠、可控”方向不断发展。白皮书系统总结了五大R从2025年日本国内外发生的典型大型安全事件来看，威胁大型模型安全的问题有很多。首先是基础设施安全风险，如设备控制、供应链漏洞、拒绝服务攻击、计算资源滥用等。二是内容安全风险。这包括违反核心价值观、虚假内容或非法、大规模模型假象和即时注入攻击。第三类是数据库和知识安全风险，如数据泄露、未经授权的访问等。准入问题、隐私侵犯和知识产权问题日益突出。代理。随着代理变得更加自主，调用插件、调度计算能力、传输数据和其他安全方面之间的界限正在变得模糊。最后，还有用户侧的安全风险，如权限控制、API调用监控、恶意脚本执行、MCP执行安全等。这些风险是交织在一起的传统的安全解决方案很难解决。它们构成了复杂的威胁矩阵，严重威胁个人权利、商业发展甚至国家安全。面对上述复杂的挑战，白皮书根据实践经验提出了“插件安全+平台原生安全”的双向治理策略。一是作为AI“外部保镖”，实时灵活应对风险。后者就像人工智能的“内置装甲”，从零开始构建坚实的安全基础，两者共同构成全联动的防护网。其中，插件安全重点关注模型的外部防护，“以模型控模型”，实现对计算主机、软件生态、输入输出内容、模型幻象的主动监控和防范。该平台的原生安全重点关注大规模模型数据、知识库、代理和客户端，在网络中嵌入安全能力。nto核心组件，并加强支持组件的安全性和所有流程的合规性控制。简单来说，可插拔安全就像是施工后安装的防盗系统，而平台原生安全就像是在施工过程中纳入的防护结构、防火措施。它们共同为大型模型从外到内打造了一道安全防线。通过该系统，360提供主动检测和动态演进的安全检测能力，有效应对大型、复杂和变化的安全威胁模型。 360基于大规模模型安全的核心理念：“外部风险防范，内部加固架构”，提供覆盖大规模模型安全的完整链路解决方案。该解决方案利用七大核心产品能力，形成了既“可扩展”又“平台原生”的完整防御系统。据报道360已在政务中引入此功能和金融。我们将继续与产业界和学术研究各领域合作，共同推动安全标准建立和技术共享，致力于构建安全可靠的人工智能生态系统。
（编辑：秦玉文）