《基于大语言模型(LLM)的系统安全：关键授权实践》由云安全联盟大中华区发布，聚焦LLM系统安全与授权实践，为相关人员提供设计指导，帮助应对安全挑战。

1. LLM系统安全设计的背景与原则：随着LLM应用广泛发展，其安全设计指导匮乏。报告针对工程师等专业人士，介绍将LLM集成到系统中的设计模式与最佳实践。核心原则包括评估LLM输出可靠性、将授权决策置于LLM之外、由其他机制负责认证、假设存在针对LLM的攻击、执行最小权限原则。

2. LLM系统组件及安全要*：编排器协调LLM输入输出与交互，要防止“糊涂助手”攻击；向量数据库管理高维数据向量，授权检查应在数据传递给LLM前进行；LLM缓存可加速推理，但要防止授权绕过和缓存投毒；验证器增加防御层，防止提示注入攻击和数据泄漏。

3. LLM系统面临的挑战与风险：LLM的非确定性、缺乏信任边界等特性带来安全挑战。提示注入攻击可绕过系统提示，导致授权机制失效；系统与用户提示易引发越狱风险，后端系统不能依赖上下文窗口信息授权；微调与模型训练涉及敏感数据时，要实施控制措施，防止数据泄露。

4. 常见架构设计模式及安全建议：检索增强生成（RAG）通过检索外部数据增强LLM能力，使用向量数据库时要实施文档级安全和访问控制，使用关系数据库要防范SQL注入，调用外部系统API要确保身份验证和数据过滤。LLM编写和执行代码需防止恶意代码执行，可采用沙箱隔离、限制权限等措施。基于LLM的自主智能体处于发展阶段，编排器要验证请求，知识库要有访问控制，对插件进行沙箱隔离。

展开剩余79%

5. 报告强调将LLM排除在授权决策外，持续验证身份权限，严格验证输入输出，引入人为监督。随着LLM技术发展，需不断更新安全设计原则，社区应共享知识经验，在发挥LLM潜力的同时保障安全。

免责声明：我们尊重知识产权、数据隐私，只做内容的收集、整理及分享，报告内容来源于网络,报告版权归原撰写发布机构所有，通过公开合法渠道获得，如涉及侵权，请及时联系我们删除，如对报告内容存疑，请与撰写、发布机构联系

发布于：广东省