2023年11月27日，由英国国家网络安全中心牵头，包括美国在内的18个国家共同参与制定了《安全人工智能系统开发指南（Guidelines for secure AI system development）》。该协议以人工智能安全峰会为基础，旨在提高人工智能的网络安全水平，确保设计和使用人工智能的公司在开发和部署人工智能时保护客户和广大公众的安全，以及建立人工智能领域的全球合作。
一、主要面向群体
本文件主要针对使用由组织托管的模型或使用外部应用程序编程接口 (API) 的人工智能系统提供商。该文件还敦促包括数据科学家、开发人员、管理人员、决策者和风险所有者在内的所有利益相关者阅读指南，以帮助他们就其人工智能系统的设计、开发、部署和运行做出明智决策。
实施这些准则将帮助提供商构建按预期运行的人工智能系统，在需要时可用，并且在不向未经授权的方泄露敏感数据的情况下工作。
二、遵循“默认安全”方法
该指南还与英国国家网络安全中心的安全开发和部署指南、美国国家标准与技术研究院的安全软件开发框架以及英国国家网络安全中心、美国网络安全和基础设施安全局和国际网络机构发布的“设计安全原则”中定义的实践紧密结合。优先考虑：
· 为客户掌控安全成果
· 拥抱彻底的透明度和问责制
· 建立安全的组织结构和领导力是业务的首要任务
三、人工智能系统开发生命周期内的四个关键领域
该指南从四个关键领域提供了有助于提高人工智能系统安全性的建议，分别是：安全设计、安全开发、安全部署和安全运维。
1.安全设计
包含了适用于人工智能系统开发生命周期的设计阶段的指南，涵盖了理解风险和威胁建模，以及系统和模型设计时需要考虑的特定主题和权衡：
· 提高员工对威胁和风险的认识
· 对系统面临的威胁进行建模
· 设计供应商的系统时考虑安全性以及功能和性能
· 选择 AI 模型时考虑安全优势和权衡
2.安全开发
包含了适用于人工智能系统开发生命周期的开发阶段的指南，包括供应链安全、文档以及资产和技术债务管理。
· 确保供应商的供应链安全
· 识别、跟踪和保护供应商的资产
· 记录供应商的数据、模型和提示
· 管理供应商的技术债务
3.安全部署
包含了适用于人工智能系统开发生命周期的部署阶段的指南，包括保护基础设施和模型免受损害、威胁或丢失、开发事件管理流程以及负责任的发布。
· 保护供应商的基础设施
· 持续保护供应商的模型
· 制定事件管理程序
· 负责任地发布人工智能
· 让用户轻松做正确的事情
4.安全运维
包含了适用于人工智能系统开发生命周期的安全运维阶段的指南，提供了系统部署后特别相关的行动指南，包括日志记录和监控、更新管理和信息共享。
· 监控供应商的系统行为
· 监控系统的输入
· 遵循安全的设计方法进行更新
· 收集并分享经验教训
来源：中国安防协会（公众号）18国发布《安全人工智能系统开发指南》