今天分享的是：人工智能安全治理框架(中文版)

报告共计：19页

《人工智能安全治理框架（中文版）》旨在防范化解人工智能安全风险，推动人工智能健康发展和规范应用。

该框架包括治理原则、框架构成、风险分类、技术应对措施、综合治理措施和安全开发应用指引等内容。治理原则强调发展与安全并重，包容审慎确保安全，以风险为导向敏捷治理，技管结合协同应对，开放合作共治共享。框架基于风险管理理念，从技术和管理两方面应对安全风险，并由各方共同优化完善。

人工智能安全风险分为内生安全风险和应用安全风险。内生安全风险包括模型算法、数据和系统安全风险，如可解释性差、偏见歧视、数据泄露等；应用安全风险包括网络域、现实域、认知域和伦理域安全风险，如信息内容安全、用于违法犯罪、加剧“信息茧房”效应等。

技术应对措施包括针对内生安全风险，提高人工智能可解释性、加强数据安全管理、增强系统安全性等；针对应用安全风险，建立安全防护机制、提高追溯能力、加强检测技术研发等。

综合治理措施包括实施分类分级管理、建立可追溯管理制度、完善数据安全规范、构建负责任的研发应用体系、强化供应链安全、推进可解释性研究、共享风险信息和应急处置、加大人才培养、建立健全宣传教育和监督机制、促进国际交流合作等。

安全开发应用指引针对模型算法研发者、服务提供者、重点领域使用者和社会公众，提出了具体的安全指导规范，如研发者应遵循科技伦理、重视数据安全、定期测试等；服务提供者应公开产品信息、告知使用禁忌、建立风险监控机制等；重点领域使用者应审慎评估影响、定期审计系统、加强数据保护等；社会公众应提高风险认识、选择可靠产品、保护个人信息等。

总之，该框架为人工智能安全治理提供了全面的指导，有助于各方协同应对人工智能安全风险。

以下为报告节选内容