人工智能的飞速发展给世界带来巨大机遇，也带来各类风险挑战。在论坛上，全国网络安全标准化技术委员会(下称“网安标委”)发布《人工智能安全治理框架》1.0版（下称《框架》），旨在推动社会各界就人工智能安全治理的原则举措达成共识。

《框架》以鼓励人工智能创新发展为第一要务，以有效防范化解人工智能安全风险为出发点和落脚点，提出了人工智能安全治理的原则；按照风险管理的理念，针对模型算法安全、数据安全和系统安全等内生安全风险和网络域、现实域、认知域、伦理域等应用安全风险，提出相应技术应对和综合防治措施，以及人工智能安全开发应用指引，整章共分为四大板块。

其中，应对和综合防治措施板块，针对不同类型的安全风险，从技术和管理两方面提出防范应对措施。例如，针对内生安全风险提出安全开发运维，输出内容标识等技术手段，并推动负责任研发应用体系，供应链安全保障等管理措施。

网安标委秘书处主要负责人表示，《框架》1.0版的发布，为培育安全、可靠、公平、透明的人工智能技术研发和应用生态，促进人工智能的健康发展和规范应用，提供了基础性、框架性技术指南。

接下来，网安标委将积极开展人工智能安全标准的研制，加快构建并持续完善人工智能安全的标准体系。同时，加快推进生成式人工智能服务的训练数据安全、数据标注安全以及生成合成内容标识等重点急需标准的研制，并结合重点行业应用推动标准落地实施。

南方日报记者吴冠霖