“十五五”规划建议提出，全面实施“人工智能+”行动，并将“加强人工智能治理”作为数字强国建设的重要部署。当前，以大语言模型为代表的生成式人工智能，正以其前所未有的创造力、拟真度和普及速度，成为推动社会变革的重要驱动力量。它不仅是提升效率的工具，更直接参与内容生产与意义建构过程，正在重塑信息生产机制、文化传播形态以及人们理解世界的方式。然而，生成式人工智能在释放巨大潜能的同时，也引发了深度伪造、算法偏见、知识产权争议以及信息信任受损等一系列伦理与社会风险。因此，迫切需要提升公众数字素养，引导公众成为负责任的技术使用者和伦理规范的积极共建者，从而推动生成式人工智能实现健康、可持续的发展。

生成式人工智能治理面临挑战

生成式人工智能治理面临的挑战，是技术、认知和社会责任三个维度的复杂耦合。

第一，技术层面，算法歧视与“黑箱”风险双重叠加。生成式人工智能模型训练所依赖的大规模数据集，往往内含历史性且隐性的社会偏见。这些偏见在模型设计、算法处理和训练数据等多个环节中相互叠加，共同助长了有害的刻板印象，进而导致生成结果出现歧视性倾向。同时，受算法工程师技术操作能力和算法企业内部数据保护机制的限制，内部结构和参数的不可知，导致了算法“黑箱”的出现，由此严重削弱了模型的可解释性，进而阻碍了伦理风险的有效追溯和责任的明确界定。

第二，认知层面，公众批判思维与信息甄别能力不足。技术风险的治理最终要落脚于社会主体，而公众认知能力的不足是风险转化为现实危害的“放大器”。首先，过度依赖AI削弱了公众的独立思考能力。生成式人工智能的便捷性及其生成内容呈现出的“高度可信性”，正在削弱公众的主动思考与判断能力，加剧人的认知惰性和对技术的过度依赖。当公众习惯于直接采纳AI提供的答案时，其对信息的主动求证、批判质疑和对复杂问题的独立分析能力将逐渐退化。其次，信息甄别不足助长风险传播。普通公众缺乏甄别AI生成内容（尤其是深度伪造音视频、文本）的技术知识和批判工具，极易将虚假信息视为真实信息。这种甄别能力的不足，使虚假信息得以借助社交媒体迅速扩散，并在短时间内放大其影响，对社会信任基础造成冲击。最后，“信息茧房”固化认知偏差。人工智能通过个性化推荐和内容过滤机制，在提升信息匹配效率和用户体验的同时，也可能不断强化既有偏好，将用户困于“信息茧房”之中。这种机制将加剧用户仅接触到符合其既有认知的内容，从而固化认知偏差，降低其对多元视角的包容性，不利于社会共识的形成。

第三，社会责任层面，安全风险与公平缺口并存。生成式人工智能治理的突出难题，在于责任主体与责任边界尚不清晰，相关社会责任与问责机制仍有待完善。在法律上，由于技术链条的复杂性，使得责任主体界定模糊，传统法律归责原则难以适用，由于缺乏内置保护机制，致使模型训练和用户交互过程中极易发生个人隐私数据泄露，削弱个体信息控制权。在安全上，人工智能若被用于辅助生成针对关键基础设施的网络攻击，或被滥用于传播虚假情报，可能引发系统性、跨层级的安全风险渗透，对公共秩序和社会稳定构成威胁。在经济上，技术红利的高度集中，加剧了技术公平缺口，形成了新的社会分化。生成式人工智能对技术和数据资源的高度依赖，可能强化少数企业的技术优势，带来市场集中甚至垄断的风险，并加剧不同国家和人群之间的“AI鸿沟”，进一步扩大贫富差距与社会分化，引发严重的不公问题。

三个维度为人工智能治理提供支撑

数字素养是数字社会公民在学习、工作和生活中应具备的一系列能力的集合，包括数字信息获取、制作、使用、评价、交互、分享、创新、安全保障、伦理道德等能力。它要求个体能够有效且批判地获取和评估信息，娴熟运用数字工具创造知识，并能适当地利用数字化手段解决工作、学习和社会实践中的问题。数字素养作为一种综合性的社会能力，其主要通过技术、认知和社会责任三个维度，全面地为生成式人工智能治理提供坚实的认知基础、行动框架和道德约束力。

第二，加强数字信息的获取、甄别与共享，以构建可信公共知识空间。生成式人工智能在内容生成、信息传播方面能力空前，但也因此放大了虚假信息、算法幻觉与深度伪造的风险。数字素养的核心之一，就是培养公众的信息甄别、事实校验与风险提示能力，使每个人都能够在高速流动的数字生态中“看清楚”“辨得出”“说得明”。除了获取与甄别，信息交流与共享同样是生成式人工智能治理的重要环节。具备良好数字素养的公众不仅能基于可靠信息参与公共讨论，还能通过建设性表达推动形成健康的数字公共领域，为政策制定与平台治理提供真实可信的社会反馈。公众数字素养的提升，有助于构建多方协同的治理格局，推动生成式人工智能走向公平、可责、透明的发展方向。

（作者：张橦 张慧 均系大连理工大学人文学院副教授）

来源|科技日报