今天分享的是：大模型行业可信应用框架研究报告

报告共计：55页

《大模型行业可信应用框架研究报告》由蚂蚁集团和中国信息通信研究院联合发布，旨在推动大模型在专业领域的可信应用，助力产业智能化转型。

- 背景和需求：大模型落地应用进入产业变现阶段，但在专业领域的规模化落地仍面临挑战，需要解决“可信应用”问题。人工智能的可信内涵丰富，专业领域对大模型可信应用的要求包括专业性、可控性、真实性和安全性，本报告提出了面向专业领域的大模型可信应用框架及内涵。

- 挑战：大模型存在技术能力不足和保障体系构建不全的问题，包括内置专业知识学习和更新成本高、推理过程不透明、“幻觉”问题、缺乏系统性安全分析和保障措施，以及行业缺乏体系化解决方案和完善的保障体系。

- 框架：提出了大模型可信应用框架，包括数据供给质量提升、模型知识专业增强、内容生成可控可信、智能体提升复杂任务处理可信、新安全范式保障可信、反馈迭代提升体系等技术实现，以及构建全面的评测体系。

- 应用：大模型在金融、医疗、政务等场景有广泛应用，如智能投顾助理、智能就医助理、数字社工产品等，通过构建知识库、增强模型专业性、创新协同框架和推出评测集等措施，提高了各领域的智能化水平和效率。

- 展望：未来需要从前沿技术创新、可信应用框架落地、行业治理体系搭建和产业生态合作等维度推进，包括探索新的基础架构和技术突破、提升算力基础设施和开发部署工具链、构建不同可信等级和评测验证体系、建立新型行业合作框架和加强产业生态合作等。

总之，该报告为大模型在专业领域的可信应用提供了指导，有助于推动大模型技术的发展和应用。

以下为报告节选内容