今天分享的是:2024年中国端侧大模型行业研究:算力优化与效率革命 如何重塑行业生态
报告共计:22页
《2024年中国端侧大模型行业研究:算力优化与效率革命 如何重塑行业生态》由头豹研究院发布。报告指出端侧大模型是运行在设备端的大规模人工智能模型,参数量较小,可在设备端直接运行,无需依赖云端算力。
端侧大模型相比云端推理在成本、能耗、可靠性、隐私和个性化方面有显著优势,能以低能耗提供高效安全的AI处理,减少延迟并保护隐私,适合个性化应用。2023年中国端侧大模型市场规模达8亿元,预计2024年将达21亿元,生成式AI市场推动大模型厂商探索端侧应用,手机与自动驾驶行业拉动市场扩张。
中国端侧大模型产业链上游包括AI芯片供应商、云计算服务商和数据服务商,中游为科技厂商和企业,下游应用于汽车、教育等行业。模型压缩技术如知识蒸馏可减少参数量和计算复杂度,端侧大模型成本包括硬件、研发和其他成本,AI芯片是关键技术。行业场景取决于数据安全需求、智能设备普及度和技术成熟度,业务场景中AI手机、自动驾驶和机器人是核心应用场景。政策方面,中国政府支持人工智能产业,对端侧大模型发展有利。竞争格局中,头部大模型厂商依托技术和生态建设投入端侧市场,技术融合与生态构建将影响未来竞争格局。报告还对阿里云、商汤科技和面壁智能进行了典型厂商分析,并介绍了头豹研究院的研究方法和法律声明,以及业务合作内容。
以下为报告节选内容