腾讯混元推出0.3B端侧模型内存占用仅600MB_资讯

腾讯混元推出0.3B端侧模型内存占用仅600MB

创始人

2026-02-11 05:01:42

2月10日，腾讯混元宣布正式推出一款面向消费级硬件场景的“极小”模型HY-1.8B-2Bit，等效参数量仅有0.3B，内存占用仅600MB。

据介绍，通过对此前混元的小尺寸语言模型——HY-1.8B-Instruct进行 2 比特量化感知训练（QAT）产出，这一模型对比原始精度模型等效参数量降低了6倍，并且在沿用原模型全思考能力同时，在真实端侧设备上对比原始精度模型生成速度提升2—3倍，可大幅提升使用体验。此次腾讯混元推出HY-1.8B-2Bit模型，可以在边缘设备上无压力部署。这也是首个在实现2bit产业级量化的端侧模型实践。

随着大语言模型普及，如何将模型在比如手机、耳机或者智能家居设备应用，成为业界难题，尤其不少应用对模型的离线部署、私密性等都有更高的需求，这就需要更多能够在端侧运行的又小又强的模型。

腾讯混元表示，端侧部署的展开，本质上是一条在“小而精，快而准”的艰难探索之路，我们既需要模型足够聪明，能应对千变万化的真实需求，又必须将它约束在极其有限的硬件资源内部署并快速推理，这就好像在给模型进行“减脂增肌，减重提质”。

上一篇：穹彻智能完成A轮融资，将投入具身大脑研发

下一篇：格力电器获得发明专利授权：“取液结构、回油系统及空调系统”

⚠️

本网站信息内容及素材来源于网络采集或用户发布，如涉及侵权，请及时联系我们，发送链接至2697952338@QQ.COM，我们将第一时间进行核实与删除处理。

腾讯混元推出0.3B端侧模型内存占用仅600MB

相关内容

热门资讯

腾讯混元推出0.3B端侧模型 内存占用仅600MB

相关内容

热门资讯

腾讯混元推出0.3B端侧模型内存占用仅600MB