腾讯公布大语言模型训练专利:可提高模型的准确性
创始人
2025-02-08 15:21:33

【CNMO科技消息】据CNMO了解,2月7日,腾讯科技(深圳)有限公司申请的“大语言模型的训练方法、装置、计算机设备及存储介质”专利正式公布。这一技术通过在模型训练中引入多重摘要文本的对比学习机制,显著提升了模型的泛化能力与生成准确性,为AI语言处理领域提供了新的方向。

根据专利摘要,腾讯的新方法创新性地引入“第一摘要文本”与“第二摘要文本”,两者信息量不同且前者包含正确与错误语句的混合。模型通过对比这两种摘要,学习区分正确与错误表达,同时减少单一数据源导致的过拟合问题。这种设计不仅扩展了模型的学习维度,还通过动态调整优化了生成结果的可靠性。

CNMO注意到,该方法与近年来对比学习在文本摘要领域的应用趋势相契合。此前研究显示,对比学习通过构造正负样本调整模型表示空间,已在提升摘要质量、缓解暴露偏差等方面取得成效。腾讯此次将对比学习框架融入大语言模型训练,进一步拓展了该技术的应用边界。

有媒体分析称,腾讯的专利通过多样化摘要文本及对比机制,为模型提供了更贴近真实应用的学习环境,尤其对智能客服、内容生成等需高精度输出的领域具有直接意义。此外,该技术或能加速大模型落地进程。例如,在短文本对话场景中,腾讯曾推出基于混合注意力机制的对话模型专利,若结合新训练方法,有望进一步提升回复的相关性与丰富性。

可以看到,腾讯近年来在大语言模型领域动作频频,从2023年的微调方法专利到此次训练框架创新,显示出其全链条技术布局的野心。

⚠️
本网站信息内容及素材来源于网络采集或用户发布,如涉及侵权,请及时联系我们,发送链接至2697952338@QQ.COM,我们将第一时间进行核实与删除处理。

相关内容

热门资讯

公告精选︱紫金矿业:2025年... 【热点】 锋龙股份(002931.SZ):未来36个月内,优必选不存在通过上市公司重组上市的计划或安...
钱坤云投资是正规公司吗不想服务...  钱坤云投资是正规公司吗不想服务费打水漂?必须了解的投顾退费流程与公司常见套路解析钱坤证券确实是一家...
赛季首败!北京首钢主场不敌广厦... 【搜狐体育战报】北京时间12月30日,2025-2026赛季CBA常规赛第八轮继续激战,其中主场作战...
飞天茅台将在i茅台上架!贵州茅... i茅台将正式上架飞天茅台。 12月30日晚,南都湾财社-酒水新消费指数课题组记者注意到,i茅台正式宣...
2026年“国补”政策发布:补... 备受瞩目的国家消费品以旧换新(“国补”)政策有了新进展。 12月30日,国家发展改革委、财政部印发《...
我市一民营企业在深交所成功上市 12月30日,内蒙古双欣环保材料股份有限公司首次公开发行股票上市仪式在深圳证券交易所隆重举行。双欣环...
汇阳投资顾问公司怎么样能退!9... 在监管的灰色边缘,众多投资顾问依然疯狂揽客;在高利益诱惑下,投资者血本无归的悲剧一次又一次上演。如果...
投资端改革推进 基金经理如何更... 在公募高质量发展的进程中,面对更严格的考核、更激烈的竞争及被动投资带来的压力,主动权益类基金经理如何...
雷军发视频总结过去5年 12月30日,雷军发视频对过去5年进行了总结。 雷军表示,过去五年,小米发生了翻天覆地的变化,对他个...
林泽昌任财政部党组成员、副部长 据财政部官网消息,林泽昌已任财政部党组成员、副部长。 林泽昌,男,汉族,1971年1月生,硕士,中...