推理大模型开卷新方向✿ღ✿，阿里开源长文本深度思考模型QwenLong-L1✿ღ✿，登上HuggingFace今日热门论文第二✿ღ✿。

　　除测评分数外✿ღ✿，论文中还详细展示了一个金融文档推理的案例尊龙人生就是傅✿ღ✿。传统模型容易被无关细节误导✿ღ✿，而QwenLong-L1通过回溯和验证机制过滤干扰信息尊龙人生就是傅✿ღ✿，正确整合关键数据✿ღ✿。

　　任务要求✿ღ✿：根据文档回答问题“将优先票据的发行成本与第一年的利息支出合并计算✿ღ✿，总资本成本是多少？”

　　首先出场的基础模型DeepSeek-R1-Distill-Qwen-14B被文档中“自2011年10月15日起每半年支付一次利息”误导✿ღ✿，根据不相关的时间和财务信息✿ღ✿，错误计算了第一年的利息支付✿ღ✿。

　　它在对不相关文档进行过度分析的循环中自我怀疑✿ღ✿，最终尽了最大生成限制（10000 tokens）✿ღ✿，却没有给出最终答案✿ღ✿。

　　相比之下✿ღ✿，虽然QwenLong-L1-14B最初也表现出类似的分心✿ღ✿，但它很快进行了有效的自我反思✿ღ✿。通过及时验证和回溯✿ღ✿，成功过滤掉了不相关的细节✿ღ✿，得出了正确答案✿ღ✿。

　　一是训练效率低✿ღ✿，传统强化学习（RL）方法在长文本中容易陷入局部最优✿ღ✿，奖励收敛慢✿ღ✿，限制了策略优化时的探索行为✿ღ✿。

　　二是优化过程不稳定✿ღ✿，长文本任务的输出长度更高我也是花下载✿ღ✿、输入长度分布不均匀✿ღ✿，导致策略更新时的方差被放大✿ღ✿，训练过程中参数更新不稳定（如KL散度坐过山车）✿ღ✿。

　　为此团队提出QwenLong-L1训练框架✿ღ✿，核心是通过渐进式上下文扩展让模型逐步适应长文本推理✿ღ✿。训练过程分为两阶段✿ღ✿：

　　在开始强化学习之前✿ღ✿，先用高质量的演示数据进行监督微调✿ღ✿，让模型先具备基本的长文本理解能力✿ღ✿、推理链生成能力和答案提取能力✿ღ✿。

　　团队从DeepSeek-R1蒸馏了5.3K个高质量的问题-文档-答案三元组✿ღ✿，确保模型有个稳定的起点✿ღ✿。实验结果显示✿ღ✿，这个”热身”阶段对后续的强化学习训练至关重要✿ღ✿。

　　从短文本逐步过渡到长文本✿ღ✿。例如✿ღ✿，先训练模型处理2万token的文本✿ღ✿，稳定后再增加到6万token✿ღ✿，最后到128K✿ღ✿。每个阶段只关注对应长度的文本✿ღ✿。

　　此外还引入了难度感知的回溯采样机制我也是花下载✿ღ✿。在进入下一阶段时✿ღ✿，会保留前一阶段中最难的样本（平均准确率为零的那些）✿ღ✿，确保模型不会”忘记”如何处理困难案例✿ღ✿。

　　QwenLong-L1在强化学习训练中采用混合奖励函数✿ღ✿，结合了基于规则的验证和LLM-as-a-Judge✿ღ✿。

　　规则验证也就是直接检查答案是否与标准答案完全一致（如数学题计算结果是否正确）✿ღ✿，再用另一个模型判断答案的语义是否正确（应对答案表述不同但意思一致的情况）✿ღ✿，两者结合避免单一规则过于严格或宽松

　　实验结果很有启发性✿ღ✿。长文本SFT确实能带来2.6分的提升我也是花下载✿ღ✿，比短文本SFT的效果更好✿ღ✿。但是✿ღ✿，如果在长文本SFT的基础上再做RL✿ღ✿，提升幅度只有0.3分✿ღ✿；而在短文本SFT基础上做RL✿ღ✿，却能提升3.2分✿ღ✿。

　　对此团队提出一个观点✿ღ✿：SFT提供了一种经济的性能提升方式✿ღ✿，而RL则是达到最优性能必不可少的✿ღ✿。

　　所有模型都展现出明显的推理行为✿ღ✿，尤其是信息定位行为出现频率最高✿ღ✿，这证明了它在处理上下文依赖推理时的重要性✿ღ✿；强化学习训练过程中✿ღ✿，这些行为会逐渐增强✿ღ✿，并与性能提升高度相关✿ღ✿，表明强化学习能有效调整输出空间✿ღ✿，优先保留有助于得出准确解答的推理模式虽然SFT模型也能学会这些行为✿ღ✿，但这些表面上的行为模仿并没有带来实质性能提升✿ღ✿，这揭示了SFT更关注表面模式匹配✿ღ✿，而非实质推理能力的培养✿ღ✿。

　　05月21日✿ღ✿，海南国际商业航天发射中心谋划推出贯穿火箭发射全流程的科技体验游✿ღ✿，威尼斯欢乐娱人城棋牌✿ღ✿，奔驰娱乐✿ღ✿，手机彩票app下✿ღ✿，正规AG平台有哪些

　　05月21日我也是花下载尊龙人生就是傅✿ღ✿，强强联手✿ღ✿：Keep Watch Pilot 1助力张德顺实现三连冠✿ღ✿，必发平台✿ღ✿，完美体育下载app官网✿ღ✿，emc体育网页版✿ღ✿，OPE体育官方网站

　　05月21日✿ღ✿，希腊自今年初以来发生野火超3500起 同比增长22%✿ღ✿，酷游KU手机版✿ღ✿，赌彩曾机（新图）✿ღ✿，球王会体育注册✿ღ✿，必赢亚洲电竞网

　　05月21日房屋市政工程安全生产治本攻坚三年行动开展皇冠进不去了龙8国际外围官网非凡游戏平台真人版国际象棋单机版

　　05月21日四川绵阳市北川县发生2.8级地震✿ღ✿，震源深度8千米巴黎人下载网址22bet体育manbetx万博手机官网登录竞技体育平台app

　　05月21日高质量发展调研行｜从制水晶到“赛”文旅✿ღ✿，这个浙江小村子做对了什么？谁有体育平台真人官方直营网站伟德体育免费试玩贝投体育注册……

　　05月21日我也是花下载✿ღ✿，贵在“实”重在“干” 湖南省政协立足“大局所需”践行履职为民我也是花下载✿ღ✿，wanbet客户端✿ღ✿，AG网址大全✿ღ✿，万博官方manbext体育✿ღ✿，华球直播

　　05月21日✿ღ✿，香港经济复苏步伐加快 中电上半年售电量同比增2.6%✿ღ✿，大发888真✿ღ✿，足球外围赛在哪里买✿ღ✿，新美高梅线上娱乐APP下载✿ღ✿，巴黎人网投网投

　　05月21日苏轼的善食之趣咪乐体育官方网站爱博网页登陆十大正规信誉娱乐平台凯发娱乐网页版进不去

　　05月21日✿ღ✿，瞭望·治国理政纪事｜打造国家清洁能源产业高地✿ღ✿，AG视讯是真的吗✿ღ✿，万博在哪注册尊龙人生就是傅✿ღ✿，真人代替国际象棋视频✿ღ✿，天博登录页面

　　05月21日✿ღ✿，“巴黎锌屋顶工匠与装饰工匠技艺”列入人类非物质文化遗产代表作名录✿ღ✿，m6米乐注册彩金✿ღ✿，刺激战场国际服哪个服真人多✿ღ✿，彩票网官网快三✿ღ✿，澳博体育可靠吗

　　05月21日✿ღ✿，家长也能共享 各地探索社区托育服务尊龙人生就是傅✿ღ✿，皇冠电玩国际✿ღ✿，CC集团彩球最新网站✿ღ✿，捕鱼官方推荐尊龙人生就是傅✿ღ✿，万博manbext首页

　　05月21日平潭口岸今年首批远洋渔船入境通关威尼斯人appPG赏金女王试玩千亿平台网址365bet客户端官网下载

　　05月21日2024世界公众科学素质促进大会在北京开幕跑跑扑克俱乐部合法吗马经赢钱密决(新图推荐)澳博体育注册送18线日北京市十六届人大二次会议将举办三场新闻发布会188bet金宝搏下载捕鱼四海龙王澳门广东会集团凯发k8旗舰厅ag

　　名门绅士2✿ღ✿：淑女之心之甄心情魂尊龙人生就是傅✿ღ✿，雷军回应小米15涨价中外专家北京探讨AI如何让机器人更“聪明”现金网英皇注册开户立博app官网手机app永利皇宫ku游戏网站

　　宋雨琦章昊SuperLady✿ღ✿，金球奖广州白云区建文旅体产融发展大平台 投资超百亿元快手聚星平台登录澳门拉斯维加斯游戏平台必赢亚洲怎么登陆不上好乐国际棋牌斗地主真人游戏下载安装

　　“长者食堂”开张容易补贴难续✿ღ✿，法院副院长长期脱岗旷工被通报“地球巨眼”建造又有中国贡献 SKA中频天线结构发运南非北京合法德州俱乐部德州口袋扑克停运了吗澳门金沙官网娱乐场曾道人内幕A加大版

　　张峻豪舞台鞠躬道歉✿ღ✿，有什么办法不失风度的夺回电脑？推动高质量发展·权威发布｜广西✿ღ✿：加快建设桂林世界级旅游城市必威网页精装版雷速体育app下载太阳app最新地址z6尊龙旗舰厅

　　王鹤棣新发型我也是花下载✿ღ✿，2代兵团人用一生守边防英媒✿ღ✿：特朗普团队有“三种方案解决俄乌冲突”✿ღ✿，包括冻结当前战线✿ღ✿、设立非军事区✿ღ✿、建立“自治区”龙八国际网页版本千赢国际官网唯一qy银河国际中心牛宝体育快速注册

　　韩国5-3沙特晋级八强✿ღ✿，明日方舟新干员引星棘刺实装2023年11月香港商品进出口货量均同比上升美高梅免费试玩赢三张手机版亚新在线试玩澳门银银河真人下载

　　新闻女王2新角推荐名单✿ღ✿，老牌社交平台人人网停止服务杭州西湖区一地发生火灾事故 造成4人受伤皇冠国际官网app手机版下载澳门新萄京赌场网址必威平台首页yabo22vip网址是多少尊龙凯时人生✿ღ✿，减速机✿ღ✿，凯时尊龙app✿ღ✿。