加载中…

文 新眸,作者 李小东 大模型的牌局上,腾讯终于甩出了一张新牌。 4月23日,腾讯混元Hy3 preview语言模型正式发布并开源。这是一款快慢思考融合的混合专家(MoE)模型,总参数295B(2950亿),激活参数21B,最大支持256K上下文长度。官方给它的定义干脆利落:“混元重建后训练的第一个模型”,以及“混元迄今最智能的模型”。 如果把目光往回拉四个月,腾讯AI的日子并不好过。今年年会上,马化腾亲口承认“动作慢了”,慢了9个月到1年。刘炽平复盘,混元像高中生背题应考,成绩单好看,一上真实考场就露馅。与此同时,字节豆包月活已达3.45亿,阿里千问1.66亿,而元宝约5700万,差距不仅没缩小还在拉大。 所以当28岁的姚顺雨——前OpenAI研究员、清华姚班出身、中国互联网最受瞩目的天才少年,在去年被正式任命为腾讯“CEO/总裁办公室”首席AI科学家时,外界解读只有一个意思:腾讯要动真格了。 四个月后,Hy3 preview
上线。交卷时刻似乎到了。 01 一场“推倒重来”式的重建 Hy3 preview不是一次常规迭代。用腾讯自己的话说,这是一场底层工程的重构。2月,混元重建了预训练和强化学习的基础设施,原有的训练框架没有沿用,姚顺雨到任后在一个月内完成了整个基础设施的重建。 重建的方向很明确,三个原则:能力体系化、评测真实性、性价比追求。翻译一下就是,不做“偏科生”,不刷榜,不让模型变成烧钱的无底洞。 “不做偏科生”这条尤其值得展开。Hy3 preview从研发之初就围绕智能体场景做了针对性设计,而姚顺雨的判断是,即便是代码智能体的单一应用,也涉及推理、长文、指令、对话、代码、工具等多种能力的深度协同。你不能让模型只会写代码却看不懂文档,或者能聊天但调不了API。 同时,姚顺雨指出,过去的混元过度追逐榜单成绩,将打榜语料放入训练集导致数据被污染,影响了真实场景表现。他要求团队“以后不要打榜”,主动跳出易被刷榜的公开榜单,通过自建题目、最新考试、人
工评测、产品众测等多种方式来评估模型的“真实战斗力”。 从研发节奏来看,Hy3 preview于2026年1月底正式启动训练,从训练到上线用了不到三个月,被腾讯内部定义为混元大模型从“读万卷书”走向“行万里路”、尝试解决真实世界复杂问题的开端。 不到三个月,重建基础设施、定方向、训模型、开源发布。这个速度放在大厂体系里,相当激进。 Hy3 preview最核心的技术理念是“快慢思考融合”。 这个概念对应的是认知科学中的双系统理论:系统1(快思考)是快速、自动、直觉式的反应;系统2(慢思考)是缓慢、深度、需要调用大量计算资源的推理。传统大模型在设计时通常两条路只能选一条,要么快但能力有限,要么强但响应慢。 Hy3 preview的做法是让模型根据任务难度自动选择思考模式:简单任务用快思考,复杂任务切换到慢思考,在速度和能力之间找一个最优平衡点。 工程上,这套机制依赖MoE架构来实现。295B的总参数中,每次推理只激活21B,激活占
来源:钛媒体 | 阅读原文