腾讯混元发布Hy4 Preview：770B MoE开源旗舰，1M上下文，聚焦真实生产力-AITOP100,AI资讯

腾讯混元发布Hy4 Preview

206年8月28日，腾讯混元正式发布并开源新一代大语言模型 Hy4 Preview 。这是继今年 4 月开源 Hy3 之后，混元系列又一次重大版本迭代。模型采用 MoE（混合专家）架构，总参数 770B，激活参数 49B，上下文长度突破 1M。

腾讯方面表示，Hy4 Preview 定位“为生产力而生”，在代码、办公、科学等真实生产力任务上展现出卓越能力，稳居开源模型第一梯队。

模型地址：腾讯混元官网

一、模型规格：770B总参数，78层MoE架构，1M上下文

Hy4 Preview 是混元系列迄今为止规模最大的开源模型。相比前代 Hy3（总参数 295B、激活参数 21B、上下文 256K），这一代总参数从 295B 跃升至 770B，激活参数从 21B 翻倍至 49B，上下文长度从 256K 扩展至 1M，约为前代的 4 倍。

根据 GitHub 上的技术文档，Hy4 Preview 的骨干网络共 78 层，其中第 1 层采用标准密集 FFN，其余 77 层替换为 MoE 结构，每层包含 256 个路由专家和 1 个共享专家，每个 Token 激活 top-8 路由专家及共享专家。此外，模型内置 1 个原生 MTP 层（总参数 10B，激活参数 0.7B），用于推测解码。

在架构设计上，注意力模块采用 Gated DeepSeek Sparse Attention（Gated DSA）与 IndexCache 技术实现跨层稀疏索引复用，残差通路使用 iHC（identity Hyper-Connections）扩展层间信息流动。模型隐藏层维度为 6144，注意力头数 64，词表大小 120832。

二、性能表现：Terminal Bench2.1 达85.4 分，与Claude Opus 5持平

腾讯方面表示，Hy4 Preview 在模型尺寸、上下文长度、数据规模三方面进行了显著扩展，预训练和后训练的共同进步带来了“代际飞跃”级别的智能提升。

在具体基准测试中：

Terminal Bench 2.1 （聚焦终端命令行编程）：Hy4 Preview 拿下 85.4 分 ，与 Hy3 的分差拉大到 14.6 分，成功超越 DeepSeek V4 Pro，并与 Claude Opus 5 得分持平，跻身该项测试的第一梯队。
DeepSWE （软件工程实战）：Hy4 Preview 从 Hy3 的 28.0 分大幅跃升至 64.3 分 ，实现巨大跨越。
Toolathlon-Verified （工具调用马拉松）：拿到 74.1 分 ，超越千问 3.8 Max、GPT-5.6 Sol 等，逼近 Kimi K3 和 Opus 5。
APEX-Agents（pass@1） （智能体一次性成功率）：获得 37.1 分 ，紧追 Kimi K3 的 37.2 分。

腾讯混元发布Hy4 Preview

在腾讯内部组织的 163 名内部专家、203 个工程任务的盲测 中，Hy4 Preview 均分 2.99/4.00 ，略优于 GLM 5.3（2.92/4.00）和 Kimi K3（2.94/4.00）。

腾讯方面还披露，Hy4 Preview 参与到了自身研发的全链路中——首次参与训练方法、数据策略、评估体系和底层算子的自动优化，模型提出方案、运行实验并根据结果迭代，形成初步的递归自我改进闭环。

另外，模型通过自主分析推理系统瓶颈，围绕算子融合、通信优化等方向开展多轮优化，端到端吞吐相较基线提升 31.8% 。

三、定价：输入6元/百万Token，输出18元/百万Token

Hy4 Preview 延续了混元系列“普惠的高性价比路线”。API 定价如下：

计费项	价格（元/百万 tokens）
输入（缓存未命中）	6
输入（缓存命中）	0.3
输出	18

在 OpenRouter 平台上，Hy4 Preview 的美元计价约为输入 $0.834/百万 tokens、输出 $2.501/百万 tokens。

四、开源与可用性：Apache 2.0许可证，多平台同步上线

Hy4 Preview 已采用 Apache License 2.0 开源。

模型权重已在 Hugging Face 上线（zai-org/GLM-5.3-Flash 同名组织下搜索 tencent/Hy4-preview），GitHub 仓库（Tencent-Hunyuan/Hy4-preview）同步开放。

在应用层面，Hy4 Preview 已在 WorkBuddy/CodeBuddy 国内版及国际版、元宝、ima 等腾讯产品同步首发。开发者和企业可通过腾讯云 TokenHub 和 OpenRouter 调用 API。为尽快收集真实用户反馈，WorkBuddy/CodeBuddy 将面向用户开展为期 2 周的限时免费活动。

五、预览版的局限：多模态能力待正式版补齐

作为 preview 版本，Hy4 Preview 目前尚不支持视觉多模态能力 ，这一点需要在后续的正式版中补齐。腾讯方面表示，preview 先行、正式版跟进是混元系列的既定节奏，通过将真实世界的反馈持续引入研发过程，让模型在解决实际问题中进步。按照这一节奏，Hy4 的下一版模型也将在近期陆续上线。

Hy4 Preview 的发布，标志着腾讯混元在开源大模型领域迈出了关键一步。770B 总参数、1M 上下文、聚焦真实生产力场景的设计，以及 Apache 2.0 的开源策略和极具竞争力的定价，使其成为开源模型第一梯队的有力竞争者。尽管预览版尚缺多模态能力，但其在代码、办公、科学等领域的表现已展现出代际跃升的潜力。

更多信息请参阅官方渠道：