腾讯混元T1正式发布:深度思考模型赋能AI推理
近日,腾讯正式发布其自主研发的深度思考模型——混元T1正式版,标志着腾讯在人工智能领域取得了新的进展。
混元T1正式版在海量强化学习的基础上,对数学、逻辑推理、科学及代码等理工科难题进行了针对性优化,从而显著提升了推理能力。在常见benchmark测试中,例如大语言模型评估增强数据集MMLU-PRO,混元T1获得了87.2分的优异成绩,性能表现卓越。同时,在CEval、AIME、Zebra Logic等中英文知识及竞赛级数学、逻辑推理的公开基准测试中,混元T1也展现出了行业领先的推理模型水平。
创新架构与高效推理
除了基础推理能力,混元T1正式版还在多项对齐任务、指令跟随任务和工具利用任务中展现出强大的适应性。这归功于其沿用了混元Turbo S的创新架构,并采用了Hybrid-Mamba-Transformer融合模式。这是业界将混合Mamba架构应用于超大型推理模型的突破性尝试,有效降低了传统Transformer结构的计算复杂度,减少了KV-Cache的内存占用,从而显著降低了训练和推理的成本。
长文处理能力优化
此外,凭借卓越的长文捕捉能力,混元T1能够有效解决长文推理中常见的上下文丢失和长距离信息依赖问题。混合Mamba架构针对长序列处理进行了专项优化,通过高效的计算方式,在确保长文本信息捕捉能力的同时,大幅降低资源消耗。在相近的激活参数量下,混元T1实现了高达2倍的解码速度提升。
开放体验与API服务
目前,腾讯混元T1已开放体验,并上线了API服务。用户可根据自身需求,以每百万tokens1元的输入价格和每百万tokens4元的输出价格,体验这款强大推理模型带来的便捷与高效。