在人工智能技术的飞速发展中，零一万物公司宣布推出其最新旗舰模型——Yi-Lightning，标志着国产AI大模型在全球竞技场上的一次重大突破。在国际权威盲测榜单LMSYS上，Yi-Lightning超越了硅谷知名OpenAI的GPT-4o-2024-05-13和Anthropic Claude 3.5 Sonnet，排名世界第六，中国第一，这是中国大模型在全球擂台上首次超越OpenAI GPT-4o的最佳成绩。
Yi-Lightning的核心特性
- 卓越的性能： Yi-Lightning在多个分榜上展现了出色的性能，尤其在中文分榜上，与o1-mini等模型并列排名世界第二。在多轮对话分榜上，Yi-Lightning排名第三，在数学和代码分榜上，分别取得了第三和第四名的成绩。
- 极速推理： 与上一代旗舰模型Yi-Large相比，Yi-Lightning的推理速度显著提升，首包时间缩短了一倍，最高生成速度提升了近四成。
- 成本效益： Yi-Lightning在保持高性能的同时，实现了推理成本的进一步下降。目前，Yi-Lightning已上线Yi大模型开放平台，每百万token仅需0.99元，直逼行业最低价。
技术突破
Yi-Lightning采用了MoE混合专家模型架构，通过独特的混合注意力机制、动态Top-P路由和多阶段的训练等技术，在保持高性能的同时降低推理成本。
- 混合注意力机制（Hybrid Attention）： 只在模型的部分层次中将传统的全注意力替换为滑动窗口注意力，降低计算成本，同时保持对长序列数据的高效处理能力。
- 跨层注意力（Cross-Layer Attention, CLA）： 支持模型在不同的层次之间共享键和值头，减少对存储资源的需求，提高模型的推理效率。
- 动态Top-P路由： 根据任务的难度动态自动选择最合适的专家网络组合，无需人工干预，使模型能更加智能地适应各种任务需求，实现极速推理。
零一万物的Yi-Lightning模型的发布，不仅展示了中国在AI大模型领域的强大实力，也为全球AI技术的发展贡献了新的动力。Yi-Lightning的卓越性能、极速推理和成本效益，使其成为AI领域的一个重要里程碑。
想了解更多AI行业资讯信息请关注AI人工智能网站--AITOP100平台--AI资讯专区：https://www.aitop100.cn/infomation/index.html
