🔥 开源首日：为Hopper GPU而生的FlashMLA正式亮相
2025年02月24日 · 中国杭州
作为DeepSeek“开源先锋周”计划的首发之作，FlashMLA——专为Hopper架构GPU设计的高效MLA（Multi-Layer Attention）解码内核——今日正式登陆GitHub开源社区。这一核心技术的开源标志着DeepSeek在AI基础设施领域的技术积累首次规模化释放，旨在推动大模型推理效率的边界突破。
🚀 技术解析：FlashMLA的四大革新特性
1.可变长序列优化能力
针对流式推理、批处理等场景中常见的变长序列难题，FlashMLA通过动态分页KV缓存（块大小64）实现显存利用率跃升，减少碎片化并提升吞吐量，尤其适配对话式AI等高并发场景。
2.BF16混合精度支持
深度融合BF16计算与FP32精度保留策略，在Hopper GPU上实现内存带宽受限峰值3000 GB/s，计算密集型场景理论算力达580 TFLOPS，较传统方案推理速度提升40%-60%。
3.生产级性能验证
目前FlashMLA已在DeepSeek内部多个千亿参数模型推理管线中完成部署，实测单卡H800可支持超长上下文（128k tokens）的实时解码需求，延迟降低至行业领先水平。
4.开发者友好设计
提供轻量化API接口与模块化扩展能力，支持PyTorch自定义算子集成，开源即适配主流Transformer架构模型。
🧠 团队视角：为何选择开源核心技术？
DeepSeek基础设施负责人表示：
“FlashMLA的诞生源于我们对大模型落地痛点的深度洞察。此次开源不仅是为了回馈社区，更希望与全球开发者共同探索AI算力的极限。技术共享是AI普惠的必经之路。”
立即体验FlashMLA：
🔗 GitHub仓库：https://github.com/deepseek-ai/FlashMLA
📌 提示：文档已提供端到端推理Demo与性能调优指南。
🌟 明日预告：开源计划第二弹
明日（2月25日），DeepSeek将开源分布式训练框架SeekTorch，主打动态弹性调度与万亿模型无缝扩展能力，敬请关注GitHub仓库更新！
#DeepSeek开源周 #AIInfrastructure #FlashMLA
关注我们，见证未来四天的技术风暴！
DeepSeek AI软件官网地址：【点击登陆】
