当主流AI模型还在拼参数、抢算力时,Liquid AI 悄悄用一只“草原鬣狗”(Hyena)撕开了边缘设备的新战场——其最新发布的 Hyena Edge 模型,不仅让手机AI反应快如闪电,还把内存占用砍到“乞丐级”,直接叫板Transformer架构的霸权。
手机AI的“瘦身革命”:快30%、省内存,还能吊打同级对手
在三星Galaxy S24 Ultra的实测中,Hyena Edge交出了一份“离谱”的成绩单:
- 延迟碾压:长文本预填充和解码速度比同参数的 Transformer++ 快30%,告别“AI反应慢半拍”的尴尬;
- 内存逆袭:所有测试场景下内存占用均低于传统模型,堪称“资源紧缺环境中的特种兵”;
- 质量不掉队:在Wikitext、Lambada等基准测试中,困惑度评分大幅降低,PiQA、HellaSwag等推理任务准确率直接反超。
黑科技在哪?
Hyena Edge直接砍掉了传统模型的“重量级武器”——三分之二的分组查询注意力(GQA),转而用自研的 Hyena-Y门控卷积 替代。这就好比用“狙击枪+无人机”组合代替“重炮轰击”,既精准又省弹药。
MIT实验室走出的“架构炼金术”:让AI自己设计自己
Hyena Edge的“大脑”并非人类工程师手搓,而是由Liquid AI的 STAR框架 进化而来——这套算法会像“基因编辑”一样,自动调整模型结构,以实现:
- 延迟最短:优化每一步计算的耗时;
- 内存最省:榨干每一字节的利用率;
- 质量最优:在参数受限下“榨干”性能极限。
类比场景:
想象你在玩《我的世界》,但建筑图纸由AI自动生成,且每栋房子都经过“风阻测试”“承重测试”和“美观度评估”,最终造出一座“又快又稳”的AI城堡。
手机AI的“全能战士”:从刷剧到写代码,它都能掺一脚
Hyena Edge的野心不止于“快”和“省”,更想成为边缘设备的“瑞士军刀”:
- 实时翻译:跨国会议秒级出字幕,无需联网;
- 智能助手:语音指令直接生成PPT大纲,连排版都帮你搞定;
- 隐私保护:本地化处理敏感数据,避免云端泄露风险。
数据实锤:
在1000亿个标记上训练后,Hyena Edge在ARCC-easy(常识推理)和Winogrande(指代消解)等任务中,准确率已逼近云端大模型,而内存占用仅为后者的1/5。
开源“核弹”计划:让每个手机都装上AI大脑
Liquid AI宣布,未来几个月内将开源一系列 Liquid基础模型,包括Hyena Edge。这意味着:
- 开发者狂欢:手机厂商可直接调用模型,快速适配新机;
- 极客福音:个人开发者能基于Hyena Edge定制专属AI工具;
- 生态裂变:从智能手表到车载系统,低门槛接入AI时代。
行业意义:
这相当于把“AI大模型”的门槛从“造火箭”降到了“拼乐高”,为边缘设备的AI平民化铺平道路。
结语:手机AI的“内卷”新战场,谁会是下一个Hyena?
当Transformer架构统治云端AI时,Hyena Edge用“卷积革命”证明:边缘设备的未来,属于更轻、更快、更聪明的架构。正如Liquid AI所言:“我们不是在优化模型,而是在重新定义AI的生存法则。”
官方博客:https://www.liquid.ai/research/convolutional-multi-hybrids-for-edge-devices