前言:
元象XVERSE与腾讯音乐宣布联合推出lyraXVERSE加速大模型,并借助该技术全面升级音乐助手“AI小琴”的问答、聊天与创作能力,让她情商与智商双高,为用户提供个性化、更深入、陪伴感十足的音乐互动体验。
在正文之前,我们先简单了解下“元象XVERSE”和“腾讯音乐天琴实验室”
元象XVERSE是干什么的?
元象XVERSE是国内领先的AI与3D技术服务公司,致力于打造AI驱动的3D内容生产与消费一站式平台,累计融资金额超过2亿美元,投资机构包括腾讯、高榕资本等。元象拥有深厚积累与完整布局,在3D领域已自主研发出行业引领性的“端云协同”3D互动技术,开创零门槛(轻)、一站式(快)、高品质(美)全新3D体验;在AI领域,开源百亿参数多语言通用大模型,为同尺寸效果最佳,并可免费商用。
腾讯音乐天琴实验室是干什么的?
腾讯音乐天琴实验室聚焦多媒体内容理解、增强、AIGC与大模型加速研究,多项核心技术行业领先,致力于音乐娱乐行业的应用创新与体验变革。天琴实验室建立了广泛的行业影响力,获得多项荣誉。
什么是lyraXVERSE?
lyraXVERSE是元象高性能大模型XVERSE-13B与腾讯音乐天琴实验室大模型推理加速框架MUSELight的强强联合,也是XVERSE-13B的“最快版本”。该模型在A100等硬件上处理速度最高可达每秒 3900 tokens,降本增效成果显著。
目前该模型已全面开源,支持免费商用,我把大模型下载地址告诉大家。
大模型下载链接:
https://huggingface.co/TMElyralab/lyraXVERSE
如何使用升级版“AI小琴”:
如果手机上有QQ音乐APP的,打开后QQ音乐----选择一首歌曲---选择最播放和暂停按钮正上方的图标----进入后可以直接和“AI小琴”对话
升级版“AI小琴”即将全量上线,用户只需点击QQ音乐“AI一起听”按键,小琴会根据用户的提问、播控习惯和当下心情,提供闲聊、推歌、音乐解读、词曲创作等服务,充当全能听歌陪伴助手。
C端大模型在落地中需解决大调用量、高实时性等实际需求,lyraXVERSE提速效果显著,产生两大明显益处:
第一,运营成本大幅减少,云服务费用仅为未加速版本的三分之一(见下图)。
第二,是用户体验显著提升,表现为更快的聊天响应速度和更准确深入的回复。在人工盲测对比中,升级版57%的回复更出色,其中17%更遥遥领先。此外,歌手相关的回复准确性提升50%,用户聊天深度增加33%。
注:Batch Size是批量大小,指一次推理中同时处理的样本数量。该数值越大,通常代表单个模型推理利用率越高。
lyraXVERSE背后的元象高性能大模型,自2023年8月起相继推出7B与13B两个系列,坚持“高性能”定位,在多个权威基准测评中表现出色,中英文能力超越Llama-2 、Baichuan2 等同尺寸或更大尺寸模型。
象高性能大模型擅长问答、创作和推理等,能帮助企业在智能客服、创意写作、精准推荐方面打造行业领先的用户体验。
腾讯音乐天琴实验室是音娱行业AIGC先行者,2022年7月布局大模型研发与应用,2023年1月发布自研大模型推理加速框架MUSELight,并相继开源lyraSD、lyraLLaMA、lyraXVERSE等多个大模型加速版本,广受行业关注。在MUSELight引擎驱动下,天琴实验室在业界率先实践AI音乐海报、AI音乐视频、直播礼物等AIGC应用,并持续与行业伙伴推动生态共建。
以前,元象与腾讯音乐合作推出了国内首个音乐元宇宙TMELAND、QQ音乐周杰伦等多位歌星VR专辑、全民K歌3D直播间等创新音娱体验,展示了音乐与技术融合的多重可能性。未来,双方将继续积极探索AI与3D的前沿技术合作,引领音乐娱乐创新方向。