前言:
11月24日,零一万物已经在Hugging Face、ModelScope等开源社区平台正式发布了Yi-34B-Chat和Yi-6B-Chat 这2个微调模型。而且,他们还为开发者们还提供了4bit、8bit量化版模型,Yi-34B-Chat 4bit 量化版模型可以直接在消费级显卡(如RTX3090)上使用,为开发者提供了更多选择。
Yi-34B基座模型:
1.数据参数量340亿、超长上下文 200K、多语言语料 3T、可申请 免费商用
Yi-6B基座模型:
数据参数量60亿、超长上下文 200K、多语言语料 3T、可申请 免费商用
零一万物官方:https://www.lingyiwanwu.com/
模型地址:
我把模型地址发给大家(需要梯子才能打开网站),如下
https://huggingface.co/01-ai/
https://www.modelscope.cn/organization/01ai
这是评测结果
根据评测结果,我们可以看到Yi-34B-Chat和Yi-6B-Chat 这2个微调模型在 MMLU 英文知识水平评测集,C-Eval、CMMLU 中文综合考试评测集,以及 GSM8K、BBH 两个常用的评估大模型数学及推理能力的评测集中取得了优异的成绩,表现不错,很亮眼。
其中,MMLU 英文知识水平评测集,CMMLU 中文综合考试评测集中,这2个微调模型成绩最高,但是在C-Eval中,成绩最好的是AquilaChat-34B v1.2获得了82.99
关于零一万物的资讯,aitop100会持续关注,到时候我会告诉大家!