阿里云发布开源模型Qwen2,称性能超越文心4.0等多个闭源模型

发布时间: 2024-06-08

阿里云自称性能超过美国最强的开源模型Llama3-70B,也超过文心4.0、豆包pro、混元pro等众多中国闭源大模型。

6月7日,阿里云更新技术博客:发布开源模型Qwen2-72B,阿里云称性能超过美国开源模型Llama3-70B,也超过文心4.0、豆包pro、混元pro等众多中国闭源大模型。所有人均可在魔搭社区和Hugging Face免费下载通义千问最新开源模型。

阿里云援引模型测评榜单OpenCompass,称此前开源的Qwen1.5-110B已领先于文心4.0等一众中国闭源模型。刚刚开源的Qwen2-72B,整体性能相比Qwen1.5-110B又取得了大幅提升。

(图说:在上海人工智能实验室推出的OpenCompass大模型测评榜单上,此前开源的Qwen1.5-110B已领先于文心4.0等一众中国闭源模型)

通义千问Qwen2系列模型大幅提升了代码、数学、推理、指令遵循、多语言理解等能力。在MMLU、GPQA、HumanEval、GSM8K、BBH、MT-Bench、Arena Hard、LiveCodeBench等国际权威测评中,超过美国的Llama3。

通义千问团队在技术博客中披露,Qwen2系列包含5个尺寸的预训练和指令微调模型,Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B和Qwen2-72B,其中Qwen2-57B-A14B为混合专家模型(MoE)。Qwen2所有尺寸模型都使用了GQA(分组查询注意力)机制,以便让用户体验到GQA带来的推理加速和显存占用降低的优势。

特别声明:文章内容仅供参考,不造成任何投资建议。投资者据此操作,风险自担。

首页 - 推荐 - 股市 - 市场动态 - 金融 - 基金 - 新三板 - 创投 - 新股 - 数据 - 科创板 -

本站不良内容举报联系客服QQ: 官方微信: 服务热线:18001175879

Copyright @ 2024 金融谷 版权所有      ICP备案编号:冀ICP备2024068625号-1