登录
注册
开源
企业版
高校版
搜索
帮助中心
使用条款
关于我们
开源
企业版
高校版
私有云
模力方舟
登录
注册
代码拉取完成，页面将自动刷新
开源项目
>
人工智能
>
机器学习/深度学习
&&
捐赠
捐赠前请先登录
取消
前往登录
扫描微信二维码支付
取消
支付完成
支付提示
将跳转至支付宝完成支付
确定
取消
Watch
不关注
关注所有动态
仅关注版本发行动态
关注但不提醒动态
186
Star
1.1K
Fork
290
MindSpore
/
community
代码
Issues
507
Pull Requests
2
Wiki
统计
流水线
服务
JavaDoc
PHPDoc
质量分析
Jenkins for Gitee
腾讯云托管
腾讯云 Serverless
悬镜安全
阿里云 SAE
Codeblitz
SBOM
我知道了，不再自动展开
更新失败，请稍后重试！
移除标识
内容风险标识
本任务被
标识为内容中包含有代码安全 Bug 、隐私泄露等敏感信息，仓库外成员不可访问
【开源实习】联手书生社区，打造vllm-mindspore和OpenCompass的对接，输出样例和文档
TODO
#ICX635
Intern
杨宇澄
创建于
2025-09-09 17:30
【任务分值】40分 【任务背景】 OpenCompass 是面向大模型评测的一站式平台。由开源可复现的评测框架 CompassKit 、共建共享的评测基准社区 CompassHub、官方搭建的榜单和精选的垂直领域榜单 CompassRank 组成，被Mete，HF等多家伙伴收录推荐；vLLM Mindspore插件（vllm-mindspore）是一个由MindSpore社区孵化的vLLM后端插件。其将基于MindSpore构建的大模型推理能力接入vLLM，从而有机整合MindSpore和vLLM的技术优势，提供全栈开源、高性能、易用的大模型推理解决方案。 【需求描述】 1.打通vllm-mindspore和OpenCompass部署安装和评测使用，形成完善的样例，文档等（包含代码，环境等），并纳入OpenCompass 2.通过vllm-mindspore插件实现Qwen和InternLM模型推理服务化在OpenCompass上进行GSM8k 数据集评测，在精度误差内，推理时间优于Huggingface标准，形成完善的样例，文档等（包含代码，环境等）； 3.合入https://gitee.com/mindspore/vllm-mindspore ； 【验收标准】 1.提交应用的代码至 https://gitee.com/mindspore/vllm-mindspore 分支，需要有完善的样例，文档等（包含代码，环境等）； 2.提交代码到OpenCompass代码仓上或者文档上； 【任务技术要求】 硬件：Atlas 800I A2推理服务器，或Atlas 800T A2推理服务器，已安装必要的驱动程序，并可连接至互联网 操作系统：openEuler或Ubuntu Linux 软件： Python >= 3.9, < 3.12 CANN >= 8.0.0.beta1 MindSpore:2.7.0 vLLM:0.9.1 【任务成果仓库】 vllm-mindspore master 分支：https://gitee.com/mindspore/vllm-mindspore； 【导师邮箱】 邓老师：dengyepeng@huawei.com **请申请任务的同学先发送简历和简要开发方案给任务导师，谢谢合作**
【任务分值】40分 【任务背景】 OpenCompass 是面向大模型评测的一站式平台。由开源可复现的评测框架 CompassKit 、共建共享的评测基准社区 CompassHub、官方搭建的榜单和精选的垂直领域榜单 CompassRank 组成，被Mete，HF等多家伙伴收录推荐；vLLM Mindspore插件（vllm-mindspore）是一个由MindSpore社区孵化的vLLM后端插件。其将基于MindSpore构建的大模型推理能力接入vLLM，从而有机整合MindSpore和vLLM的技术优势，提供全栈开源、高性能、易用的大模型推理解决方案。 【需求描述】 1.打通vllm-mindspore和OpenCompass部署安装和评测使用，形成完善的样例，文档等（包含代码，环境等），并纳入OpenCompass 2.通过vllm-mindspore插件实现Qwen和InternLM模型推理服务化在OpenCompass上进行GSM8k 数据集评测，在精度误差内，推理时间优于Huggingface标准，形成完善的样例，文档等（包含代码，环境等）； 3.合入https://gitee.com/mindspore/vllm-mindspore ； 【验收标准】 1.提交应用的代码至 https://gitee.com/mindspore/vllm-mindspore 分支，需要有完善的样例，文档等（包含代码，环境等）； 2.提交代码到OpenCompass代码仓上或者文档上； 【任务技术要求】 硬件：Atlas 800I A2推理服务器，或Atlas 800T A2推理服务器，已安装必要的驱动程序，并可连接至互联网 操作系统：openEuler或Ubuntu Linux 软件： Python >= 3.9, < 3.12 CANN >= 8.0.0.beta1 MindSpore:2.7.0 vLLM:0.9.1 【任务成果仓库】 vllm-mindspore master 分支：https://gitee.com/mindspore/vllm-mindspore； 【导师邮箱】 邓老师：dengyepeng@huawei.com **请申请任务的同学先发送简历和简要开发方案给任务导师，谢谢合作**
评论 (
5
)
登录
后才可以发表评论
状态
TODO
TODO
ACCEPTED
WIP
VALIDATION
DONE
CLOSED
REJECTED
负责人
未设置
标签
intern
未设置
项目
未立项任务
未立项任务
里程碑
未关联里程碑
未关联里程碑
Pull Requests
未关联
未关联
关联的 Pull Requests 被合并后可能会关闭此 issue
分支
未关联
未关联
master
revert-merge-293-master
开始日期 - 截止日期
-
置顶选项
不置顶
置顶等级：高
置顶等级：中
置顶等级：低
优先级
不指定
严重
主要
次要
不重要
预计工期
（小时）
参与者（1）
1
https://gitee.com/mindspore/community.git
[email protected]
:mindspore/community.git
mindspore
community
community
点此查找更多帮助
搜索帮助
Git 命令在线学习
如何在 Gitee 导入 GitHub 仓库
Git 仓库基础操作
企业版和社区版功能对比
SSH 公钥设置
如何处理代码冲突
仓库体积过大，如何减小？
如何找回被删除的仓库数据
Gitee 产品配额说明
GitHub仓库快速导入Gitee及同步更新
什么是 Release（发行版）
将 PHP 项目自动发布到 packagist.org
仓库举报
回到顶部
登录提示
该操作需登录 Gitee 帐号，请先登录后再操作。
立即登录
没有帐号，去注册
