小智 AI 聊天机器人 (XiaoZhi AI Chatbot) 小智国内同步镜像
The vLLM-MetaX backend plugin for vLLM.
MindSpore Transformers套件的目标是构建一个大模型训练、推理、部署的全流程套件: 提供业内主流的Transformer类预训练模型, 涵盖丰富的并行特性。 期望帮助用户轻松的实现大模型训练。
基于飞桨的OCR和文档解析工具库,包含文字识别PP-OCR系列模型、文档解析PaddleOCR-VL、PP-Structure系列方案和关键信息抽取PP-ChatOCR系列方案
一个发票OCR识别服务, 可识别铁路电子客票, 增值发票, 增值专用发票, 机动车发票
Triton-Ascend面向昇腾平台,旨在让Triton代码能够在昇腾硬件上高效运行。
DeepSparkInference推理模型示例库甄选了216个推理大小模型示例,小模型涵盖计算机视觉,自然语言处理,语音识别等领域;大模型涉及vLLM,TGI等多种框架,并将持续扩展更多、更新的模型示例。
Omni_Infer is a suite of inference accelerators designed for the Ascend NPU platform, offering native support and an expanding feature set.