DeepSparkInference推理模型示例库甄选了216个推理大小模型示例，小模型涵盖计算机视觉，自然语言处理，语音识别等领域；大模型涉及vLLM，TGI等多种框架，并将持续扩展更多、更新的模型示例。
最近更新: 7天前Xorbits Inference（Xinference）是一个性能强大且功能全面的分布式推理框架。可用于大语言模型（LLM），语音识别模型，多模态模型等各种模型的推理。
最近更新: 3个月前AiDex Sharp快速开发平台：基于若依-ruoyi-vue项目扩展，前端采用Ant-Design-VUE，代码易读易懂、界面简洁美观，不仅仅是一个后台开发框架，它是一个企业级快速开发解决方案，我们将把UI交互、快速开发能力追求到极致，适配国产数据库，国产中间件，将支持多租户、flowable工作流，移动APP，更多插件正在扩展中
最近更新: 4个月前
