DeepSparkInference推理模型示例库甄选了216个推理大小模型示例，小模型涵盖计算机视觉，自然语言处理，语音识别等领域；大模型涉及vLLM，TGI等多种框架，并将持续扩展更多、更新的模型示例。

视频行为分析系统v4的二次开发对接案例

本项目提供了一个在Windows环境中快速部署和使用vLLM的工程化框架，基于[vllm-windows](https://github.com/SystemPanic/vllm-windows/releases)官方项目。项目结构清晰，功能模块化，便于维护和扩展。