适用于Atlas200DK推理应用的入门开发者。项目采用将模型推理与应用相解耦，把开发板抽象为AI模型推理的黑箱，构建了分布式远程推理框架，并提供了多种输入模态、多种输出方式以及多线程支持的高度复用工具，解决了开发板资源稀缺课程受限、环境配置复杂上手困难、缺乏可视化体验不好等难点问题，具有开发简洁、运行高效、部署灵活、风格一致等四大主要特点。

基于昇腾310芯片的大语言模型部署

昇腾deepseek推理部署应用，多机，单机。以及推理部署完成以后的应用。

AscnedC算子开发实验和AscendCL应用开发实验，仅供参考

Bert-Large模型在NPU上的推理适配。

众智-NPU上模型离线推理笔记

昇腾NPU上离线推理的精度问题的常用定位于解决方法。

基于peft/deepspeed/torch_npu在昇腾环境下微调LLM