# 基于ChatGLM3微调的创意广告生成

**Repository Path**: logicjwell/ChatGLM3-AdvertiseGen

## Basic Information

- **Project Name**: 基于ChatGLM3微调的创意广告生成
- **Description**: 基于ChatGLM3微调的创意广告生成
- **Primary Language**: Unknown
- **License**: Not specified
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 2
- **Created**: 2024-08-27
- **Last Updated**: 2024-08-27

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

## 1. 项目简介
本项目基于Chatglm3进行微调一个创意广告的数据集来生成创意广告。

## 2. 代码介绍（xxx为个人环境具体目录）
### 2.1 模型数据集和模型微调后输出目录： xxx/AdvertiseGen/
     dataset_src/ 原始数据集
     dataset_finetune/ 转换后数据集，可以拿去进原始模型进行微调
     model_output/ 微调后模型输出
### 2.2 chatglm3-6b原始模型： xxx/chatglm3-6b/
     可以通过git clone https://www.modelscope.cn/ZhipuAI/chatglm3-6b.git在魔塔社区下载，抱抱脸有网络限制

### 2.3 微调相关文件(详细配置参数，可以参考chatglm3官网): xxx/finetune/
     configs/lora.yaml lora方式微调的配置文件
     configs/sft.yaml 全量微调的配置文件
     configs/ptuning_v2.yaml ptuning_v2方式微调的配置文件

## 3. 微调步骤
### 3.1 安装依赖：
     pip install -r requirements.txt   (除了根目录的依赖文件要安装，finetune/requirements.txt也要安装)
### 3.2 数据集转换：
    执行data_convet_utils.ipynb
### 3.3 根据微调需求，修改配置：    
     configs/lora.yaml lora方式微调的配置文件
     configs/sft.yaml 全量微调的配置文件
     configs/ptuning_v2.yaml ptuning_v2方式微调的配置文件

### 3.4 执行微调脚本，比如我用lora方式微调：
    cd finetune
    python finetune_hf.py xxx/AdvertiseGen/dataset_finetune xxx/chatglm3-6b xxx/finetune/configs/lora.yaml  （xxx为个人环境具体目录） 
    微调完后，在model_output/下会生成微调后的模型,比如3000轮后的目录为check-output-3000,该目录为微调后的模型

### 3.5 微调后的模型测试。
    修改web_streamlit.py第19行为你自己的微调后的目录：
    比如  MODEL_PATH = os.environ.get('MODEL_PATH', '/mnt/workspace/output/checkpoint-3000')

    执行web_streamlit.py
    streamlit run web_streamlit.py --server.address=0.0.0.0
     
### 3.6. 微调后生成创意广告截图
![img1.png](img/img1.png)