OpenChatKit

1. 安装

# 下载
git clone https://github.com/togethercomputer/OpenChatKit.git
# 创建环境
cd OpenChatKit
conda env create -f environment.yml -n openchatkit

2. 下载模型, 模型地址: togethercomputer/Pythia-Chat-Base-7B

3. 运行 bot

# 假定模型保存在当前文件夹下的 Pythia-Chat-Base 文件夹中
python inference/bot.py --model ./Pythia-Chat-Base-7B
# 在命令行中进行交互