原项目地址:https://github.com/oobabooga/text-generation-webui
用于大型语言模型的 Gradio Web UI。
三种界面模式 | 支持多种模型
快速模型切换 | 丰富扩展功能
定义角色聊天 | 训练和加载LoRA
- 环境说明:
默认为:nvidia显卡,cuda12.1
llama_cpp_python_cuda-0.2.81
1.解压 text-generation-webui_full.rar
2.将 【models】文件移动到 【\cloneai\text-generation-webui\text-generation-webui\models】将其覆盖
3.运行 【\cloneai\text-generation-webui\启动text-generation-webui.bat】 或 【\cloneai克隆AI部署器.exe】
网盘下载 模型可根据需求下载,目前增加了llama3.0 和 llama3.1
评论 (0)