chatglm-cpp 使用指南

介绍

chatglm-cpp 是基于 C/C++ 实现的 ChatGLM 大模型接口，可以支持用户在CPU机器上完成开源大模型的部署和使用。

chatglm-cpp 支持多个中文开源大模型的部署，如 ChatGLM-6B，ChatGLM2-6B ，Baichuan-13B 等。

软件架构

chatglm-cpp 核心架构分为两层

• 模型量化层：可以量化开源模型，减少模型大小；
• 模型启动层：可以启动量化后的模型。

特性：

• 基于 ggml 的 C/C++ 实现；
• 通过 int4/int8 量化、优化的 KV 缓存和并行计算等多种方式加速 CPU 推理；
• 互动界面是流媒体生成，具有打字机效果；
• 无需 GPU，可只用 CPU 运行。

安装教程

软硬件要求

处理器架构：支持 AArch64 和 X86_64 处理器架构；

操作系统：openEuler 23.09；

内存：根据不同开源模型的大小，不低于4G。

安装组件

使用 chatglm-cpp 部署大模型，需要安装 chatglm-cpp 软件包。安装前，请确保已经配置了 openEuler yum 源。

1. 安装：

yum install chatglm-cpp

1. 查看是否安装成功：

chatglm_cpp_main -h

若成功显示 help 信息则安装成功。

使用说明

不使用容器

1. 需要安装 chatglm-cpp 软件包：

yum install chatglm-cpp

2. 需要下载开源大模型，如ChatGLM-6B、ChatGLM2-6B等。并将下载的开源大模型通过chatglm_convert.py进行模型量化：

python3 /usr/bin/chatglm_convert.py -i model_path/ -t q4_0 -o chatglm-ggml_1.bin

其中model_path为开源大模型的存放路径，q4_0 为开源大模型量化的精度，chatglm-ggml_1.bin 是输出的量化模型的名称。

3. 启动模型，进行对话：

chatglm_cpp_main -m model_path  -i

其中model_path为量化模型的存放路径。

可通过以下命令查看命令行选项用法：

chatglm_cpp_main -h

使用容器

1. 拉取容器镜像：

docker pull hub.oepkgs.net/openeuler/chatglm_image

2. 运行容器镜像，进行对话：

docker run -it --security-opt seccomp=unconfined hub.oepkgs.net/openeuler/chatglm_image

正常启动界面

模型启动后的界面如图1所示：

图1 模型启动界面

规格说明

本项目可支持在 CPU 级别的机器上进行大模型的部署和推理，但是模型推理速度对硬件仍有一定的要求，硬件配置过低可能会导致推理速度过慢，降低使用效率。

表1可作为不同机器配置下推理速度的参考：

表格中 Q4_0，Q4_1，Q5_0，Q5_1 代表模型的量化精度；ms/token 代表模型的推理速度，含义为每个token推理耗费的毫秒数，该值越小推理速度越快；

表1 模型推理速度的测试数据