雨晴LLM

雨晴LLM最新版本是1.1.3，但本体显示的就是1.0.0，本页面提供的安装包就是最新版1.1.3。软件能运行Gemma系列模型，能对接ChatBox、Open WebUI等第三方AI客户端，用户在联网时自行下载或导入模型文件后，就可以离线使用下载或导入的大模型，不用担心信息泄露。用户还可以根据自己的需求，自由切换CPU、GPU两种推理后端，但软件使用有一定的技术门槛，普通非技术用户存在一定的难度

雨晴LLM怎么使用

1、打开雨晴LLM软件，在主控台界面，点击去授权，授予存储、后台悬浮窗、后台运行权限

2、点击最下方的模型界面

3、点击任意Gemma大模型，等待下载完成即可(也可以点击右上角的导入模型，选择本地已有的大模型文件，然后等待上传成功即可使用)

4、点击右下角设置，填写端口、完成模型相关设置，即可启动本地API服务

雨晴LLM常见问题答疑

1、雨晴LLM是免费的吗

软件本体完全免费开源

2、运行雨晴LLM需要什么手机配置

建议内存 8GB以上，预留足够存储空间存放模型

3、雨晴LLM自带大模型文件吗

不含模型，需要用户自行下载导入

4、启动API服务后连接失败怎么办

确认地址端口正确，存储、后台悬浮窗、后台运行权限等权限全部授予

5、可以同时运行多个大模型吗

不可以，同一时间仅能加载一个模型

雨晴LLM特色

1、全程无需网络连接，用户全部对话内容保存在本机，不会向外传输，保障数据安全

2、可对接ChatBox、Open WebUI等各类第三方AI客户端，用户可以自由搭配熟悉的交互界面

3、用户可以根据手机硬件性能灵活选择运算模式，充分调动手机硬件算力

4、悬浮窗可以直观展示模型生成进度，还能完成快速切换模型、启停推理服务等操作

5、项目开源免费，没有需要付费解锁的功能，并且界面简洁干净，不捆绑多余广告