LM Studio 离线模型下载和导入
接上一篇LM Studio 安装配置后,使用大模型还得下载模型文件,由于内嵌模型库下载难用(网络原因)这里讲解离线下载后导入LM Studio
LM Studio 支持GGUF
模型文件格式 ,在以下社区可以找到模型文件下载
魔搭社区模型下载
打开魔搭社区首页,点击模型库

也可以回车搜索更多版本

选择模型文件

敲黑板了!!
直接浏览器下载可能慢,复制下载连接,迅雷下载速度快很多
迅雷加速下载模型



LM Studio模型文件存放
在LM Studio 安装篇中,我们修改了模型的默认存放地址为:D:\LM_Studio\models
下载好的模型文件存放需要保证一定格式才能被LM Studio识别
假设 %MODELS% = 模型存放路径
%MODELS%/author_name/namespace/模型文件
参考:

打开LM Studio 我的模型,可以看到刚才下载的模型已经在这里显示

模型使用



提示:参数部分的GPU卸载(加速翻译错误)拉到最大可以减少CPU使用率和提高回答效率
纯显卡加速
一般多少B的模型就需要多少显存,否则加载错误哟。

加载完成后即可对话使用

over
https://www.syntaxspace.com/article/2502141325191970.html
评论