概述
Ollama官方最新版0.5.7,默认是不支持AMD 780m(代号:gfx1103)集成显卡的,已知方法都是基于一个开源项目ollama-for-amd来操作的。
必要软件下载
- ollama-for-amd v0.5.4 项目编译好的ollama程序
- ollama-for-amd 关联的ROCmLibs 0.6.1.2库
提示:本文是基于GitHub大佬开源库已编译程序+已编译依赖模块为例,所以这里不需要下载AMD的HIP SDK
所有需要下载HIP SDK的都是想要git clone 自己编译的
ollama-for-amd v0.5.4 下载,打开github页面,找到OllamaSetup.exe安装文件

目前(2025/2/11)最新编译可下载版本0.5.4.后续的好像编译失败中断了。
ROCmLibs库下载
打开ROCmLibs库下载地址:ROCmLibs

安装Ollama for AMD
ollama for AMD (OllamaSetup.exe) 安装和官方安装一样双击下一步到底就行。默认安装路径在 C:\Users\
%username%
\AppData\Local\Programs\Ollama

替换ROCmLibs库
从Github ROCmLibs 下载的包rocm.gfx1103.AMD.780M.phoenix.V4.0.for.hip.sdk.6.1.2.7z
解压,可以得到以下文件:

备份并替换ollama安装目录的上述文件和目录。
rocblas.dll替换
替换对应文件为:C:\Users\
%username%\AppData\Local\Programs\Ollama\lib\ollama\rocblas.dll
备份为rocblas.dllbak 并将上面解压的rocblas.dll
复制过来,处理完成后参考:

library替换
替换对应文件为:C:\Users\
%username%\AppData\Local\Programs\Ollama\lib\ollama\rocblas\library
整个library目录备份(重命名)为librarybak
并将上面解压的library
文件夹复制过来,处理完成后参考:

重启ollama服务,再次测试并观察GPU占用情况

可以看到GPU占用率一下子就起来了,同时CPU占用率低。以此实现了AMD 780m集成显卡对于ollama deepseek 模型的处理。
https://www.syntaxspace.com/article/2502111306371123.html
评论