安装大模型的注意事项

一、安装ollama步骤与注意事项

1.下载ollama踩的坑

ollama下载安装 前往下载>
到ollama官网下载自己电脑对应的ollama时，如果使用多线程或者开代理下载，下载到一定的进度，就中断了；还有就是直接下载不了。
所以只能使用常规下载的方式进行ollama下载

2.安装ollama

自己点击下载好OllamaSetup.exe进行安装，这时安装程序会把Ollama直接安装在电脑的C盘里面，值得注意的是：“如果自己的电脑C盘剩余空间足够多，就可以把Ollama安装在C盘内，否则千万别自找没趣；这里的C盘剩余空间足够多是指最低30G以上。”

因为用ollama安装模型也会安装在C盘，一个一般的大模型就有20G，完整安装下来只会超过20G

二、安装大模型

1.下载安装千问32b模型所踩的坑

在自己的电脑CMD终端运行以下命令，直接安装qwen3:32b模型在C盘

ollama run qwen3:32b

当20个G的千问32b模型下载下来之后，如果自己的电脑内存不足以运行千问32b大模型，会报如下错误：
verifying sha256 digest
writing manifest
success
Error: model requires more system memory (19.4 GiB) than is available (10.1 GiB)
验证 SHA256 摘要
编写清单
成功
错误：模型需要的系统内存 （19.4 GiB） 多于可用内存 （10.1 GiB）

2.卸载模型

ollama list  # 查询已安装的模型
ollama rm 模型名称  # 卸载并删除模型 卸载之后重启Windows电脑C盘空间才会恢复
ollama rm qwen3:32b # 卸载并删除qwen3:32b模型

3.下载大模型注意事项

抽闲时下载或选用网速快的网络，不用开代理下载
闲时是指：“早上、上午、或中午。”
模型下载到99.9%时，感觉验证哈希值的时候特别慢，这时得有耐心，等待验证哈希值成功之后，才算安装大模型成功

---

欢迎光临本站！

---

本站主要记录一些个人所学的内容。

---