
使用ollama部署各种本地大模型(已解决只安装在c盘的问题)
第一项:准备工作
首先你电脑要有足够的储存空间(至少空闲60G以上)和足够的性能
下载ollama
直接点击Download下载
下载好之后在你的除了C盘以外的盘符建一个文件,要注意不要有英文,把你的刚下好的ollama的安装包剪切到这个文件夹
在这个文件夹的地址栏输入cmd回车
再找到一个你要安装ollama的文件夹复制他的路径输入到刚刚打开的文件夹中记得在前面加上“ollamasetup.exe /DIR=+文件夹路径”把我标红的地方换成你的文件夹的路径即可,如图。
回车确定
修改模型下载路径
在你刚刚和ollama在一个盘符中找一个地方创建一个名字叫ollamaimagers的文件夹,然后再开始菜单搜索编辑系统环境变量
打开编辑环境变量
如果你在打开环境变量的时候没有看见系统变量那里显示你的那个文件就根据上面图片的顺序添加一个,记得添加的目录要点击那里的启动目录
编辑结束之后把每一个对话框的设置保存
然后原地重启你的电脑
现在进入你的电脑之后同时按下win+r快捷键打开运行对话框输入cmd回车打开命令提示符
再次打开ollama的网站大概再左上角有一个Models
再里面选择一个你喜欢的大模型我选择的是Deep seek-R11.5B的蒸馏模型来演示
点击右面的复制按钮回到你的cmd命令框右键直接粘贴后回车
你不用怕它下载一半结束还要从新下载Ollama有断点续传
对不起忘记接刚安装好的截屏了
现在就算是安装好了我还要说一下关于Ollama的几个基础命令
查看模型名字ollama list
启动模型ollama run+空格 模型名字
卸载模型ollama rm+空格 模型名字
现在在这个命令窗口里面就可以和他对话了但是总是感觉怪怪的现在就来开一下WedUI
打开浏览器再扩展页面(以Edge为例)
获取Microsoft Edge扩展
搜索Page Assist安装
再左上角选择一个你的模型你就可以开始对话了
我这有个70的模型体验下来是要比1.5的模型聪明不少
1.5的模型跟着弱智一样