ollama的安装与使用 | 红尘客的博客

type

Post

status

Published

date

Nov 2, 2024

summary

slug

一、ollama的安装

1. 软件来源

官网：ollama.com

Github：github.com

2. 安装

macOS和Windows下的安装

直接运行安装 Ollama

Linux下的安装

Docker

二、ollama的使用

1. 拉取模型

此命令也可用于更新本地模型。只会拉取差异部分。

2. 删除模型

3. 列出计算机上的模型

4. 启动 Ollama

5. 运行模型

6. 模型库

可以在ollama.com/library 上找到。

在https://hf-mirror.com网站下载后载入

在下载模型文件夹新建modelfile文件，输入以下内容：
在下载模型路径下进入命令行

三、ollama Web界面对话客户端

下载并安装 Node.js 工具：https://nodejs.org/zh-cn

下载ollama-webui工程代码：

设置 Node.js 工具包镜像源（下载提速）：

安装 Node.js 依赖的工具包：

最后，启动 Web 可视化界面：

四、位置的迁移

增加修改环境变量：

设置模型存放位置：

五、HuggingFace模型导入

1.到huggingface网站下载需要的模型

Files and versions页面下的GGUF文件格式

2.创建相关配置文件Modelfile

与GGUF文件放在一起

3.导入模型

六、WSL和宿主机互访问题

访问%UserProfile%文件夹，创建文件.wslconfig，并添加以下内容：

重启wsl