跳过至正文
Ollama 作为原生 Windows 应用程序运行,支持 NVIDIA 和 AMD Radeon GPU。安装 Windows 版 Ollama 后,Ollama 将在后台运行,您可以在 cmdpowershell 或您常用的终端应用程序中使用 ollama 命令行。与往常一样,Ollama API 将在 https://:11434 上运行。

系统要求

  • Windows 10 22H2 或更高版本,家庭版或专业版
  • 如果您使用的是 NVIDIA 显卡,需安装 NVIDIA 452.39 或更高版本的驱动程序
  • 如果您使用的是 Radeon 显卡,需安装 AMD Radeon 驱动程序 https://www.amd.com/en/support
Ollama 使用 unicode 字符来指示进度,在 Windows 10 的一些旧终端字体中,这些字符可能会显示为未知的方块。如果您遇到这种情况,请尝试更改终端的字体设置。

文件系统要求

安装 Ollama 不需要管理员权限,默认会安装在您的用户目录下。安装程序本身需要至少 4GB 的空间。安装 Ollama 后,您还需要额外的空间来存储大语言模型,其大小可能在几十到几百 GB 之间。如果您的用户目录空间不足,您可以更改程序的安装位置以及模型的存储位置。

更改安装位置

要将 Ollama 应用程序安装在用户目录以外的位置,请使用以下参数启动安装程序
OllamaSetup.exe /DIR="d:\some\location"

更改模型存储位置

若要更改 Ollama 存储已下载模型的位置(而非使用用户目录),请在您的用户帐户中设置环境变量 OLLAMA_MODELS
  1. 启动“设置”(Windows 11) 或“控制面板”(Windows 10) 应用程序,并搜索“环境变量”。
  2. 点击“编辑账户的环境变量”。
  3. 为您的用户帐户编辑或新建一个名为 OLLAMA_MODELS 的变量,其值设为您想要存储模型的路径。
  4. 点击“确定/应用”进行保存。
如果 Ollama 已经在运行,请退出系统托盘中的应用程序,然后从“开始”菜单重新启动,或在保存环境变量后打开一个新的终端。

API 访问

这是一个在 powershell 中访问 API 的快速示例
(Invoke-WebRequest -method POST -Body '{"model":"llama3.2", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json

故障排除

Windows 版 Ollama 会将文件存储在几个不同的位置。您可以通过按下 <Ctrl>+R 并输入以下路径在资源管理器窗口中查看它们:
  • explorer %LOCALAPPDATA%\Ollama 包含日志和下载的更新文件
    • app.log 包含 GUI 应用程序最近的日志
    • server.log 包含最近的服务端日志
    • upgrade.log 包含升级过程的日志输出
  • explorer %LOCALAPPDATA%\Programs\Ollama 包含二进制文件(安装程序会将此路径添加到您的用户 PATH 中)
  • explorer %HOMEPATH%\.ollama 包含模型和配置文件
  • explorer %TEMP% 包含位于一个或多个 ollama* 目录中的临时可执行文件

卸载

Ollama Windows 安装程序会注册一个卸载程序。您可以在 Windows 设置的“添加或删除程序”下卸载 Ollama。
如果您更改了 OLLAMA_MODELS 的位置,安装程序将不会删除您已下载的模型。

独立命令行界面 (CLI)

在 Windows 上安装 Ollama 最简单的方法是使用 OllamaSetup.exe 安装程序。它无需管理员权限即可安装在您的账户中。我们会定期更新 Ollama 以支持最新的模型,此安装程序将帮助您保持最新状态。 如果您想将 Ollama 作为服务进行安装或集成,可以下载独立的 ollama-windows-amd64.zip 压缩包,其中仅包含 Ollama CLI 和 Nvidia GPU 库依赖项。根据您的硬件情况,您可能还需要下载其他包并解压到同一目录中:
  • AMD GPU: ollama-windows-amd64-rocm.zip
  • MLX (CUDA): ollama-windows-amd64-mlx.zip
这允许将 Ollama 嵌入到现有应用程序中,或通过 ollama serve 配合 NSSM 等工具将其作为系统服务运行。
如果您是从旧版本升级,应先删除旧目录。