← 返回文章列表

DeepSeek 本地部署教程:Windows 安装 Ollama、运行模型与接口排错

使用 Windows 和 Ollama 跑通 DeepSeek-R1 1.5B 蒸馏模型,包含下载、对话、PowerShell 接口调用、运行检查,以及连接失败、模型找不到和内存占用的处理步骤。

文章封面

在普通电脑上体验 DeepSeek 本地推理,可以先用 Ollama 跑通一个小型蒸馏模型,再决定是否升级更大模型。本文使用明确的标签 deepseek-r1:1.5b,目标是完成“安装→下载→对话→接口调用→故障排查”。这不是完整大模型或云端服务的等价替代。

更新:2026-09-20。原文为视频和安装包资料介绍,本次保留原网址,补充可操作的官方安装路线。命令依据官方文档核对,未在本机执行安装或性能测试;封面为原创流程示意图。

一、先核对系统和模型大小

Ollama Windows 文档要求 Windows 10 22H2 或更新版本。安装程序与模型都需要磁盘空间,显卡加速还取决于设备和驱动支持。不要把模型下载大小当成运行内存或显存需求。

官方 DeepSeek-R1 模型页列出多个标签,本文选 1.5B 蒸馏版本作为起步示例,下载体积约 1.1GB,实际以页面为准。更大版本的能力、资源需求不同,“小模型能启动”不能证明整台电脑适合运行任何 DeepSeek 模型。

二、从官方安装 Ollama

  1. 按照 Windows 安装说明下载并运行官方安装程序。

  2. 启动 Ollama,安装完成后重新打开 PowerShell,避免旧终端尚未获取新的程序路径。

  3. 执行版本检查。如果能显示版本,说明当前终端已能找到命令。

ollama --version

这一步失败时,先确认安装已结束、应用可以启动,再检查终端是否重新打开。不要从来源不明的网盘补下载可执行文件来覆盖安装目录。

三、下载并启动一个明确版本

在 PowerShell 依次执行,首次下载需要联网与足够磁盘空间:

ollama pull deepseek-r1:1.5b
ollama run deepseek-r1:1.5b

出现对话输入后,可以问:“用三句话解释本地模型和云端模型的区别。”观察是否能返回完整文本,不用第一条回答的速度判断长期性能。输入 /bye 离开对话。

再检查本地模型与运行状态:

ollama list
ollama ps

list用于确认已下载的标签,ps查看正在运行的模型和处理器分配。模型暂未加载时,运行列表为空并不代表下载失败。命令与运行行为参见 官方 FAQ。

四、用 PowerShell 验证本地接口

Ollama 默认监听本机 127.0.0.1:11434。保持应用运行,在新的 PowerShell 窗口执行下例;本机测试无需开放公网端口。示例按 UTF-8 发送中文,关闭流式返回,便于直接查看结果。

$payload = @{
    model = 'deepseek-r1:1.5b'
    prompt = '用一句话解释什么是本地模型。'
    stream = $false
} | ConvertTo-Json

$result = Invoke-RestMethod -Uri 'http://127.0.0.1:11434/api/generate' -Method Post -ContentType 'application/json; charset=utf-8' -Body ([Text.Encoding]::UTF8.GetBytes($payload))
$result.response
$result.done

验收时应看到非空回复,并确认 done 为 True。这只是判断一次请求完成,不能证明回答内容一定准确。请求字段及返回格式见 Generate API 文档。

如果打算连接使用兼容 OpenAI 接口的客户端,请按该客户端要求配置接口,不能把上面的原生 /api/generate 请求地址直接当成所有软件的 Base URL。

五、常见部署问题排查

“ollama 不是内部或外部命令”:确认官方安装完成,重开终端。若仍失败,检查安装路径和用户环境变量,而不是继续执行后面的下载命令。

连接被拒绝:确认 Ollama 应用正在运行,接口地址为当前电脑的 127.0.0.1:11434。不要先修改防火墙或开放外网;本机应用未启动应先解决启动问题。

模型找不到:比较请求里的模型名与 ollama list 的标签,特别注意冒号后的版本;缺少时执行相同标签的 pull。

提示端口已占用:检查是否已有 Ollama 实例。已有服务正常时直接使用,不要随意结束不明进程,也不必再启动一份服务。

回复慢、内存持续升高:查看 ollama ps 的 CPU/GPU 分配,关闭不必要的模型任务,缩短输入或改用小模型。首次加载耗时应与后续推理分开记录。

程序启动异常:按 Windows 官方文档查看 %LOCALAPPDATA%\Ollama\server.log,保留相关错误时间段。对外提供日志前先清理私密路径和业务内容。

六、释放资源与调整存放目录

结束试跑后,可以停止该模型,释放运行资源;这不会删除已下载的模型:

ollama stop deepseek-r1:1.5b

若系统盘空间不足,可按照 Windows 文档配置用户环境变量 OLLAMA_MODELS 指向目标目录,退出托盘中的 Ollama 后重新启动。修改目录不会自动替你迁移旧模型;先确认新目录权限及模型可用,再处理旧文件,避免误删唯一副本。

完成标准与下一步

版本命令可用、指定模型下载成功、对话能返回内容、本地接口得到完整响应,就完成了基础部署。接下来用真实任务验证质量,再决定是否升级模型规模。

升级前请看 本地 AI 模型显存与硬件评估教程;需要把本地服务接到语音整理工具,可参考 Speech To Markdown 教程。

原文的 历史资料链接仅作存档保留,未核验当前内容及有效性;完成本教程不依赖该网盘资料。

相关文章

Docker Compose 搭建 Redis 三主三从集群:配置、认证与验证一个开源、自托管的抖音 / TikTok 数据 API本地 AI 模型需要多少显存?Can I Run AI 硬件评估与试跑教程

一起聊聊

留下你的想法,评论审核通过后展示。