个人 Windows 电脑本地部署运行 DeepSeek 大模型
<h2 id="1大模型管理器">1、大模型管理器</h2><h3 id="11下载ollama">1.1、下载ollama</h3>
<p>官网下载地址：https://ollama.com/download</p>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303160520752-1134252262.png" alt="image" loading="lazy"></p>
<p>如上图所示，下载 Windows 操作系统版本的 ollama 安装包。</p>
<h3 id="12安装ollama">1.2、安装ollama</h3>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303161706470-1451809370.png" alt="image" loading="lazy"></p>
<p>如上图所示，以“管理员身份运行”安装包。</p>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303161804067-1658565093.png" alt="image" loading="lazy"></p>
<p>如上图所示，允许安装包对设备进行更改。</p>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303161858730-1609112100.png" alt="image" loading="lazy"></p>
<p>如上图所示，开始安装 ollama 。</p>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303161932257-1035673458.png" alt="image" loading="lazy"></p>
<p>如上图所示，等待安装完成。</p>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303162108265-1629191300.png" alt="image" loading="lazy"></p>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303162207699-1566593531.png" alt="image" loading="lazy"></p>
<p>如上图所示，ollama 安装完成且正在运行。</p>
<h2 id="2大模型">2、大模型</h2>
<h3 id="21deepseek-r1各版本简介">2.1、deepseek-r1各版本简介</h3>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303162806396-42317933.png" alt="image" loading="lazy"></p>
<p>如上图所示，目前 deepseek-r1 有七个版本，其中 671b 的版本是满血版，一般个人电脑的配置是运行不了的。</p>
<p>配置好一点的个人电脑，或许能运行 8b 的，大多数个人电脑基本能运行 1.5b 的，本文以 1.5b 版本的为演示示例。、</p>
<h3 id="22通过管理器下载运行大模型">2.2、通过管理器下载运行大模型</h3>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303163610543-440074852.png" alt="image" loading="lazy"></p>
<p>如上图所示，以管理员身份运行“命令提示符”。</p>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303164107022-2021973584.png" alt="image" loading="lazy"></p>
<p>如上图所示，通过 ollama 大模型管理器的命令，下载运行相关版本的大模型。</p>
<pre><code>ollama run deepseek-r1:1.5b
</code></pre>
<blockquote>
<p>注意：执行该命令，需要确保 ollama 大模型管理器处于运行状态，如图：<br>
<img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303163937314-940482403.png" alt="image" loading="lazy"></p>
</blockquote>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303164551499-1718138017.png" alt="image" loading="lazy"></p>
<p>如上图所示，大模型下载运行成功，可以向大模型发送信息了。</p>
<blockquote>
<p>提示：大模型的安装路径为“C:\Users\用户名\.ollama\models”，如果 C 盘空间空间不足，可以这样自定义安装路径：<br>
<img src="https://img2024.cnblogs.com/blog/2052479/202604/2052479-20260430185904109-1367851794.png" alt="图片" loading="lazy"></p>
</blockquote>
<h3 id="23提问测试">2.3、提问测试</h3>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303164936600-1819905291.png" alt="image" loading="lazy"></p>
<p>如上图所示，根据回答的内容，1.5b 版本的大模型似乎不是很聪明的样子。</p>
<h2 id="3图形客户端">3、图形客户端</h2>
<p>由于命令行方式的问答界面不是很友好，需要使用图形客户端对接大模型来改善使用体验。</p>
<p>目前，比较流行的大模型图形客户端是 Chatbox 。</p>
<h3 id="31下载chatbox">3.1、下载Chatbox</h3>
<p>官网下载地址：https://chatboxai.app/zh#download</p>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303170613341-252128523.png" alt="image" loading="lazy"></p>
<p>如上图所示，下载 Windows 操作系统版本的 Chatbox 安装包。</p>
<h3 id="32安装chatbox">3.2、安装Chatbox</h3>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303170912088-565681424.png" alt="image" loading="lazy"></p>
<p>如上图所示，以管理员身份运行 Chatbox 安装包。</p>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303171003041-1118386137.png" alt="image" loading="lazy"></p>
<p>如上图所示，允许安装包对设备进行修改。</p>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303171145664-63015544.png" alt="image" loading="lazy"></p>
<p>如上图所示，本例选择为这台电脑的任何人安装。</p>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303171202493-1560049312.png" alt="image" loading="lazy"></p>
<p>如上图所示，本例使用默认安装路径。</p>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303171213740-2408374.png" alt="image" loading="lazy"></p>
<p>如上图所示，等待安装完成。</p>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303171234895-465904587.png" alt="image" loading="lazy"></p>
<p>如上图所示，Chatbox 安装完成。</p>
<h3 id="33使用chatbox对接本地大模型">3.3、使用Chatbox对接本地大模型</h3>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303171822432-1492881092.png" alt="image" loading="lazy"></p>
<p>如上图所示，在 Chatbox 的设置面板中，选择对接 ollama 管理器的 api ，模型选择 ollama 管理器已下载运行的 deepseek-r1:1.5b 版本。</p>
<h3 id="34提问测试">3.4、提问测试</h3>
<p><img src="https://img2024.cnblogs.com/blog/2052479/202503/2052479-20250303172203177-1967337897.png" alt="image" loading="lazy"></p>
<p>如上图所示，使用图形客户端的交换体验比命令行好了不少。</p>
<h2 id="本文参考">本文参考</h2>
<p>【1】【Alfred Zhao】【手把手教你部署 DeepSeek 本地模型】【博客园】【2025-02-05】</p>
<p>【2】【尚硅谷】【尚硅谷DeepSeek使用教程，deepseek本地部署实战】【bilibili】【2025-02-12】</p>
</div>
<div id="MySignature" role="contentinfo">
<p>本文来自博客园，作者：Javaer1995，转载请注明原文链接：https://www.cnblogs.com/Javaer1995/p/18748533</p><br><br>
来源：https://www.cnblogs.com/Javaer1995/p/18748533
頁:
[1]