银河麒麟系统部署Deepseek
<center><h1 id="银河麒麟系统部署deepseek">银河麒麟系统部署Deepseek</h1>
</center>
<h2 id="一系统要求">一、系统要求</h2>
<h3 id="1硬件要求">1.硬件要求</h3>
<ul>
<li>处理器： x86_64 架构，至少 4 核</li>
<li>内存： 至少 8GB RAM</li>
<li>存储： 至少 50GB 可用空间</li>
</ul>
<h3 id="2部署软件">2.部署软件</h3>
<ul>
<li>Kylin-Server-V10-SP3-General-Release-2303-X86_64</li>
<li>ollama</li>
<li>open-webui</li>
</ul>
<h2 id="二安装与配置">二、安装与配置</h2>
<h3 id="1系统软件源更新">1.系统软件源更新</h3>
<ul>
<li>执行以下命令更新系统软件源：</li>
</ul>
<pre><code class="language-bash">yum update && sudo yum upgrade -y
</code></pre>
<h3 id="2安装系统所需的常规软件">2.安装系统所需的常规软件</h3>
<ul>
<li>使用以下命令安装常规软件：</li>
</ul>
<pre><code class="language-bash">dnf install -y gcc make
dnf install -y nano vim git unzip unrar ftp wget ntpdate dos2unix net-tools tree htop sysstat psmisc bash-completion jq rpcbind dialog nfs-utils
</code></pre>
<h3 id="3安装-ollama">3.安装 ollama</h3>
<h4 id="31下载ollama安装包及安装脚本">3.1下载ollama安装包及安装脚本</h4>
<ul>
<li>访问ollama 官方发布页面，选择适合系统的安装包，如<code>ollama-linux-amd64.tgz</code> 。https://github.com/ollama/ollama/releases/tag/v0.5.11</li>
</ul>
<p><img src="https://img2023.cnblogs.com/blog/3189321/202505/3189321-20250507193244142-351498350.png" alt="" loading="lazy"></p>
<ul>
<li>使用<code>wget</code>命令下载安装脚本：</li>
</ul>
<pre><code class="language-bash">wget https://ollama.com/install.sh
</code></pre>
<h4 id="32修改安装脚本">3.2修改安装脚本</h4>
<ul>
<li>使用<code>vim</code>编辑器打开安装脚本，修改 82 - 84 行，在 85 行添加安装包路径：</li>
</ul>
<pre><code class="language-bash"># vim install.sh
$SUDO tar -xzf /root/ollama-linux-${ARCH}.tgz -C "$OLLAMA_INSTALL_DIR" #在85行添加安装包路径
</code></pre>
<p><img src="https://img2023.cnblogs.com/blog/3189321/202505/3189321-20250507193243749-841997896.png" alt="image-20250304233525345" loading="lazy"></p>
<h4 id="33执行安装脚本">3.3执行安装脚本</h4>
<ul>
<li>执行安装脚本，安装过程中出现没有 GPU 的警告不影响使用</li>
</ul>
<pre><code class="language-bash">root@localhost ~]# bash install.sh
>>> Installing ollama to /usr/local
>>> Downloading Linux amd64 bundle
>>> Creating ollama user...
>>> Adding ollama user to render group...
>>> Adding ollama user to video group...
>>> Adding current user to ollama group...
>>> Creating ollama systemd service...
>>> Enabling and starting ollama service...
Created symlink /etc/systemd/system/default.target.wants/ollama.service → /etc/systemd/system/ollama.service.
>>> The Ollama API is now available at 127.0.0.1:11434.
>>> Install complete. Run "ollama" from the command line.
WARNING: No NVIDIA/AMD GPU detected. Ollama will run in CPU-only mode.
</code></pre>
<h4 id="34配置-ollama-服务">3.4配置 ollama 服务</h4>
<ul>
<li>在<code>/etc/systemd/system/ollama.service</code>文件中添加配置，开启服务监听所有网络接口的 11434 端口</li>
</ul>
<pre><code class="language-bash"># vim /etc/systemd/system/ollama.service
Environment="OLLAMA_HOST=0.0.0.0:11434"
# systemctl daemon-reload #更新配置文件
</code></pre>
<ul>
<li>编辑<code>/etc/profile</code>文件并使其生效</li>
</ul>
<pre><code class="language-bash"># vim /etc/profile
# source /etc/profile
</code></pre>
<h4 id="35启动ollama服务">3.5启动ollama服务</h4>
<ul>
<li>使用以下命令重启、设置开机自启并查看服务状态</li>
</ul>
<pre><code class="language-bash"># systemctl restart ollama.service
# systemctl enable ollama.service
# systemctl status ollama.service
</code></pre>
<h4 id="36安装-deepseek-模型">3.6安装 deepseek 模型</h4>
<ul>
<li>从 ollama 官网复制 deepseek 安装命令并执行</li>
</ul>
<p><img src="https://img2023.cnblogs.com/blog/3189321/202505/3189321-20250507193243290-1681297073.png" alt="image-20250305000659371" loading="lazy"></p>
<pre><code class="language-bash"># ollama run deepseek-r1:1.5b
pulling manifest
pulling aabd4debf0c8... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 1.1 GB
pulling 369ca498f347... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏387 B
pulling 6e4c38e1172f... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 1.1 KB
pulling f4d24e9138dd... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏148 B
pulling a85fe2a2e58e... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏487 B
verifying sha256 digest
writing manifest
success
</code></pre>
<h3 id="4通过docker安装open-webui">4.通过docker安装open-webui</h3>
<h4 id="41拉取-open-webui-镜像">4.1拉取 open-webui 镜像</h4>
<ul>
<li>使用以下命令拉取镜像</li>
</ul>
<pre><code class="language-bash">拉取open-webui镜像
docker pull swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui:main
# docker images
REPOSITORY TAG IMAGE ID CREATED SIZE
open-webui main adb86c02cf4b 9 months ago 3.39GB
</code></pre>
<h4 id="42启动容器">4.2启动容器</h4>
<ul>
<li>执行以下命令启动容器</li>
</ul>
<pre><code class="language-bash">docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always open-webui:main
</code></pre>
<pre><code class="language-bash"># docker ps
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
3ed2c82ddd8a open-webui:main "bash start.sh" 8 seconds ago Up 6 seconds 0.0.0.0:3000->8080/tcp, :::3000->8080/tcp open-webui
</code></pre>
<p><img src="https://img2023.cnblogs.com/blog/3189321/202505/3189321-20250507193242778-1564297439.png" alt="image-20250305005548758" loading="lazy"></p><br><br>
来源：https://www.cnblogs.com/JianZuo/p/18787333
頁:
[1]