linux服务器离线安装ollama
<h1 id="一前言">一、前言</h1><p>公司服务器在线安装ollama总是超时连接不上,想着本质就是个安装包,离线安装也可以。固有了这样的一篇博客记录一下。</p>
<h1 id="二流程">二、流程</h1>
<h2 id="1查看服务器cpu架构">1、查看服务器cpu架构</h2>
<p>执行指令</p>
<pre><code class="language-bash">lscpu
</code></pre>
<p><img src="https://img2024.cnblogs.com/blog/3089600/202502/3089600-20250207172733470-70657540.png" alt="image" loading="lazy"></p>
<pre><code># x86_64 CPU选择下载ollama-linux-amd64
# aarch64|arm64 CPU选择下载ollama-linux-arm64
</code></pre>
<h2 id="2下载对应压缩包并移动至服务器端">2、下载对应压缩包,并移动至服务器端</h2>
<p>然后进入ollama的GitHubrelease界面,根据cpu架构下载tgz压缩包:</p>
<pre><code>https://github.com/ollama/ollama/releases/
</code></pre>
<p><img src="https://img2024.cnblogs.com/blog/3089600/202502/3089600-20250207172853988-92244801.png" alt="image" loading="lazy"></p>
<p>下载可以使用迅雷代理,对于没有魔法的网络环境比较友好。</p>
<h2 id="3解压压缩包">3、解压压缩包</h2>
<p>走到tgz文件夹路径,然后运行解压指令即可</p>
<pre><code class="language-bash">sudo tar -C /usr -xzf ollama-linux-amd64.tgz
</code></pre>
<h2 id="4运行ollama">4、运行ollama</h2>
<p>新开终端执行指令:</p>
<pre><code class="language-bash">ollama serve
</code></pre>
<p>再新开终端,键入</p>
<pre><code class="language-bash">ollama -v
</code></pre>
<p>验证服务是否在运行。</p>
<h1 id="三enjoy-yourself">三、enjoy yourself~~</h1>
<p>之后就可以正常拉取模型,启动ollama服务、关闭ollama服务了。</p><br><br>
来源:https://www.cnblogs.com/Vsonic12138/p/18702984
頁:
[1]