什么是ollama？如何安装ollama和应用
<h3 id="一ollama是什么">一、ollama是什么？</h3><p>Ollama 是一个专注于本地部署和运行大语言模型（LLM）的开源工具，由美国公司 Ollama Inc. 开发。它提供了简单的命令行界面和 HTTP API，使开发者能够在本地环境快速部署、运行和交互各种开源 LLM，无需依赖云服务。</p>
<ul>
<li>
<p>自己对ollama的理解</p>
<p>ollama是一个开源的LLM的工具，管理市面上现有的大模型，通过ollama可以快速部署本地大模型，如deepseek、qwen等，类似于docker拉取容器一样的关系一样</p>
</li>
<li>
<p>核心功能</p>
<ol>
<li>模型库与一键部署</li>
<li>LLM管理</li>
<li>优化推理</li>
<li>Http Api和工具连接</li>
</ol>
</li>
</ul>
<h3 id="二安装ollama">二、安装ollama</h3>
<ol>
<li>
<p>官网下载</p>
<p>官网地址：https://ollama.com</p>
<p>点击下载，按照提示直接安装即可</p>
</li>
<li>
<p>命令安装</p>
<ul>
<li>
<p>macOS</p>
<pre><code class="language-shell">brew install ollama
</code></pre>
</li>
<li>
<p>linux</p>
<pre><code class="language-shell"> curl -s https://ollama.com/install | bash
</code></pre>
</li>
<li>
<p>Windows</p>
<p>用户可以通过 WSL2 安装</p>
</li>
</ul>
</li>
<li>
<p>docker镜像</p>
<pre><code class="language-shell">docker run -d --gpus=all \ -e OLLAMA_KEEP_ALIVE=-1 \ -e OLLAMA_NUM_PARALLEL=4\ -e OLLAMA_FLASH_ATTENTION=1\ -v /data3/alex/ollama:/root/.ollama\ -p 23153:11434 --name ollama-vincent docker.io/ollama/ollama:0.3.11
</code></pre>
</li>
</ol>
<h3 id="三验证">三、验证</h3>
<pre><code class="language-shell">ollama -v
</code></pre>
<p>出现版本号说明安装成功</p>
<h3 id="四拉取模型">四、拉取模型</h3>
<p>以拉取deepseek-r1:1.5b为例<br>
在官网点击搜索，会有提示<br>
<img src="https://img2024.cnblogs.com/blog/3436775/202506/3436775-20250623234936334-534717290.png"></p>
<p>选择deepseek-r1<br>
<img src="https://img2024.cnblogs.com/blog/3436775/202506/3436775-20250623235021791-1766854031.png"></p>
<p>点击进去复制命令、执行<br>
<img src="https://img2024.cnblogs.com/blog/3436775/202506/3436775-20250623235311726-145619733.png"></p>
<h3 id="四验证模型是否拉取成功">四、验证模型是否拉取成功</h3>
<p>拉取成功会跟模型对话，这个时候可以做简单的对话<br>
<img src="https://img2024.cnblogs.com/blog/3436775/202506/3436775-20250624003846461-1032726690.png"><br>
用命令查看模型</p>
<pre><code class="language-shell"> ollama list
</code></pre>
<h3 id="五ollama常用命令">五、ollama常用命令</h3>
<ol>
<li>
<p>拉取模型 (pull)</p>
<pre><code class="language-bash">ollama pull 模型名称
</code></pre>
</li>
<li>
<p>列出本地模型 (list)</p>
<pre><code class="language-bash">ollama list
</code></pre>
</li>
<li>
<p>删除本地模型</p>
<pre><code class="language-bash">ollama rm 模型名称
</code></pre>
</li>
<li>
<p>拷贝模型</p>
<pre><code class="language-bash">ollama cp 模型名称 自定义模型名称
</code></pre>
</li>
<li>
<p>将提示作为参数传递</p>
<pre><code class="language-bash">ollama run 模型名称 "Summarize this file: $(cat README.md)"
</code></pre>
</li>
<li>
<p>显示模型信息</p>
<pre><code class="language-bash">ollama show 模型名称
</code></pre>
</li>
<li>
<p>列出当前加载的模型</p>
<pre><code class="language-bash">ollama ps
</code></pre>
</li>
<li>
<p>停止当前正在运行的模型</p>
<pre><code>ollama stop 模型名称
</code></pre>
</li>
<li>
<p>启动 Ollama</p>
<p>当您想在不运行桌面应用程序的情况下启动 OLLAMA 时使用</p>
<pre><code class="language-bash">ollama serve
</code></pre>
</li>
</ol>
<p>github：https://github.com/ollama/ollama</p>
<h3 id="五rest-api">五、Rest API</h3>
<ol>
<li>
<p>Generate a response 生成响应</p>
<pre><code class="language-bash">curl http://localhost:11434/api/generate -d '{
"model": "llama3.2",
"prompt":"Why is the sky blue?"
}'
</code></pre>
</li>
<li>
<p>Chat with a model 与模型聊天</p>
<pre><code class="language-bash">curl http://localhost:11434/api/chat -d '{
"model": "llama3.2",
"messages": [
{ "role": "user", "content": "why is the sky blue?" }
]
}'
</code></pre>
</li>
</ol>
<p>github：https://github.com/ollama/ollama</p>
<h3 id="六默认ollama请求的url">六、默认ollama请求的URL</h3>
<p>http://localhost:11434/</p><br><br>
来源：https://www.cnblogs.com/MaC-Matthew/p/18945504
頁:
[1]