风过乡足球精华 發表於 2025-4-12 17:35:00

DeepSeek本地部署+Page Assist浏览器插件+C#接口调用

<h2 id="1安装ollama">1.安装Ollama</h2>
<p>Ollama作为本地部署大模型的方案,还是非常不错的。</p>
<p>1、跨平台:支持 macOS、Linux 和 Windows。</p>
<p>2、市面主流开源模型都支持:包括Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2等54个开源模型。</p>
<p>3、REST API:Ollama提供对外API能力,想要自己开发客户端、或者集成到应用系统都是非常方便的。</p>
<p>4、生态完善:众多开源Web项目、开源桌面软件支持Ollama,还有终端工具、移动应用、开发工具库等开源项目。</p>
<p><strong>下载地址:https://ollama.com/download</strong></p>
<p><img src="https://img2024.cnblogs.com/blog/2212230/202504/2212230-20250412171200313-387422387.png"></p>
<p>安装Ollama还是比较简单的,下载安装包后,直接安装就行。我这边选择的是Windows版本。</p>
<p><img src="https://img2024.cnblogs.com/blog/2212230/202504/2212230-20250412171220310-507818936.png"></p>
<h2 id="2修改ollama默认配置">2.修改Ollama默认配置</h2>
<p>配置系统变量</p>
<p><img src="uploading..."></p>
<p><strong>修改配置后,记得重启Ollama。</strong></p>
<p>我暂时就需要这两个,其他更多配置信息,大家可以查看官方文档:</p>
<p>https://github.com/ollama/ollama/tree/main/docs</p>
<h2 id="3下载并安装模型">3.下载并安装模型</h2>
<p>Ollama支持模型非常多,我们这边选择的是:deepseek-r1。</p>
<p><img src="https://img2024.cnblogs.com/blog/2212230/202504/2212230-20250412171545797-1039842117.png"></p>
<p>选择对应的模型,我们就可以看到模型的相信介绍、各种参数的模型。</p>
<p><img src="https://img2024.cnblogs.com/blog/2212230/202504/2212230-20250412171609657-1592317414.png"></p>
<p>各个版本模型对硬件要求,官方没有明确的说明,根据网友分享的大概整理如下,大家可以根据自己的电脑配置选择模型。</p>
<p><img src="https://img2024.cnblogs.com/blog/2212230/202504/2212230-20250412171638104-890234700.png"></p>
<p><strong>安装模型也很简单,选择对应版本的模型,拷贝命令就行。</strong></p>
<p><img src="https://img2024.cnblogs.com/blog/2212230/202504/2212230-20250412171748994-1302988524.png"></p>
<p>在命令窗口输入以上命令,就会自动下载。</p>
<p><img src="https://img2024.cnblogs.com/blog/2212230/202504/2212230-20250412172402381-1480122455.png"></p>
<p>耐心等待,等出现success就代表安装成功了。</p>
<p><img src="https://img2024.cnblogs.com/blog/2212230/202504/2212230-20250412171904405-1348708531.png"></p>
<p>测试提问</p>
<p><img src="https://img2024.cnblogs.com/blog/2212230/202504/2212230-20250412200012871-1850873908.png"></p>
<p>安装成功后,我们就可以直接在命令窗口进行使用了。</p>
<p>同时在浏览器访问:http://127.0.0.1:11434,有如下提示也代表启动成功了。</p>
<p><img src="https://img2024.cnblogs.com/blog/2212230/202504/2212230-20250412172509136-1304308908.png"></p>
<h2 id="4api调用">4.API调用</h2>
<p>Ollama也为我们提供API接口功能,想要自己开发客户端、或者集成到应用系统都是非常方便的。</p>
<p>Ollama相关生态也非常完善,我们直接使用C#版本Ollama的SDK,就可以快速开发,下面一起看看简单例子。</p>
<h3 id="41安装依赖包ollamasharp">4.1、安装依赖包:OllamaSharp</h3>
<p><img src="https://img2024.cnblogs.com/blog/2212230/202504/2212230-20250412172714614-967489381.png"></p>
<h3 id="42-示例代码">4.2 示例代码</h3>
<pre><code>using Microsoft.Extensions.AI;
using OllamaSharp;

Uri modelEndpoint = new("http://localhost:11434");

//指定模型
string modelName = "deepseek-r1:14b";

var chatClient = new OllamaApiClient(modelEndpoint, modelName);

//提问
string question = "你好,我们可以认识一下吗?";
var response = chatClient.GetStreamingResponseAsync(question);

Console.WriteLine($"&gt;&gt;&gt; 你: {question}");
Console.Write("&gt;&gt;&gt;");
Console.WriteLine("&gt;&gt;&gt; DeepSeek: ");

//输出
await foreach (var item in response)
{
        Console.Write(item);
}

Console.ReadLine();
</code></pre>
<p><strong>效果如下:</strong></p>
<p>Ollama相关的API接口,也可以查看官方文档。</p>
<p>https://github.com/ollama/ollama/blob/main/docs/api.md</p>
<h2 id="5-ollama的客户端">5. OLLAMA的客户端</h2>
<p>在命令窗口使用DeepSeek,肯定是不方便的。自己开发客户端,又需要大量时间。</p>
<p>Ollama的客户端是非常众多的,而且都是开源的项目,包括:Web网页版本、桌面应用、浏览器插件、移动端APP等。</p>
<p>每一个客户端提供的功能也非常丰富,并且都不一样,包括:OCR图片识别、语音识别、文档解析等。</p>
<p>大家可以根据自己的需求自行选择。</p>
<p>https://github.com/ollama/ollama</p>
<p><img src="https://img2024.cnblogs.com/blog/2212230/202504/2212230-20250412173049412-1214779243.png"></p>
<h2 id="6-page-assist浏览器插件">6. Page Assist浏览器插件</h2>
<p>我这边的是选择浏览器插件,比较灵活。</p>
<p>在Chrome应用商店,安装浏览器插件:Page Assist。</p>
<p><img src="https://img2024.cnblogs.com/blog/2212230/202504/2212230-20250412173141235-1128668333.png"></p>
<p>安装后打开插件,把语音识别、界面语音修改为中文,方便我们使用。</p>
<p><img src="https://img2024.cnblogs.com/blog/2212230/202504/2212230-20250412173212345-1546572785.png"></p>
<p>修改Ollama的配置:</p>
<p>1、Ollama URL修改为Ollama服务器的地址。</p>
<p>2、在Ollama 高级配置中,启用:启用或禁用自定义来源 URL,这样才能访问。</p>
<p><img src="https://img2024.cnblogs.com/blog/2212230/202504/2212230-20250412173327302-624292971.png"></p>
<p>Ollama服务器需要关闭防火墙,或者在入站规则里开启端口:11434。<br>
<img src="https://img2024.cnblogs.com/blog/2212230/202504/2212230-20250412173341184-1801794516.png"></p>
<p><img src="uploading..."></p>
<p>完成以上配置后,我们就可以使用了。</p>
<p>使用的时候,选择对应的模型版本就可以了。</p>
<p><img src="https://img2024.cnblogs.com/blog/2212230/202504/2212230-20250412173357599-1937336346.png"></p><br><br>
来源:https://www.cnblogs.com/chenshibao/p/18822323
頁: [1]
查看完整版本: DeepSeek本地部署+Page Assist浏览器插件+C#接口调用