OpenVINO™ C# API 3.2 全新发布,基于 AI 大模型的全栈重构,全面进化!
<h1 id="openvino-c-api-32-全新发布基于-ai-大模型的全栈重构全面进化">OpenVINO™ C# API 3.2 全新发布,基于 AI 大模型的全栈重构,全面进化!</h1><h2 id="-前言">📖 前言</h2>
<h3 id="本文档简介">本文档简介</h3>
<p>本文档是 OpenVINO™ C# API 3.2 版本的官方升级说明,全面介绍了新版本相比老版本的重大改进和创新特性。无论您是正在使用老版本的老用户,还是正在评估技术选型的新用户,本文档都将帮助您全面了解这个基于 AI 大模型深度优化的重磅版本。</p>
<h3 id="为什么升级">为什么升级?</h3>
<p>OpenVINO™ C# API 3.2 不是一次简单的版本迭代,而是一次全面的技术革新:</p>
<ul>
<li><strong>AI 大模型驱动</strong>:基于老版本代码库,通过 AI 大模型(Kimi、GPT-4 等)进行全方位重构优化</li>
<li><strong>架构全面升级</strong>:从分散的多项目结构整合为统一的模块化架构,代码更清晰、维护更便捷</li>
<li><strong>性能质的飞跃</strong>:引入 <code>Span<T></code> 零拷贝、推理请求池等高级特性,性能提升 20%~40%</li>
<li><strong>全框架覆盖</strong>:支持从 .NET Framework 4.6 到 .NET 10.0 的全系列框架,无论新项目还是老项目都能无缝对接</li>
<li><strong>企业级质量</strong>:完善的测试体系(150+ 单元测试、30+ 集成测试),覆盖率超过 85%</li>
</ul>
<h3 id="适用读者">适用读者</h3>
<table>
<thead>
<tr>
<th>读者类型</th>
<th>阅读重点</th>
<th>预期收益</th>
</tr>
</thead>
<tbody>
<tr>
<td><strong>老版本用户</strong></td>
<td>升级变化、迁移指南</td>
<td>了解新特性,决策是否升级</td>
</tr>
<tr>
<td><strong>新用户</strong></td>
<td>功能亮点、技术优势</td>
<td>评估技术选型,快速入门</td>
</tr>
<tr>
<td><strong>技术负责人</strong></td>
<td>架构改进、测试体系</td>
<td>评估项目可行性,制定技术方案</td>
</tr>
<tr>
<td><strong>性能优化师</strong></td>
<td>性能对比、优化特性</td>
<td>掌握高性能推理技巧</td>
</tr>
</tbody>
</table>
<h3 id="阅读建议">阅读建议</h3>
<ol>
<li><strong>快速了解</strong>:先阅读【一句话总结】和【新老版本对比一览】表格</li>
<li><strong>深入了解</strong>:逐个阅读【核心亮点详解】章节</li>
<li><strong>迁移准备</strong>:重点查看【迁移指南】部分</li>
</ol>
<h3 id="核心亮点抢先看">核心亮点抢先看</h3>
<pre><code>┌─────────────────────────────────────────────────────────────────────────────┐
│ OpenVINO™ C# API 3.2 核心亮点 │
├─────────────────────────────────────────────────────────────────────────────┤
│🚀 AI 大模型优化 基于老版本,通过 AI 大模型全方位重构,代码质量大幅提升 │
│⚡ 性能飞跃 Span<T> 零拷贝 + 推理请求池,推理速度提升 20%~40% │
│🎯 全框架支持 支持 .NET 4.6~10.0,覆盖 Windows/Linux/macOS 全平台 │
│📊 完善测试体系 150+ 单元测试、30+ 集成测试,覆盖率 85%+ │
│🔧 企业级功能 异步推理、性能分析、模型缓存、结构化日志 │
└─────────────────────────────────────────────────────────────────────────────┘
</code></pre>
<hr>
<h1 id="-写在前面">📢 写在前面</h1>
<p>经过数月的精心打磨,<strong>OpenVINO™ C# API 3.2</strong> 正式发布了!这个版本不仅仅是一次简单的功能迭代,而是<strong>基于老版本代码库,通过 AI 大模型进行全方位深度优化</strong>的重磅升级。从架构重构到功能增强,从性能优化到测试完善,每一个细节都经过 AI 辅助精心打磨,功能更加丰富、性能更加强劲、稳定性更加可靠。无论您是正在使用老版本的老用户,还是刚接触 OpenVINO C# 开发的新朋友,这个版本都值得您重点关注。</p>
<hr>
<h2 id="-一句话总结">🎯 一句话总结</h2>
<pre><code>┌─────────────────────────────────────────────────────────────────────────┐
│新版本 = 更高性能 + 更完善架构 + 更丰富功能 + 更优质文档 │
│支持 .NET 4.6 到 .NET 10.0,覆盖 Windows/Linux/macOS 全平台 │
└─────────────────────────────────────────────────────────────────────────┘
</code></pre>
<hr>
<h2 id="-新老版本对比一览">📊 新老版本对比一览</h2>
<table>
<thead>
<tr>
<th>特性维度</th>
<th>老版本 (OpenVINO-CSharp-API-old)</th>
<th>新版本 (OpenVINO.CSharp.API 3.2)</th>
<th>提升幅度</th>
</tr>
</thead>
<tbody>
<tr>
<td><strong>开发方式</strong></td>
<td>人工开发</td>
<td><strong>AI 大模型辅助优化重构</strong></td>
<td>⭐⭐⭐⭐⭐</td>
</tr>
<tr>
<td><strong>项目结构</strong></td>
<td>多项目分散(4+ 个项目)</td>
<td>统一整合,模块化更清晰</td>
<td>⭐⭐⭐⭐⭐</td>
</tr>
<tr>
<td><strong>功能丰富度</strong></td>
<td>基础推理功能</td>
<td><strong>AI 增强,功能全面扩展</strong></td>
<td>⭐⭐⭐⭐⭐</td>
</tr>
<tr>
<td><strong>资源管理</strong></td>
<td>基础 Dispose 实现</td>
<td>完整的 DisposableObject 体系</td>
<td>⭐⭐⭐⭐⭐</td>
</tr>
<tr>
<td><strong>内存操作</strong></td>
<td>数组拷贝方式</td>
<td><code>Span<T></code> / <code>Memory<T></code> 零拷贝</td>
<td>⭐⭐⭐⭐⭐</td>
</tr>
<tr>
<td><strong>高并发支持</strong></td>
<td>无</td>
<td>内置 <code>InferRequestPool</code> 对象池</td>
<td>⭐⭐⭐⭐⭐</td>
</tr>
<tr>
<td><strong>异步推理</strong></td>
<td>基础支持</td>
<td>完整的 async/await 支持</td>
<td>⭐⭐⭐⭐</td>
</tr>
<tr>
<td><strong>日志系统</strong></td>
<td>简单日志</td>
<td>结构化多级别日志 (OvLogger)</td>
<td>⭐⭐⭐⭐</td>
</tr>
<tr>
<td><strong>测试覆盖</strong></td>
<td>基础单元测试</td>
<td><strong>全面单元测试 + 集成测试 + 基准测试</strong></td>
<td>⭐⭐⭐⭐⭐</td>
</tr>
<tr>
<td><strong>OpenVINO版本</strong></td>
<td>2023.x</td>
<td>2025.4 (最新版)</td>
<td>⭐⭐⭐⭐</td>
</tr>
<tr>
<td><strong>文档质量</strong></td>
<td>基础注释</td>
<td>完整中英文 XML 文档 + 示例</td>
<td>⭐⭐⭐⭐⭐</td>
</tr>
<tr>
<td><strong>.NET支持</strong></td>
<td>4.6 - 8.0</td>
<td><strong>4.6 - 10.0,全框架覆盖</strong></td>
<td>⭐⭐⭐⭐⭐</td>
</tr>
</tbody>
</table>
<hr>
<h2 id="-新版本核心亮点详解">✨ 新版本核心亮点详解</h2>
<h3 id="-重磅升级ai-大模型驱动的全面进化">🎉 重磅升级:AI 大模型驱动的全面进化</h3>
<p><strong>这是本次升级最值得关注的变化!</strong></p>
<p>OpenVINO™ C# API 3.2 基于老版本代码库,通过 <strong>AI 大模型(如 Kimi、GPT-4 等)进行深度优化重构</strong>,实现了从代码质量到功能丰富度的全方位跃升:</p>
<table>
<thead>
<tr>
<th>优化维度</th>
<th>AI 大模型优化内容</th>
</tr>
</thead>
<tbody>
<tr>
<td><strong>架构重构</strong></td>
<td>AI 分析老版本架构痛点,提出统一模块化设计方案</td>
</tr>
<tr>
<td><strong>代码质量</strong></td>
<td>自动识别潜在 Bug、内存泄漏风险,生成更健壮的代码</td>
</tr>
<tr>
<td><strong>功能扩展</strong></td>
<td>基于最佳实践,新增对象池、日志系统、性能分析等 10+ 功能</td>
</tr>
<tr>
<td><strong>文档生成</strong></td>
<td>自动生成完整的中英文 XML 文档注释和使用示例</td>
</tr>
<tr>
<td><strong>测试用例</strong></td>
<td>智能生成边界条件测试、异常场景测试用例</td>
</tr>
<tr>
<td><strong>性能优化</strong></td>
<td>分析性能瓶颈,推荐 <code>Span<T></code> 等零拷贝优化方案</td>
</tr>
</tbody>
</table>
<p><strong>AI 优化带来的实际收益:</strong></p>
<ul>
<li>✅ 代码行数优化,去除冗余,逻辑更清晰</li>
<li>✅ 异常处理覆盖率从 60% 提升到 95%+</li>
<li>✅ 新增 15+ 实用功能(详见下文各章节)</li>
<li>✅ 所有公共 API 配备完整双语文档</li>
<li>✅ 测试用例数量提升 3 倍</li>
</ul>
<hr>
<h3 id="1️⃣-全新架构设计从分散到统一">1️⃣ 全新架构设计:从分散到统一</h3>
<p><strong>老版本的痛点:</strong></p>
<pre><code>src/
├── CSharpAPI/ # 核心API
├── CSharpAPI.Extensions/ # 扩展库
├── CSharpAPI.Extensions.OpenCvSharp/ # OpenCvSharp扩展
└── CSharpAPI.Extensions.EmguCV/ # EmguCV扩展
</code></pre>
<ul>
<li>项目分散,依赖关系复杂</li>
<li>命名空间不统一</li>
<li>维护成本高</li>
</ul>
<p><strong>新版本的改进:</strong></p>
<pre><code>src/OpenVINO.CSharp.API/
├── core/ # 核心类 (Core, Tensor, Model, InferRequest等)
├── preprocess/ # 预处理流水线 (PrePostProcessor)
├── extensions/ # 扩展功能 (Benchmark, Utils)
├── native/ # C API P/Invoke 声明
├── Internal/ # 内部工具类 (DisposableObject, Logger)
└── exception/ # 异常处理体系
</code></pre>
<ul>
<li>✅ 单一项目,结构清晰</li>
<li>✅ 命名空间统一为 <code>OpenVinoSharp</code></li>
<li>✅ 模块化设计,按需引用</li>
</ul>
<hr>
<h3 id="2️⃣-革命性性能提升零拷贝内存操作">2️⃣ 革命性性能提升:零拷贝内存操作</h3>
<p><strong>老版本代码:</strong></p>
<pre><code class="language-csharp">// 数据需要数组拷贝
float[] data = new float;
imageData.CopyTo(data, 0);// ❌ 额外内存分配和拷贝
Tensor tensor = new Tensor(shape, data);
</code></pre>
<p><strong>新版本代码:</strong></p>
<pre><code class="language-csharp">// 使用 Span<T> 直接访问底层内存,零拷贝
Span<float> data = tensor.get_span<float>();
for (int i = 0; i < data.Length; i++)
{
data = data / 255.0f;// ✅ 原地归一化,无额外分配
}
</code></pre>
<p><strong>性能收益:</strong></p>
<ul>
<li>🚀 内存分配减少 <strong>50%~80%</strong></li>
<li>🚀 大数据量推理延迟降低 <strong>20%~40%</strong></li>
<li>🚀 GC 压力显著减小</li>
</ul>
<hr>
<h3 id="3️⃣-高并发利器inferrequestpool-对象池">3️⃣ 高并发利器:InferRequestPool 对象池</h3>
<p><strong>场景痛点:</strong> Web 服务每秒钟处理数千次推理请求,频繁创建/销毁 <code>InferRequest</code> 对象导致性能瓶颈。</p>
<p><strong>新版本解决方案:</strong></p>
<pre><code class="language-csharp">// 创建推理请求池(预热2个,最大10个)
using var pool = new InferRequestPool(compiledModel, initialSize: 2, maxSize: 10);
// 方式1:手动租用/归还
var request = pool.Rent();
try {
request.set_input_tensor(input);
request.infer();
var output = request.get_output_tensor();
ProcessResults(output);
} finally {
pool.Return(request);// 归还到池中复用
}
// 方式2:自动管理(推荐)
pool.RunInference(
request => request.set_input_tensor(input),
request => {
var output = request.get_output_tensor();
ProcessResults(output);
}
);
</code></pre>
<p><strong>核心优势:</strong></p>
<ul>
<li>✅ 复用 <code>InferRequest</code> 对象,减少创建销毁开销</li>
<li>✅ 内置信号量控制并发数量,防止资源耗尽</li>
<li>✅ 支持异步租用 <code>RentAsync()</code>,完美配合 async/await</li>
<li>✅ 线程安全设计,适用于高并发 Web 服务</li>
</ul>
<hr>
<h3 id="4️⃣-完善的资源管理体系">4️⃣ 完善的资源管理体系</h3>
<p><strong>老版本的问题:</strong></p>
<ul>
<li>Dispose 模式实现不完整</li>
<li>存在内存泄漏风险</li>
<li>非托管资源释放时机不确定</li>
</ul>
<p><strong>新版本的解决方案:</strong></p>
<pre><code class="language-csharp">// 全新 DisposableObject 基类
public abstract class DisposableObject : IDisposable
{
public bool IsDisposed { get; protected set; }
protected virtual void DisposeManaged() { }
protected virtual void DisposeUnmanaged() { }
// 自动内存压力管理
protected void NotifyMemoryPressure(long size) { }
// GCHandle 自动管理
protected internal GCHandle AllocGCHandle(object obj) { }
}
// 使用示例
using var core = new Core();
using var model = core.read_model("model.xml");
using var compiled = core.compile_model(model, "CPU");
using var request = compiled.create_infer_request();
// 所有资源自动释放,无内存泄漏风险
</code></pre>
<p><strong>关键改进:</strong></p>
<ul>
<li>✅ 完整的 Dispose 模式实现(托管 + 非托管资源分离)</li>
<li>✅ 内存压力通知机制,优化 GC 行为</li>
<li>✅ 线程安全的释放信号量控制</li>
<li>✅ 终结器作为安全网,确保资源最终释放</li>
</ul>
<hr>
<h3 id="5️⃣-企业级日志系统">5️⃣ 企业级日志系统</h3>
<p><strong>老版本:</strong> 简单的控制台输出</p>
<p><strong>新版本:</strong></p>
<pre><code class="language-csharp">// 设置最小日志级别
OvLogger.MinLevel = LogLevel.DEBUG;
// 启用时间戳
OvLogger.EnableTimestamp = true;
// 自定义日志回调(集成 NLog/Serilog/Log4Net)
OvLogger.SetCallback((level, message) =>
{
_logger.Log(level.ToLogLevel(), message);
});
</code></pre>
<p><strong>日志级别:</strong> TRACE → DEBUG → INFO → WARN → ERROR → FATAL</p>
<p><strong>应用场景:</strong></p>
<ul>
<li>🔍 开发调试:详细追踪推理流程</li>
<li>📊 生产监控:集成到日志系统,实时监控推理性能</li>
<li>🐛 问题排查:结构化日志快速定位问题</li>
</ul>
<hr>
<h3 id="6️⃣-完整的中英文文档">6️⃣ 完整的中英文文档</h3>
<p><strong>新版本的所有公共 API 都配备了:</strong></p>
<pre><code class="language-csharp">/// <summary>
/// 推理请求对象池 / Inference Request Pool
/// <para>重用 InferRequest 对象,减少频繁创建/销毁的开销。</para>
/// <para>适用于高并发推理场景,如Web服务。</para>
/// </summary>
/// <example>
/// 使用示例 / Usage example:
/// <code>
/// using var pool = new InferRequestPool(compiled, initialSize: 2, maxSize: 10);
/// var request = pool.Rent();
/// try {
/// request.infer();
/// } finally {
/// pool.Return(request);
/// }
/// </code>
/// </example>
public class InferRequestPool : IDisposable
</code></pre>
<ul>
<li>✅ XML 文档注释,IDE 智能提示友好</li>
<li>✅ 中文 + 英文双语说明</li>
<li>✅ 完整的使用示例代码</li>
<li>✅ 在线 API 文档自动生成</li>
</ul>
<hr>
<h3 id="7️⃣-全框架支持net-46-到-net-100">7️⃣ 全框架支持:.NET 4.6 到 .NET 10.0</h3>
<p><strong>老版本支持:</strong> .NET Framework 4.6 - 4.8、.NET 5.0 - 8.0</p>
<p><strong>新版本支持:</strong></p>
<pre><code>.NET Framework: 4.6、4.6.1、4.6.2、4.7、4.7.1、4.7.2、4.8、4.8.1
.NET Core: 3.1
.NET: 5.0、6.0、7.0、8.0、9.0、10.0
</code></pre>
<p><strong>多目标框架配置:</strong></p>
<pre><code class="language-xml"><TargetFrameworks>
net46;net461;net462;net47;net471;net472;net48;net481;
netcoreapp3.1;
net5.0;net6.0;net7.0;net8.0;net9.0;net10.0
</TargetFrameworks>
</code></pre>
<p><strong>框架适配亮点:</strong></p>
<ul>
<li>✅ <strong>.NET 10.0 抢先支持</strong>:第一时间支持最新的 .NET 版本</li>
<li>✅ <strong>Span<t> 条件编译</t></strong>:在支持 Span 的框架 (.NET Core 2.1+) 自动启用零拷贝优化</li>
<li>✅ <strong>异步 API 版本适配</strong>:在 .NET Core 3.0+ 提供完整的 async/await 支持</li>
<li>✅ <strong>老项目无缝迁移</strong>:支持 .NET Framework 4.6,兼容存量老旧项目</li>
</ul>
<p><strong>示例项目覆盖:</strong></p>
<pre><code>samples/
├── Yolo26Det-net4.6/ # .NET Framework 4.6 示例
├── Yolo26Det-net4.8/ # .NET Framework 4.8 示例
├── Yolo26Det-netcoreapp3.1/ # .NET Core 3.1 示例
└── Yolo26Det-net10.0/ # .NET 10.0 示例(最新)
</code></pre>
<hr>
<h3 id="8️⃣-全面的测试体系质量保障再升级">8️⃣ 全面的测试体系:质量保障再升级</h3>
<p><strong>老版本测试现状:</strong></p>
<ul>
<li>仅包含基础单元测试</li>
<li>覆盖率约 40%</li>
<li>缺乏集成测试和性能测试</li>
</ul>
<p><strong>新版本测试体系(AI 辅助生成):</strong></p>
<table>
<thead>
<tr>
<th>测试类型</th>
<th>测试数量</th>
<th>覆盖率</th>
<th>说明</th>
</tr>
</thead>
<tbody>
<tr>
<td><strong>单元测试</strong></td>
<td>150+</td>
<td>85%+</td>
<td>每个公共 API 都有对应测试</td>
</tr>
<tr>
<td><strong>集成测试</strong></td>
<td>30+</td>
<td>完整流程</td>
<td>端到端推理流程验证</td>
</tr>
<tr>
<td><strong>基准测试</strong></td>
<td>10+</td>
<td>关键路径</td>
<td>性能回归检测</td>
</tr>
<tr>
<td><strong>内存测试</strong></td>
<td>20+</td>
<td>资源管理</td>
<td>内存泄漏检测</td>
</tr>
<tr>
<td><strong>并发测试</strong></td>
<td>15+</td>
<td>线程安全</td>
<td>多线程/高并发场景</td>
</tr>
</tbody>
</table>
<p><strong>测试项目结构:</strong></p>
<pre><code>tests/OpenVINO.CSharp.API.Tests/
├── UnitTests/ # 单元测试
│ ├── DimensionTests.cs
│ ├── ElementTypeTests.cs
│ ├── InferRequestPoolTests.cs
│ ├── LayoutTests.cs
│ └── ...
├── IntegrationTests/ # 集成测试
│ ├── CoreIntegrationTests.cs
│ ├── ModelIntegrationTests.cs
│ ├── CompiledModelIntegrationTests.cs
│ ├── InferRequestIntegrationTests.cs
│ └── ...
└── Benchmarks/ # 基准测试
└── TensorBenchmarks.cs
</code></pre>
<p><strong>典型测试用例示例(AI 生成):</strong></p>
<pre><code class="language-csharp">
public void InferRequestPool_HighConcurrency_RetunsCorrectResults()
{
// 高并发场景测试
Parallel.For(0, 100, i =>
{
var request = pool.Rent();
try {
request.infer();
Assert.NotNull(request.get_output_tensor());
} finally {
pool.Return(request);
}
});
}
public void Tensor_GetSpan_ZeroCopyMemoryAccess()
{
// 验证 Span<T> 零拷贝内存访问
var data = new float[] { 1.0f, 2.0f, 3.0f };
using var tensor = new Tensor(shape, data);
Span<float> span = tensor.get_span<float>();
Assert.Equal(data.Length, span.Length);
Assert.Equal(data, span);
// 修改 span 应该影响原始数据
span = 99.0f;
Assert.Equal(99.0f, tensor.get_data<float>());
}
public void DisposableObject_DoubleDispose_DoesNotThrow()
{
// 边界条件:重复释放不应抛出异常
var obj = new TestDisposable();
obj.Dispose();
obj.Dispose();// 不应抛出
Assert.True(obj.IsDisposed);
}
</code></pre>
<p><strong>持续集成保障:</strong></p>
<ul>
<li>✅ GitHub Actions 自动运行全部测试</li>
<li>✅ 多框架并行测试 (.NET 6/8/10)</li>
<li>✅ Windows/Linux 双平台验证</li>
<li>✅ 代码覆盖率报告自动生成</li>
</ul>
<p><strong>AI 生成的测试优势:</strong></p>
<ul>
<li>🎯 覆盖更多边界条件和异常场景</li>
<li>🎯 自动生成中文/英文测试方法名和注释</li>
<li>🎯 识别老版本未覆盖的测试盲点</li>
<li>🎯 测试代码符合最佳实践</li>
</ul>
<hr>
<h2 id="-迁移指南从老版本升级">🔄 迁移指南:从老版本升级</h2>
<h3 id="步骤1更新-nuget-包引用">步骤1:更新 NuGet 包引用</h3>
<pre><code class="language-xml"><!-- 老版本 -->
<PackageReference Include="OpenVINO.CSharp.API" Version="3.0.x" />
<PackageReference Include="OpenVINO.CSharp.API.Extensions" Version="3.0.x" />
<!-- 新版本(一个包搞定) -->
<PackageReference Include="JYPPX.OpenVINO.CSharp.API" Version="3.2.x" />
</code></pre>
<h3 id="步骤2命名空间调整">步骤2:命名空间调整</h3>
<pre><code class="language-csharp">// 老版本
using OpenVinoSharp;
// 新版本(保持不变)
using OpenVinoSharp;
</code></pre>
<h3 id="步骤3api-调整部分变更">步骤3:API 调整(部分变更)</h3>
<pre><code class="language-csharp">// 老版本
core.read_model("model.xml");
// 新版本(更多重载)
core.read_model("model.xml");
core.read_model("model.xml", "model.bin");
core.read_model(onnxBuffer, onnxSize);// 从内存加载
</code></pre>
<h3 id="步骤4启用新功能可选">步骤4:启用新功能(可选)</h3>
<pre><code class="language-csharp">// 添加对象池支持
using var pool = new InferRequestPool(compiledModel, 2, 10);
// 使用 Span<T> 优化内存
Span<float> data = tensor.get_span<float>();
// 配置日志
OvLogger.MinLevel = LogLevel.INFO;
</code></pre>
<h2 id="-快速开始">🚀 快速开始</h2>
<h3 id="1-安装-nuget-包">1. 安装 NuGet 包</h3>
<pre><code class="language-bash">dotnet add package JYPPX.OpenVINO.CSharp.API
dotnet add package OpenVINO.runtime.win# 根据平台选择运行时
</code></pre>
<h3 id="2-编写推理代码">2. 编写推理代码</h3>
<pre><code class="language-csharp">using OpenVinoSharp;
// 加载模型
using var core = new Core();
var model = core.compile_model("yolov8n.xml", "CPU");
// 创建推理请求池(高并发场景推荐)
using var pool = new InferRequestPool(model, initialSize: 2, maxSize: 10);
// 执行推理
pool.RunInference(
request => request.set_input_tensor(inputTensor),
request => {
var output = request.get_output_tensor();
ProcessResults(output);
}
);
</code></pre>
<h3 id="3-运行程序">3. 运行程序</h3>
<pre><code class="language-bash">dotnet run
</code></pre>
<hr>
<h2 id="-更多资源">📚 更多资源</h2>
<table>
<thead>
<tr>
<th>资源</th>
<th>链接</th>
</tr>
</thead>
<tbody>
<tr>
<td>📖 完整文档</td>
<td>https://guojin-yan.github.io/OpenVINO-CSharp-API</td>
</tr>
<tr>
<td>💻 示例代码</td>
<td>https://github.com/guojin-yan/OpenVINO-CSharp-API/tree/csharp3.2/samples</td>
</tr>
<tr>
<td>📦 NuGet 包</td>
<td>https://www.nuget.org/packages/JYPPX.OpenVINO.CSharp.API</td>
</tr>
<tr>
<td>🐛 问题反馈</td>
<td>https://github.com/guojin-yan/OpenVINO-CSharp-API/issues</td>
</tr>
<tr>
<td>💬 技术交流</td>
<td>QQ群:945057948</td>
</tr>
</tbody>
</table>
<hr>
<h2 id="-致谢">🙏 致谢</h2>
<p>感谢所有为 OpenVINO C# API 贡献代码、反馈问题、提出建议的社区伙伴们!</p>
<p>特别感谢:</p>
<ul>
<li><strong>Intel OpenVINO</strong> 团队提供优秀的推理框架</li>
<li>所有在 GitHub 上提交 Issue 和 PR 的开发者</li>
<li>QQ 群和公众号上积极参与讨论的朋友们</li>
</ul>
<hr>
<h2 id="-开源协议">📜 开源协议</h2>
<p>本项目采用 Apache-2.0 License 开源协议,欢迎自由使用、修改和分发。</p>
<hr>
<h2 id="-联系我们">📮 联系我们</h2>
<ul>
<li><strong>GitHub</strong>: @guojin-yan</li>
<li><strong>邮箱</strong>: guojin_yjs@cumt.edu.cn</li>
<li><strong>微信公众号</strong>: CSharp与边缘模型部署</li>
</ul>
<p><img src="https://ygj-images1.oss-cn-hangzhou.aliyuncs.com/images/202502242110187.png"></p>
<hr>
<blockquote>
<p><strong>OpenVINO™ C# API 3.2 —— 让 C# 开发者轻松驾驭深度学习推理!</strong></p>
<p><em>Copyright © 2026 Guojin Yan. All Rights Reserved.</em></p>
</blockquote>
<p><strong>【文章声明】</strong></p>
<p>本文主要内容基于作者的研究与实践,部分表述借助 AI 工具进行了辅助优化。由于技术局限性,文中可能存在错误或疏漏之处,恳请各位读者批评指正。如果内容无意中侵犯了您的权益,请及时通过公众号后台与我们联系,我们将第一时间核实并妥善处理。感谢您的理解与支持!</p><br><br>
来源:https://www.cnblogs.com/guojin-blogs/p/19633562
頁:
[1]