AI大模型 今日: 0|主题: 313|排名: 11 

本人博客 https://www.konoxin.top/ 前提环境 Vercel账号 GitHub仓库 域名 大家也可以根据代码修改自己想要的效果 ✒️申请星火Spark-Lite 打开讯飞星火大模型API-大模型API-大模型接口-科大讯飞 下滑到如下，选择Spark-Lite，点击立即调用 会提示创建新应用，信息随便填，之后侧边栏点击Spark Lite，选择领取 ...

目录什么是 MCP 协议MCP 协议与 API 调用的区别MCP 协议的连接方式SSE（Server-Sent Events）stdio（标准输入输出）在 LangGraph 中使用 MCP 协议 什么是 MCP 协议 MCP（Model Context Protocol，模型上下文协议）是一种专为大语言模型设计的开源通信协议，使用 MCP 可以标准化模型与外部数据源、工具或服务之间的交互。也 ...

本文已收录在Github，关注我，紧跟本系列专栏文章，咱们下篇再续！ 🚀 魔都架构师 | 全网30W技术追随者 🔧 大厂分布式系统/数据中台实战专家 🏆 主导交易系统百万级流量调优 & 车联网平台架构 🧠 AIGC应用开发先行者 | 区块链落地实践者 🌍 以技术驱动创新，我们的征途是改变世界！ 👉 实战干货：编程严选网 0 前言 团队 ...

本文已收录在Github，关注我，紧跟本系列专栏文章，咱们下篇再续！ 🚀 魔都架构师 | 全网30W技术追随者 🔧 大厂分布式系统/数据中台实战专家 🏆 主导交易系统百万级流量调优 & 车联网平台架构 🧠 AIGC应用开发先行者 | 区块链落地实践者 🌍 以技术驱动创新，我们的征途是改变世界！ 👉 实战干货：编程严选网 0 前言 Rocke ...

SgLang代码细读-1.从req到batch 代码入口 & 初始化 sglang/python/sglang/srt/entrypoints/http_server.py launch_server 主要分4个步骤: 启动下列进程 (_launch_subprocesses): TokenizerManager: 把输入的query进行tokenize DP=1: run_scheduler_process: 创建scheduler & 开始event_loop DP>1: run_data_parallel_cont ...

本文已收录在Github，关注我，紧跟本系列专栏文章，咱们下篇再续！ 🚀 魔都架构师 | 全网30W技术追随者 🔧 大厂分布式系统/数据中台实战专家 🏆 主导交易系统百万级流量调优 & 车联网平台架构 🧠 AIGC应用开发先行者 | 区块链落地实践者 🌍 以技术驱动创新，我们的征途是改变世界！ 👉 实战干货：编程严选网 0 前言 Codex ...

本文已收录在Github，关注我，紧跟本系列专栏文章，咱们下篇再续！ 🚀 魔都架构师 | 全网30W技术追随者 🔧 大厂分布式系统/数据中台实战专家 🏆 主导交易系统百万级流量调优 & 车联网平台架构 🧠 AIGC应用开发先行者 | 区块链落地实践者 🌍 以技术驱动创新，我们的征途是改变世界！ 👉 实战干货：编程严选网 1 拉取Redis ...

Transformer模型结构：   示例：输入“我爱你”，输出“I love you”第一步：分词，将序列变为一个个token组成的向量，形状：[seq_len,]。本步涉及tokenizer相关技术  第二步：input embedding，将分词结果中的每一个token，编码成一个固定维数的embedding。输出维度：[seq_len, embedding_len]   第三步： ...

本文已收录在Github，关注我，紧跟本系列专栏文章，咱们下篇再续！ 🚀 魔都架构师 | 全网30W技术追随者 🔧 大厂分布式系统/数据中台实战专家 🏆 主导交易系统百万级流量调优 & 车联网平台架构 🧠 AIGC应用开发先行者 | 区块链落地实践者 🌍 以技术驱动创新，我们的征途是改变世界！ 👉 实战干货：编程严选网 1 fail-fast ...

本文已收录在Github，关注我，紧跟本系列专栏文章，咱们下篇再续！ 🚀 魔都架构师 | 全网30W技术追随者 🔧 大厂分布式系统/数据中台实战专家 🏆 主导交易系统百万级流量调优 & 车联网平台架构 🧠 AIGC应用开发先行者 | 区块链落地实践者 🌍 以技术驱动创新，我们的征途是改变世界！ 👉 实战干货：编程严选网 0 确认问题（ ...

这是 大模型评估排障指南 系列文章的第三篇，敬请关注系列文章: 关于推理 关于 \(\LaTeX\) 公式解析 关于可复现性 假设你读了一篇最近的新模型技术报告，然后心血来潮想要在本机复现他们的结果，却发现根本没法复现，这是为什么？ 让我们来探讨一下原因。 代码库不同 要想复现论文或报告的评估得分并精确到小数点，首先要 ...

本文已收录在Github，关注我，紧跟本系列专栏文章，咱们下篇再续！ 🚀 魔都架构师 | 全网30W技术追随者 🔧 大厂分布式系统/数据中台实战专家 🏆 主导交易系统百万级流量调优 & 车联网平台架构 🧠 AIGC应用开发先行者 | 区块链落地实践者 🌍 以技术驱动创新，我们的征途是改变世界！ 👉 实战干货：编程严选网 0 前言 Axios ...

本文已收录在Github，关注我，紧跟本系列专栏文章，咱们下篇再续！ 🚀 魔都架构师 | 全网30W技术追随者 🔧 大厂分布式系统/数据中台实战专家 🏆 主导交易系统百万级流量调优 & 车联网平台架构 🧠 AIGC应用开发先行者 | 区块链落地实践者 🌍 以技术驱动创新，我们的征途是改变世界！ 👉 实战干货：编程严选网 利用 CodeBud ...

本文已收录在Github，关注我，紧跟本系列专栏文章，咱们下篇再续！ 🚀 魔都架构师 | 全网30W技术追随者 🔧 大厂分布式系统/数据中台实战专家 🏆 主导交易系统百万级流量调优 & 车联网平台架构 🧠 AIGC应用开发先行者 | 区块链落地实践者 🌍 以技术驱动创新，我们的征途是改变世界！ 👉 实战干货：编程严选网 从方法签名、 ...

AI大模型基本原理 什么是AI？ AI大模型能做什么 大模型现阶段落地情况综述 怎样寻找企业中大模型落地场景 大模型的通俗原理 大模型技术的短板 大模型应用技术架构 DeepSeek本地部署和应用     什么是 AI？   「AI is bullshit。深蓝没用任何 AI 算法，就是硬件穷举 ...

上次我们在Coze平台上成功搭建了一个针对金仓问题的解决助手。这个智能体的核心工作流程相对简单：每次它通过HTTP接口调用插件，在金仓平台内部进行搜索，随后利用大模型的推理能力对查询结果进行分析，从而为用户提供问题解答。然而，问题也随之而来——金仓内部的搜索功能存在一定的局限性。搜索出来的博文资料之间的关联 ...

目       录 1.     前言... 2 2.     模型和智能体配置... 3 3.     数据查询模型分析应用... 4 4.     数据报表模型分析应用... 6 5.     大模型应用参考资料... 7   1.  ...

这是 大模型评估排障指南 系列文章的第二篇，敬请关注系列文章: 关于推理 关于 \(\LaTeX\) 公式解析 关于可复现性 解析 LaTeX 很难。这个问题在评估输出为 \(\LaTeX\) 的模型时经常会遇到，例如 Hugging Face 的 数学评估基准。 这个基准使用 \(\LaTeX\) 来表示数学领域的计算和符号。评估难点在于对模型输出与标准答案的 ...

本文已收录在Github，关注我，紧跟本系列专栏文章，咱们下篇再续！ 🚀 魔都架构师 | 全网30W技术追随者 🔧 大厂分布式系统/数据中台实战专家 🏆 主导交易系统百万级流量调优 & 车联网平台架构 🧠 AIGC应用开发先行者 | 区块链落地实践者 🌍 以技术驱动创新，我们的征途是改变世界！ 👉 实战干货：编程严选网 1 添加依赖 1 ...

本文已收录在Github，关注我，紧跟本系列专栏文章，咱们下篇再续！ 🚀 魔都架构师 | 全网30W技术追随者 🔧 大厂分布式系统/数据中台实战专家 🏆 主导交易系统百万级流量调优 & 车联网平台架构 🧠 AIGC应用开发先行者 | 区块链落地实践者 🌍 以技术驱动创新，我们的征途是改变世界！ 👉 实战干货：编程严选网 0 高并发三板 ...