机器学习基本理论
目录机器学习基本理论机器学习三要素机器学习方法分类建模流程特征工程什么是特征工程特征工程有什么特征选择特征转换特征构造特征降维常用方法模型评估和模型选择损失函数经验误差欠拟合和过拟合正则化交叉验证模型求解算法解析法梯度下降法牛顿法和拟牛顿法模型评价指标回归模型评价指标分类模型评价指标
机器学习基本理 ...
NVIDIA Kernel级性能分析工具Nsight Compute入门详解
1 功能初体验
1.1 分析实例
仍以之前的vectorAdd程序为分析目标,在新建的工程中只指定编译好的可执行文件及其输出report文件,其他部分都保持默认,然后直接点击“Launch”进行分析。
图1 Launch界面
运行完毕后生成如下分析结果:
先整体介绍下report结果:
1. 基础信息(顶部栏)
首先是内核名称:vectorAdd,向量加法 ...
彩笔运维勇闯机器学习--逻辑回归
前言
从本节开始,我们的机器学习之旅进入了下一个篇章。之前讨论的是回归算法,回归算法主要用于预测数据。而本节讨论的是分类问题,简而言之就是按照规则将数据分类
而要讨论的逻辑回归,虽然名字叫做回归,它要解决的是分类问题
开始探索
scikit-learn
还是老规矩,先来个例子,再讨论原理
假设以下场景:一位老哥想要测 ...
基于深度学习的石头剪刀布手势识别系统演示与介绍(YOLOv12/v11/v8/v5模型+Pyqt5界面+训练代码+数据集)
视频演示
基于深度学习的石头剪刀布手势识别系统演示与介绍_哔哩哔哩_bilibili
1.前言
随着人机交互技术的快速发展和智能设备的广泛应用,自然、直观的手势交互已成为提升用户体验的重要方向。石头剪刀布作为一种经典的手势游戏,其识别任务融合了计算机视觉 ...
彩笔运维勇闯机器学习--拟合
前言
今天我们来讨论拟合的问题
在之前的篇幅,主要讨论的是线性回归的问题,不管是一元、多元、多项式,本质都是线性回归问题。线性回归在机器学习中属于“监督学习”,也就是使用已有的、预定义的“训练数据”集合,训练系统,在解释未知数据时,也能够很好的解释
而模型训练完成之后,可能会有3中状态:“欠拟合”、“最 ...
彩笔运维勇闯机器学习:多项式回归
前言
在之前的讨论中,讨论的都是线性回归,自变量与结果可以通过一条直线来解释。而今天讨论的问题,自变量与结果可能需要曲线来拟合,也就是所谓的 \(x^n\),n>=2
开始探索
老规矩,先运行起来,再探索原理
1. scikit-learn
import numpy as np
from sklearn.preprocessing import PolynomialFeatures
from sklearn.linea ...
彩笔运维勇闯机器学习--最小二乘法的数学推导
前言
今天我们来讨论一下回归算法当中的数学实现。本人数学也是渣,大学时期概率论一直挂到清考才勉强通过,+_+ !!,如今勇闯机器学习,硬着头皮重新学习了微积分和线代,也是为了记录自己最近的状态,避免过段时间忘记了。描述的时候有不周全的地方,请各位大佬们多担待了
本节将会运用一些数学知识来解释一下相关的回归算 ...
彩笔运维勇闯机器学习--多元线性回归(实战)
前言
书接上文,上一小节简单介绍了多元回归的基本原理、使用方式,本小节来实践:qps与cpu、内存、磁盘io、网络io之间的关系
获取数据
参考一元线性回归的获取方式
from flow import *
from datetime import datetime
start_time = datetime.strptime('2025-04-06 00:00:00', '%Y-%m-%d %H:%M:%S').timestamp()
end_time ...
彩笔运维勇闯机器学习--多元线性回归
前言
之前讨论了一元线性回归,主要是qps与cpu的关系,但是现实中cpu只是系统指标的一部分,还有内存、io、网络等等,本小节就来讨论一下,通过多个系统参数对于qps的影响
算法
多元线性回归,就是讨论多个自变量对结果造成的影响
开始探索
老规矩,先来看一看怎么快速使用多元线性回归
1. scikit-learn包的使用
先不管什么 ...
彩笔运维勇闯机器学习--cpu与qps的线性关系
前言
书接上文,上一小节简单介绍了一元回归的基本原理、使用方式,作为运维,实践才是最重要的,那本小节就来实践一下我们之前的话题:探索cpu与qps的关系
获取数据
1. cpu数据
由于我的监控数据在阿里云的prometheus上面,并且阿里云也提供了一种查询方式,通过本地搭建的prometheus的remote_read功能,读取远端阿里云的 ...
彩笔运维勇闯机器学习--一元线性回归
前言
在运维职业生涯中,qps是一个绕不开的话题,leader经常在问,我们的qps是多少,系统能不能抗住啊???老板在问,我们的qps是多少,有没有降本的空间啊???面试的时候,面试官问,你们的qps是多少啊。。。。
如果我能预测qps与系统压力之间的关系,那一定很不错吧?关于leader,我们的qps是100w,系统完全能够扛得住 ...
学习理论:代理损失函数的泛化界与Rademacher复杂度
3月份以来的科研基本围绕推导代理损失函数的一致界展开,证明现已基本完工(关于代理损失函数的一致界的介绍可参见之前的博客《学习理论:预测器-拒绝器多分类弃权学习》)。导师建议我可以的话把泛化界也一起证了╰( ̄▽ ̄)╭。由于认识有搞过泛化的朋友,许多东西尽管没有亲自上手做但早已“耳濡目染”了,比如集中不等式 ...
读心与芯:我们与机器人的无限未来09读后总结与感想兼导读
1. 基本信息
心与芯:我们与机器人的无限未来
[美]丹妮拉·鲁斯;[美]格雷戈里·莫内 著
中信出版社,2025年03月出版
1.1. 读薄率
书籍总字数187千字,笔记总字数25497字。
读薄率25497÷187000≈13.63%
1.2. 读厚方向
DataMesh权威指南
数据的边界:隐私与个人数据保护
Julia数据科学应用
ML ...
读心与芯:我们与机器人的无限未来08计算思维
1. 计算思维
1.1. 计算教育传授的是解决复杂问题的方法,比如怎样建造自动驾驶汽车或吸尘机器人
1.2. 机器智能之所以能实现曾经异想天开的事,是因为人类在项目中倾注了热情和心血,以及强大的推理能力
1.2.1. 人类为芯片赋能
1.3. 教孩子编程可以激发他们的创造力,培养其解决问题的能力,但 ...
读心与芯:我们与机器人的无限未来07机器人的风险
1. 机器人的风险与容错机制
1.1. 白帽黑客
1.1.1. 发现网络安全漏洞的专家,帮助制造商和供应商修复缺陷并提高防御能力
1.2. 随着更先进的汽车和半自动驾驶汽车以及各种机器人的普及,一些风险也会出现
1.2.1. 计算机遭受的网络攻击,机器人也容易遭受,甚至会遭受得更多,因为它们在物理世 ...
通过Python交互式控制台理解Conv1d
以前在语音合成项目第一次接触PyTorch中的Conv1d函数时,作为一个初学者,我对它的参数和工作机制感到很困惑。
原本以为既然是1维卷积,那输入输出应该都是简单的1维张量。然而实际上,输入必须是一个3维张量,这让我颇感意外。
后来因为工作缘故,我有一段时间没接触深度学习了。后来再次遇到Conv1d函数时,我又陷入了同样 ...
读心与芯:我们与机器人的无限未来06问题或方案
1. 机器人可以是问题本身,也可以是解决方案
1.1. 新冠疫情
1.1.1. 分子生物学、医学、流行病学、公共卫生、设计、制造、供应链物流、金融等诸多领域在研发、批准以及向公众分发疫苗方面发挥了作用
1.1.2. 公共卫生领导人、政策制定者和监管机构确保了科学观点的有效运用,以及疫苗分配的公平公正 ...
读心与芯:我们与机器人的无限未来05未来之路
1. 概念
1.1. 利用数据确定模式,描述数据集的某些属性,基于过去的经历判断未来可能发生什么,或基于当前发生的事情判断后果或反应
1.2. 机器学习(machine learning)是人工智能的一个子集,它不需要显式编程,为系统提供自动学习和根据经验改进的能力
1.2.1. 机器学习算法基于样本数据(又称训 ...
读心与芯:我们与机器人的无限未来04机器人学习
1. 触觉中的大脑
1.1. 自主或灵巧操作
1.1.1. 机器人必须能安全有效地与世界中的人和物玩耍、工作,只有这样,它才可以走出工厂的牢笼,发挥其潜力
1.2. 从工程学和编程的角度看,建造飞往火星的机器人比建造可以清理餐桌的机器人容易
1.2.1. 自动驾驶汽车或在火星上空巡航的机器人运行于自 ...
读心与芯:我们与机器人的无限未来03机器人建造
1. 机器人的建造
1.1. 鱼形机器人、药丸机器人、汽车机器人和蟑螂机器人,它们有一些共同的基本特征
1.1.1. 机器人的身体都有传感器,可以像人类的眼睛、耳朵和皮肤一样收集来自世界的输入,这个身体需要一种发起行动的方法
1.1.2. 它要能自主移动
1.1.3. 如果处于静止状态,要能移动别的 ...