机器学习空间匹配（空间匹配算法）

机器学习中样本空间与假设空间有什么区别

样本空间是所有样本的特征向量所构成的空间，而假设空间是所有的学得模型组成的空间。

”记住“训练样本，就是所谓的”机械学习“。 但是，对没见过的瓜，例如（色泽=浅白）^（根蒂=蜷缩）^（敲声=浊响）怎么办？我们可以把学习过程看作一个在所有 假设（hypothesis） 组成的空间中进行搜索的过程，搜索目标是找到与训练集 ”匹配“（fit） 的假设，即能够将训练集中的瓜判断正确的假设。

机器学习中的算法是指模型的具体计算方法。它基于训练数据集，根据学习策略，从假设空间中选择最优模型，最后考虑用什么样的计算方法去求解这个最优模型。在机器学习界流行的一句话：数据和特征决定了机器学习算法的上界，而模型和算法只是逼近这个上界而已。

机器学习中，计算两个样本点之间的距离有多种不同的距离衡量方法，其中最常见的就是采用物理几何空间距离进行衡量。所谓物理几何空间距离就是点到点之间在物理空间中的真实距离。通俗地说，这类距离看得见、摸得着。

其实，更复杂的观点是将复杂性等同于假设空间的大小，因为较小的空间允许假设由较短的符号表示。像上面有理论保证的那部分界限就可以被认为是在暗示更短的假设能更好地概括。这可以通过给空间中的假设分配更短的符号来进一步论证，这些空间我们是有先验偏好的。

无限假设空间的学习通过VC维（Vapnik-Chervonenkis dimension）进行度量。VC维是衡量空间能打散最大样本集大小的指标，它与增长函数紧密相关，通过证明给出了与样本量的关系。

机器学习算法中的SVM和聚类算法

提道机器学习算法就不得不说一说SVM，这种算法就是支持向量机，而支持向量机算法是诞生于统计学习界，这也是机器学习中的经典算法，而支持向量机算法从某种意义上来说是逻辑回归算法的强化，这就是通过给予逻辑回归算法更严格的优化条件，支持向量机算法可以获得比逻辑回归更好的分类界线。

该算法是最简单和最常用的机器学习算法之一。逻辑回归逻辑回归算法基于一个概率模型，用于预测给定数据集的类别。该算法通过计算每个类别的概率，并将概率最高的类别作为预测结果。支持向量机（SVM）支持向量机算法是一种分类器，它试图在不同的类别之间找到最优的决策边界。

支持向量机： SVM是二元分类算法。给定N维空间中两种种类型的点，SVM生成（N-1）维的超平面将这些点分成2组。假设你有一些可以线性分离的纸张中的两种类型的点。SVM将找到一条直线，将这些点分成两种类型，并尽可能远离所有这些点。

SVM是二元分类算法。给定一组2种类型的N维的地方点，SVM产生一个（N - 1）维超平面到这些点分成2组。假设你有2种类型的点，且它们是线性可分的。 SVM将找到一条直线将这些点分成2种类型，并且这条直线会尽可能地远离所有的点。

SVM是指支持向量机（Support Vector Machines）算法。SVM是一种在机器学习领域广泛使用的分类算法。SVM是在有监督学习下，从一系列带标签的训练样本中训练出分类模型，在此基础上预测新样本的分类。SVM通过寻找训练样本中最优的分割超平面来实现分类任务。

Python中的数据科学库实现K均值聚类 - SciPy，Sci-Kit学习，Python包装 数据科学库中的R实现K均值聚类 - 统计 3 支持向量机学习算法 支持向量机是一种分类或回归问题的监督机器学习算法，其中数据集教导关于类的SVM，以便SVM可以对任何新数据进行分类。

机器学习里的kernel是指什么?

Kernel 操作系统内核 操作系统内核是指大多数操作系统的核心部分。它由操作系统中用于管理存储器、文件、外设和系统资源的那些部分组成。操作系统内核通常运行进程，并提供进程间的通信。 下面列出了它的一些核心功能：事件的调度和同步。进程间的通信（消息传递）。存储器管理。进程管理。 输入输出例程的管理。

核函数。核函数包括线性核函数、多项式核函数、高斯核函数等，其中高斯核函数最常用，可以将数据映射到无穷维，也叫做径向基函数（Radial Basis Function 简称 RBF），是某种沿径向对称的标量函数。

Kernel就是将向量feature转换与点积运算合并后的运算，注意：不是所有的feature转换函数都有kernel的特性。

什么是机器学习

1、机器学习是一门人工智能的科学，该领域的主要研究对象是人工智能，特别是如何在经验学习中改善具体算法的性能。（2） 机器学习是对能通过经验自动改进的计算机算法的研究。（3） 机器学习是用数据或以往的经验，以此优化计算机程序的性能标准。

2、机器学习通过从数据里提取规则或模式来把数据转换成信息。主要的方法有归纳学习法和分析学习法。数据首先被预处理，形成特征，然后根据特征创建某种模型。机器学习算法分析收集到的数据，分配权重、阈值和其他参数达到学习目的。

3、机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学习是专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能核心，是使计算机具有智能的根本途径。

4、顾名思义， 机器学习是研究如何使用机器来模拟人类学习活动的一门学科。稍为严格的提法是：机器学习是一门研究机器获取新知识和新技能，并识别现有知识的学问。这里所说的“机器”，指的就是计算机；现在是电子计算机，以后还可能是中子计算机、光子计算机或神经计算机等等。