dbscan

一、无监督学习基础知识 利用无标签的数据学习数据的分布或数据与数据之间的关系被称作无监督学习 有监督学习和无监督学习的最大区别在于 数据是否有标签 无监督学习最常应用的场景是 聚类（Clustering） 和 降维（Dimension Reduction） 二、聚类 聚类是根据数据的“相似性”将数据分为多类的过程。评估两个不同样本之间的“相似性”，通常使用的方法就是计算两个样本之间的“距离”。使用不同的方法计算样本间的距离会关系到聚类结果的好坏 1、欧氏距离 欧氏距离是最常用的一种距离度量方法，源于欧式空间中两点的距离 2、曼哈顿距离 曼哈顿距离也称作“城市街区距离”，类似于在城市之中驾车行驶，从一个十字路口到另一个十字路口的距离 3、马氏距离 马氏距离表示数据的协方差距离，是一种尺度无关的度量方式。马氏距离会先将样本点的各个属性标准化，再计算样本间的距离 4、夹角余弦 余弦相似度用向量空间中两个向量夹角的余弦值作为衡量两个样本差异的大小。余弦值越接近于1，说明两个向量夹角越接近0度，表明两个向量越相似 5、sklearn库 scikit-learn库（简称sklearn库）提供的常用聚类算法函数包含在sklearn.cluster这个模块中，如：k-means，近邻传播算法，DBSCAN等。以同样的数据集应用于不同的算法，可能会得到不同的结果，算法所耗费的时间也不尽相同

有监督学习主要用于分类和回归,而无监督学习的一个非常重要的用途就是对数据进行聚类. 分类是算法基于已有标签的数据进行学习并对新数据进行分类. 聚类则是在完全没有现有标签的情况下,有算法"猜测"哪些数据像是应该"堆"在一起的,并且让算法给不同的"堆"里的数据贴上一个数字标签. 1.K均值聚类算法 ############################# K均值聚类算法 ####################################### #导入numpy import numpy as np #导入数据集生成工具 from sklearn.datasets import make_blobs #导入数据集拆分工具 from sklearn.model_selection import train_test_split #导入画图工具 import matplotlib.pyplot as plt #生成数据集为1的数据集 blobs = make_blobs(random_state=1,centers=1) X_blobs = blobs[0] #绘制散点图 plt.scatter(X_blobs[:,0],X_blobs[:,1],c='r',edgecolor='k') #显示图像 plt.show() #导入KMeans工具 from sklearn

转载自： https://www.cnblogs.com/pinard/p/6208966.html http://www.cnblogs.com/pinard/p/6217852.html https://blog.csdn.net/zhouxianen1987/article/details/68945844 原理+实践 原理 DBSCAN(Density-Based Spatial Clustering of Applications with Noise，具有噪声的基于密度的聚类方法)是一种很典型的密度聚类算法，和K-Means，BIRCH这些一般只适用于 凸样本集 的聚类相比，DBSCAN既可以适用于凸样本集，也可以适用于非凸样本集。 DBSCAN是一种基于密度的聚类算法，这类密度聚类算法一般假定类别可以通过样本分布的紧密程度决定。同一类别的样本，他们之间的紧密相连的，也就是说，在该类别任意样本周围不远处一定有同类别的样本存在。通过将紧密相连的样本划为一类，这样就得到了一个聚类类别。通过将所有各组紧密相连的样本划为各个不同的类别，则我们就得到了最终的所有聚类类别结果。 流程 输入：数据集D 给定点在邻域内成为核心对象的最小邻域点数：MinPts 邻域半径：Eps 输出：簇集合 计算过程： （1）DBSCAN通过检查数据集中每点的Eps邻域来搜索簇

1. 密度聚类概念 DBSCAN(Density-Based Spatial Clustering of Applications with Noise，具有噪声的基于密度的聚类方法)是一种很典型的密度聚类算法，和K-Means，BIRCH这些一般只适用于凸样本集的聚类相比，DBSCAN既可以适用于凸样本集，也可以适用于非凸样本集。 2. 密度聚类步骤 DBSCAN算法描述: 输入: 包含n个对象的数据库，半径e，最少数目MinPts; 输出:所有生成的簇，达到密度要求。 (1)Repeat (2)从数据库中抽出一个未处理的点； (3)IF抽出的点是核心点 THEN 找出所有从该点密度可达的对象，形成一个簇； (4)ELSE 抽出的点是边缘点(非核心对象)，跳出本次循环，寻找下一个点； (5)UNTIL 所有的点都被处理。 DBSCAN对用户定义的参数很敏感，细微的不同都可能导致差别很大的结果，而参数的选择无规律可循，只能靠经验确定。 这个算法的关键是理解几个概念： 直接密度可达 密度可达 核心点 边界点 噪声点 理解这些概念的一个资料： ppt 3. python实现 思路：首先找出所有核心点，核心点就是那些在半径e以内的邻域中有>=MinPts个点的点。注意：核心点以内的所有点都与核心点为同一类! 所以如果某两类点集中有一个点为重复，那他们应该合并为一类！举例：类别1：[1,2

聚类DBSCAN 原理 𝛆邻域 ：给定对象半径𝜀内的区域称为该对象的𝜀邻域。 核心对象 ：如果给定 𝜀 邻域内的样本点数大于等于Minpoints，则该对象为核心对象。 直接密度可达 ：给定一个对象集合D，如果p在q的𝜀邻域内，且q是一个核心对象，则我们说对象p从q触发是直接密度可达的(directly density-reachable)。 密度可达 ：集合D，存在一个对象链p1,p2…pn,p1=q,pn=p,pi+1是从pi关于𝜀和Minpoints直接密度可达，则称点p是从q关于𝜀和Minpoints密度可达的。 密度相连 ：集合D存在点o，使得点p、q是从o关于𝜀和Minpoints密度可达的，那么点p、q是关于𝜀和Minpoints密度相连的。 DBSCAN算法思想 1.指定合适的𝜀和Minpoints。 2.计算所有的样本点，如果点p的𝜀邻域里有超过Minpoints个点，则创建一个以p为核心点的新族。 3.反复寻找这些核心点直接密度可达（之后可能是密度可达）的点，将其加入到相应的簇，对于核心点发生“密度相连”状况的簇，给予合并。 4.当没有新的点可以被添加到任何簇时，算法结束。 缺点 ： • 当数据量增大时，要求较大的内存支持I/O消耗也很大。 • 当空间聚类的密度不均匀、聚类间距差相差很大时，聚类质量较差。 DBSCAN和K-MEANS比较 ： •