相似矩阵

graph Laplacian 拉普拉斯矩阵

主宰稳场 提交于 2019-11-29 20:48:23
graph Laplacian 拉普拉斯矩阵 拉普拉斯矩阵是个非常巧妙的东西,它是描述图的一种矩阵,在降维,分类,聚类等 机器学习 的领域有很广泛的应用。 什么是拉普拉斯矩阵 拉普拉斯矩阵   先说一下什么是拉普拉斯矩阵,英文名为Laplacian matrix,其具体形式得先从图说起,假设有个无向图如下所示,      其各个点之间的都有相应的边连接,我们用某个指标(这地方可以任意选择,比如欧氏距离、测地距离、或者高斯相似度等)来衡量两个点的相似度,表示为,没有边连接的其相似度自然为零,是个对称矩阵;某个点的与所有点的相似度之和,表示为;是个对角阵;我们的拉普拉斯矩阵则是 拉普拉斯矩阵的性质   性质:   (1)是半正定矩阵。   (2)的最小特值为0,对应特向为全1列向量。   (3)对有个非负实特征值,.   (4)对于任意一个属于实向量,都有此公式成立:      它又有什么用处呢?跟目标是有关系的,哈哈~   证明如下:  为的实数列向量            因为所以               拉普拉斯特征映射   拉普拉斯特征映射将处于流形上的数据,在尽量保留原数据间相似度的情况下,映射到低维下表示。   其步骤如下:   1. 构造近邻图(用近邻图图近似流形)     1.1 近邻条件, 表示第个样本。     1.2 K近邻   2. 计算边权重

理解相似矩阵

好久不见. 提交于 2019-11-28 20:21:39
相似矩阵(similar matrices) 定义 设 \(A,B\) 都是 \(n\) 阶矩阵,若有可逆矩阵 \(P\) ,使得 \(P^{-1}AP=B\) ,则称 \(B\) 是 \(A\) 的相似矩阵。 两个相似矩阵的特征值相同,也就是说如果一个矩阵和一个对角矩阵 \(\Lambda\) \[ \left[\begin{array}{ccccc}{\lambda_{1}} & {} & {} & {} & {} \\ {} & {} & {\lambda_{2}} & {} & {} \\ {} & {} & {} & {} & {} \\ {} & {} & {} & {\ddots} & {} \\ {} & {} & {} & {} & {\lambda_{n}}\end{array}\right]\] 相似,则 \(\lambda_{1},\lambda_{2},...,\lambda_{n}\) 时 \(A\) 的n个特征值。 理解相似矩阵 相似矩阵的本质就是说通过相似变换能够把在不同基下的元素还原到另一个基空间下。还是很混乱是不是,没关系我们看下面的例子就很好理解了: 如下图示有两个不同的基空间,左边是由 \(\overrightarrow{i_{1}},\overrightarrow{j_{1}}\) 定义的空间,右边是由 \(\overrightarrow

推荐算法-余弦相似度

邮差的信 提交于 2019-11-28 11:28:00
/*--> */ /*--> */ 一、余弦相似度: 余弦值越接近1,就表明夹角越接近0度,也就是两个向量越相似,这就叫"余弦相似性" 二维向量的余弦相似度: 多维向量的余弦相似度(类比) /*--> */ /*--> */ 协同过滤(Collaborative Filtering , 简称 CF ): 收集用户行为 减噪与归一化处理 减噪:用户行为数据是用户在使用应用过程中产生的,它可能存在大量的噪音和用户的误操作,我们可以通过经典的数据挖掘算法过滤掉行为数据中的噪音,这样可以是我们的分析更加精确 归一化:将各个行为的数据统一在一个相同的取值范围中,从而使得加权求和得到的总体喜好更加精确。 二、基于物品的协同过滤推荐算法(itemCF): 算法思想:给用户推荐那些和他们之前喜欢的物品相似的物品 用户行为与权重:点击 -1、搜索 -3、收藏 -5 、付款 -10 用户 A 、B 、C 商品 1 、2 、3 、4 、5 、6 根据用户行为列表计算用户、物品的评分矩阵 根据用户、物品的评分矩阵计算物品、物品的相似矩阵 相似度矩阵x评分矩阵=推荐列表 推荐列表中用户之前已经有过行为的元素置为0 /*--> */ /*--> */ 三、基于用户的协同过滤推荐算法( UserCF) 算法思想:给用户推荐和他兴趣相似的其他用户喜欢的物品 用户行为与权重:点击 -1、搜索 -3、收藏 -5