als算法

ALS算法 ALS的意思是交替最小二乘法（Alternating Least Squares），它只是是一种优化算法的名字，被用在求解spark中所提供的推荐系统模型的最优解。spark中协同过滤的文档中一开始就说了，这是一个基于模型的协同过滤（model-based CF），其实它是一种近几年推荐系统界大火的隐语义模型中的一种。隐语义模型又叫潜在因素模型，它试图通过数量相对少的未被观察到的底层原因，来解释大量用户和产品之间可观察到的交互。操作起来就是通过降维的方法来补全用户-物品矩阵，对矩阵中没有出现的值进行估计。基于这种思想的早期推荐系统常用的一种方法是SVD（奇异值分解）。该方法在矩阵分解之前需要先把评分矩阵R缺失值补全，补全之后稀疏矩阵R表示成稠密矩阵R'，然后将R’分解成如下形式： 然后再选取U中的K列和V中的S行作为隐特征的个数，达到降维的目的。K的选取通常用启发式策略。 这种方法有两个缺点，第一是补全成稠密矩阵之后需要耗费巨大的存储空间，在实际中，用户对物品的行为信息何止千万，对这样的稠密矩阵的存储是不现实的；第二，SVD的计算复杂度很高，更不用说这样的大规模稠密矩阵了。所以关于SVD的研究很多都是在小数据集上进行的。 隐语义模型也是基于矩阵分解的，但是和SVD不同，它是把原始矩阵分解成两个矩阵相乘而不是三个。 现在的问题就变成了确定X和Y ，我们把X叫做用户因子矩阵

最近这两年推荐系统特别火，本文搜集整理了一些比较好的开源推荐系统，即有轻量级的适用于做研究的SVDFeature、LibMF、LibFM等，也有重量级的适用于工业系统的Mahout、Oryx、EasyRecd等，供大家参考。PS：这里的top 10仅代表个人观点。 #1.SVDFeature 主页： http://svdfeature.apexlab.org/wiki/Main_Page 语言：C++ 一个feature-based协同过滤和排序工具，由上海交大Apex实验室开发，代码质量较高。在KDD Cup 2012中获得第一名，KDD Cup 2011中获得第三名，相关论文发表在2012的JMLR中，这足以说明它的高大上。 SVDFeature包含一个很灵活的Matrix Factorization推荐框架，能方便的实现SVD、SVD++等方法, 是单模型推荐算法中精度最高的一种。SVDFeature代码精炼，可以用相对较少的内存实现较大规模的单机版矩阵分解运算。另外含有Logistic regression的model，可以很方便的用来进行ensemble。 #2.LibMF 主页： http://www.csie.ntu.edu.tw/~cjlin/libmf/ 语言：C++ 作者 Chih-Jen Lin 来自大名鼎鼎的台湾国立大学，他们在机器学习领域享有盛名

今天来使用spark中的ALS算法做一个小推荐。需要数据的话可以点击查看初识sparklyr—电影数据分析，在文末点击阅读原文即可获取。 其实在R中还有一个包可以做推荐，那就是recommenderlab。如果数据量不大的时候可以使用recommenderlab包，之前也用该包做过电影评分预测模型。如果数据量较大还是推荐使用spark来进行计算。 在spark中包含了许多机器学习算法，其中就有一个推荐算法，即ALS。 ALS算法也就是协同过滤算法，它是基于矩阵分解的协同过滤，何为矩阵分解？就是把一个评分矩阵A分解为两个矩阵B,C。B*C=A。为什么要进行分解？那是因为矩阵A是一个稀疏矩阵，分解之后的B,C矩阵相对能稠密一点。使用该算法可以很方便的做一个推荐系统，核心代码只有三行。 一.读取数据 数据可以在初识sparklyr—电影数据分析文末点击阅读原文即可获取。 moviedata<-read.table("u.data",header = FALSE,sep = "\t") 这四列数据分别表示：用户id，电影id，评分，时间戳 head(moviedata)# V1 V2 V3 V4 1 196 242 3 881250949 2 186 302 3 891717742 3 22 377 1 878887116 4 244 51 2 880606923 5 166 346 1