推荐系统概况:传统CTR、深度学习CTR、Graph Embedding、多任务学习
包括:思想、优缺点、网络结构、公式、代码实现等方面
传统CTR
深度学习CTR
Graph Embedding
多任务学习
总结一下推荐系统使用的技术:
- Embedding 把稀疏特征稠密化,从而可以让下层网络融合更多的特征
- Matrix Factorization 通过矩阵分解技术加入隐向量,从而提高向量的表达能力
- Factoriation Machine 通过隐向量特征的交叉从而提高泛化能力
- Multilayer Perceptrons 通过多层感知机,加入类似Attention、GRU、向量操作(拼接、内积、外积)、向量交叉等各种技术提高模型的泛化、记忆能力
回头再看看推荐系统的发展历程:
- 从CF到MF
- 然后发展到FM、FFM
- 接着发展到MLP、Graph Embedding
- 然后多目学习
当然,这里面可能有些是交替发展的。
我觉得推动推荐系统发展因素有:
- 日益规模庞大的电商类等系统带来的数据量爆发式增长,大数据技术的使用
- 微博、新闻、短视频等传播类爆发式增长,产品的个性化强、兴趣变换快
- 硬件技术GPU、TPU带来计算能力加强
- 业务需求越来越复杂,评价要求增多:CTR、CVR、阅读时长、多样性、惊喜度...
- 借鉴CV、NLP领域发展的部分技术成果, 例如:Word2vec, CNN、GRU、Attention、 Graph Embedding
- 无数学术界研究者的刻苦钻研,工业界工程师的对推荐系统的算法创新和实践
参考
- 《深度学习推荐系统》王喆
- 各个算法的论文
来源:oschina
链接:https://my.oschina.net/u/270991/blog/4441890