wziji/rec_blog

rec_blog

新的一年好好学习，准备run run run! 操蛋的经历！！！

汇总博客

一. 召回篇

1. 理论

1.1 FM

知乎张俊林推荐系统召回四模型之：全能的FM模型
知乎石塔西 FM：推荐算法中的瑞士军刀

1.2 FFM

知乎张俊林推荐系统召回四模型之二：沉重的FFM模型
美团技术团队深入FFM原理与实践

1.3 双塔模型

2. 实践

二. 粗排篇

1. 理论

2. 实践

三. 排序篇

1. 理论

2. 实践

四. 基础知识篇

0. 特征工程

知乎石塔西刀功：谈推荐系统特征工程中的几个高级技巧
- 统计类：用户 -> (对) 物料 -> (在) 时间 -> (进行) 动作 -> (的) 统计对象 -> 统计方法
- 排序特征：eg 小资文青喜欢的top10电影之一
- 交叉特征：文中提到了匹配度。加减乘除应该都算特征交叉，例如：
  - DIN里的相减、相乘，见 DeepCTR；
  - BERT里的三个向量相加，见为什么 Bert 的三个 Embedding 可以进行相加？
- id类特征是一等公民
- 连续值特征分桶（某du用到的特征全部进行分桶处理）
知乎砍手豪探讨特征工程的方法论
- 直呼文中提到的交叉特征，牛逼，看原文学习下吧 ~
知乎问题特征工程到底是什么？
公众号腾讯技术工程浅谈微视推荐系统中的特征工程
CSDN 京城王多鱼商品推荐-画像和统计类特征工程
美团技术团队 7次KDD Cup&Kaggle冠军的经验分享：从多领域优化到AutoML框架

1. 先验知识

知乎石塔西先入为主：将先验知识注入推荐模型

2. 蒸馏系列

知乎张俊林知识蒸馏在推荐系统的应用
公众号 Microstrong 深度学习中的知识蒸馏技术（上）
公众号 Microstrong 深度学习中的知识蒸馏技术(下)-知识蒸馏与推荐系统
公众号爱奇艺技术产品团队如何提升链路目标一致性？爱奇艺短视频推荐之粗排模型优化历程，另外还包括:
- 统计特征挖掘，其实挖掘逻辑上遵循石塔西的刀功：谈推荐系统特征工程中的几个高级技巧；
- 粗排样本调整：原来是线上真实点展样本。调整为在召回池中随机负采样，精排topk结果作为正样本。

3. 对比学习

4. 召回强负样本 & 采样策略

5. 冷启动

知乎石塔西初来乍到：帮助新用户冷启的算法技巧，核心问题：找到更多的信息
Airbnb ：Topk个相似房源的Embedding均值作为当前房屋的Embedding，衡量房源的相近程度可以采用位置、价格、房源类型等，且要求距离在10英里内。

6. 多目标

公众号浅梦学习笔记多任务学习在推荐算法中的应用
公众号阿里云云栖号多任务多目标 CTR 预估技术
知乎 Recommender 推荐系统中的多任务学习与多目标排序工程实践（上）
CSDN 文文学霸 [腾讯]RecSys2020最佳长论文-多任务学习模型PLE
- 另外文中有共享网络、Asymmetry Sharing、Customized Sharing、MMOE等网络结构的介绍
- 代码可参考：deepctr_models_multitask_ple.py

7. NLP方向

CSDN 废柴当自强一文读懂BERT(原理篇)
CSDN 京城王多鱼 ERNIE模型系列