深度学习在搜索业务中的探索与实践
利用累积分布进行归一化:
累积分布进行特征归一化?
最近看谷歌的两篇关于使用DNN进行推荐的文章,文章中都提到使用累积分布进行特征归一化。
两篇文章分别是
Wide & Deep Learning for Recommender Systems https://arxiv.org/pdf/1606.07792.pdf
Deep Neural Networks for YouTube Recommendations
我理解使用累积分布归一化是:先将feature遍历,然后进行等频划分桶,再统计每个桶内的占比为概率。例如feature的范围为(0, 50),划分5个桶,每个桶内的落入的样本为[10, 4, 2, 5, 4],那么占比为[0.4,0.16,0.08,0.2,0.16],如果一个feature落入第二个桶,那么归一化结果为0.4+0.16=0.56. 这是我的理解不知道对不对?对这个我有一些疑问,比如桶的个数怎么设置?在线上预测的时候,可能随着时间累积,一些特征的范围会发生变化,比如一开始是[0,10],实际可能为[0, 15],线上预测怎么处理呢?