Back Propagation and Gradient Calculation in Deep Learning

前言 这篇博客的初心 : 最近读的论文又用到LSTM了,发现对这些深度学习模型我还是只了解皮毛(前向传播),不了解其底层原理(如参数的更新),而我从接触深度学习开始就对反向传播充满了好奇,感觉这是个很难理解的事情。所以建立这篇博客慢慢从矩阵求导开始,慢慢推导所有深度学习模型的底层原理,从而加深自己的理解。 这篇博客内容 : 包括部分深度学习所需数学知识,以及各种深度学习模型(DNN,RNN等)的原理推导。 [Read More]

A News Recommendation Model-Deep Knowledge-Aware Network

1 背景 目前的众多推荐算法不能很好的用到新闻中潜在的语义信息 新闻推荐有很高的时间敏感性,新旧更替很频繁,使传统的以ID为基础的协同过滤效果降低 根据用户的历史浏览信息来动态衡量候选项目是解决新闻推荐的关键因素 传统的语义模型/主题模型都是基于词的共现/词簇结构,不能很好地发现潜在的知识 [Read More]