Deep Learning 杂文推荐

为了应付期末考试开始看PPT,然后发现因为自己基础太差,好多东西都看不懂。因为懒并且我自己也不做这个方向(主要是因为懒),就不自己写文章总结了。把看到的觉得有用的文章贴在这里。大部分比较偏基础,包括一些老师上课可能会略过但对理解又确实有帮助的内容。初学者看经典教材看不懂,或者是单纯想要补一补基础的,可以来这里看看有没有用得上的文章。

矩阵求导术(上):提供了一种方便的标量对矩阵求导的方法,对反向传播的推导很有帮助。

矩阵求导术(下):讲矩阵对矩阵求导。感觉没有上一篇那么常用。

剖析深度學習 (2):你知道Cross Entropy和KL Divergence代表什麼意義嗎?談機器學習裡的資訊理論:从信息论的角度讲解 Cross Entropy 和 KL Divergence 的意义,为什么要把熵作为损失函数的一部分。

发表评论