东南大学崇志宏的这篇关于神经网络计算模型和BP 算法的,算是我最近看过最清晰的一份资料了,适合想打好基础的你。
神经网络的结构和计算过程讲得挺扎实,从基本的神经元、激活函数、层结构,一路铺开。你要是刚接触深度学习,这部分真的挺有用,能帮你把抽象的原理变成脑子里的图像。
BP 算法这块内容比较细,包括图上怎么反向传播、矩阵怎么表示,甚至还提到了 CNN、RNN、LSTM 里的变种,讲得全。你在用TensorFlow
的时候,再看看这个就明白为什么梯度要这么算了。
TensorFlow 的张量流模式也提到了——不是那种浅尝辄止的讲法,而是从图的结构、节点的数据流再到分布式训练,全链路打通。你要是准备写点分布式训练的小项目,这段值得多看几遍。
文末还有些参考资料,像是 BP 神经网络的Matlab
实现、隐层选择对结果的影响、甚至用遗传算法调网络参数。建议你有空一个个点开看看,实践结合理论,效果更好。
如果你正在啃 BP 算法、或者用TensorFlow
写网络模型,不妨拿这篇当“查漏补缺”的小本本,蛮有的。