上QQ阅读APP看书,第一时间看更新
7.4 反向传播算法实现及与TensorFlow的对比
得到前向传播结果以后,接着进行反向传播。
我们进行反向传播的时候对Sigmoid算法求导。神经网络实现前向传播的时候误差很大,这是正向的过程。然后进行反思调整,进行反向传播的过程,但是只实现一次反向传播的时候,发现效果并不是太好。这时要进行很多重复的过程,正如TensorFlow的可视化图所显示的一样。TensorFlow有很多时代的计算,一次时代就是把所有的数据、所有的动作基于数据整个运行一遍。在入口程序Neuron_Network_Entry.py中,写完ForwardPropagation.py、BackPropagation.py的代码以后,设置epoch=10 000。反向传播的运行结果如图7-8所示。
图7-8 反向传播的运行效果