更改

2018012394——雷梓阳

添加1,128字节2019年7月7日 (日) 23:31
--sess开始之后才可以开始喂数据
--在图上,由后向前查找相关结点求导插入并更新计算图
 
'''实验日志7/7'''
*softmax function,交叉熵cross entropy,权重是分层的,右上标括号内数字表示层数。
 
*BP算法机智地避开了这种冗余,它对于每一个路径只访问一次就能求顶点对所有下层节点的偏导值。
从最上层的节点e开始,初始值为1,以层为单位进行处理。对于e的下一层的所有子节点,将1乘以e到某个节点路径上的偏导值,并将结果“堆放”在该子节点中。等e所在的层按照这样传播完毕后,第二层的每一个节点都“堆放”些值,然后我们针对每个节点,把它里面所有“堆放”的值求和,就得到了顶点e对该节点的偏导。然后将这些第二层的节点各自作为起始顶点,初始值设为顶点e对它们的偏导值,以”层”为单位重复上述传播过程,即可求出顶点e对每一层节点的偏导数。
 
*CNN卷积神经网络,RNN循环神经网络。
CNN主要应用于图像领域,RNN主要应用于语音识别,NLP。
Dense(全连接网络)&CNN(松散连接网络,和大脑中的神经连接模式更加类似)
16
个编辑