项目

一般

简介

CNN

CNN Overviw

  • Tool: Matlab
  • Samples: mnist_uint8(手写字体库)
  • CNN的最大特点就是 稀疏连接(局部感受)和权值共享 ,如下面两图所示,左为稀疏连接,右为权值共享。稀疏连接和权值共享可以减少所要训练的参数,减少计算复杂度。

  • CNN的结构,以经典的LeNet5:

  • 关于卷积和子采样的具体过程可以参考下图:

Running Result

1.改变batchsize(每次挑出一个batchsize的batch来训练,也就是每用batchsize个样本就调整一次权值,而不是把所有样本都输入了,计算所有样本的误差了才调整一次权值)

2.改变学习率

3.改变训练次数(用同一批样本训练)

4.训练20epoch所用的时间分配

5.讲参数强化,随训练次数增多 error趋近于稳定。

data20_2.png 查看 (73.3 KB) 涂 正中, 2015-05-05 16:50

data_minerror.png 查看 (46.7 KB) 涂 正中, 2015-05-05 16:50

CNN_chang_alpnha1.png 查看 (27.7 KB) 涂 正中, 2015-05-05 16:50

CNN_chang_batchsize.png 查看 (31.4 KB) 涂 正中, 2015-05-05 16:50

CNN_chang_epoch.png 查看 (40 KB) 涂 正中, 2015-05-05 16:50

data5_2.png 查看 (55.5 KB) 涂 正中, 2015-05-05 16:50

data20_1.png 查看 (59.1 KB) 涂 正中, 2015-05-05 16:50

cnn_tutorial.pdf (140 KB) 涂 正中, 2015-05-05 17:04

data20_2.png 查看 (73.3 KB) 涂 正中, 2015-05-05 17:04

cnn.png 查看 (112 KB) 涂 正中, 2015-05-05 17:12

CNN_f.png 查看 (11.7 KB) 涂 正中, 2015-05-05 17:16

cnn_g.png 查看 (25.2 KB) 涂 正中, 2015-05-05 17:18

cnn_f1.png 查看 (17.4 KB) 涂 正中, 2015-05-05 17:19