1、ImageNet Classification with Deep Convolutional Neural Networks,监督模式识别系统,图像特征特征的好坏是整个系统的性能瓶颈监督机器学习算法分类或者预测,图像特征,Feature Engineering （HOG,SIFT） 要求开发人员对要解决的问题有深入理解 取得好的效果往往要消耗开发团队大部分人力 Feature Learning 海量训练数据中学习有用特征 提升分类或预测性能Feature Engineering or Feature Learning?,Hierarchical Representations,监督机器学习,
2、数据训练样本集有m个已标注样本(x1,y1),(x2,y2),(xm,ym),xi是第i个训练样本的特征，yi是对应的期望值，作为监督信号。,监督机器学习,监督机器学习,不同学习方法之间的区别在于或者是模型不同，或者是代价函数不同，或者是优化方法不同。,BP神经网络模型,BP神经网络模型,前向传播,卷积神经网络,局部连接 区别于BP网络的全连接 权值参数大大减少权值共享 每个神经元都使用相同的权值参数（不同的滑窗位置使用相同的卷积核权值） 权值参数个数变为常数（卷积核的平方数），与神经元个数无关,卷积神经网络,特点1,卷积神经网络,特点2,卷积,池化（pooling）,Max pooling
3、Avg pooling,网络结构,网络结构,conv1阶段DFD（data flow diagram）：,网络结构,conv2阶段DFD（data flow diagram）：,网络结构,conv3阶段DFD（data flow diagram）：,网络结构,conv4阶段DFD（data flow diagram）：,网络结构,conv5阶段DFD（data flow diagram）：,网络结构,fc6阶段DFD（data flow diagram）：,网络结构,fc7阶段DFD（data flow diagram）：,网络结构,fc8阶段DFD（data flow diagram）：,网络学习,代价函数,优化方法mini-batch梯度下降,1表达式为真=1， 1表达式为假=0，最大化对应类别的概率,模型（假设函数）,网络学习,学习到的96个conv1卷积滤波器,
