网刊加载中。。。

使用Chrome浏览器效果最佳,继续浏览,你可能不会看到最佳的展示效果,

确定继续浏览么?

复制成功,请在其他浏览器进行阅读

城市河网的低空遥感影像全卷积神经网络 水质等级分类  PDF

  • 刘春 1
  • 杨怿 2
  • 周源 3
  • 周骁腾 1,3
1.同济大学 测绘与地理信息学院, 上海 200092; 2.北京大学 大数据科学研究中心, 北京 100871; 3.上海同繁勘测工程科技有限公司, 上海 200092

中图分类号: TP391.41

最近更新:2020-03-27

DOI:10.11908/j.issn.0253-374x.19040

  • 全文
  • 图表
  • 参考文献
  • 作者
  • 出版信息
目录contents

摘要

提出一种基于深度学习的图像像素级标注算法。通过数据预处理、数据集建立、全卷积神经网络设计和训练流程,实现水体的水质等级分类及像素级标注。使用上海市嘉定区某区域和上海市宝山区杨行镇某区域的无人机低空遥感影像对该算法进行了验证,平均水质等级分类精度分别达到了87.96%和77.57%。

城市河网水质是城市生态环境的重要评价指标之一,也直接影响着城市民生和经济发展等诸多方面,因此快速和高效的水质监测技术在水环境的保护中起着重要作用。上海市计划至2020年基本消灭劣五类水体,进而整治四类、五类水体,以不断改善城市水环境。截至目前,主要依靠人力摸排和水文站定点监测的方法对河流污染情况进行排[

1],但这些方法耗费较多的人力和物力,而且时空分辨率较低,难以满足水环境动态监测的需[2]

遥感技术的发展为快速、动态、全覆盖的水质监测提供了很好的技术手段。相对于内陆河流水体,海洋和大型湖泊水体更容易被遥感手段观测。随着各国环境监测卫星的不断研发和投入使用,针对海洋和大型湖泊的遥感水质监测技术体系已较为成熟。Mohdhasmadi[

3]建立了法国地球观测系统(SPOT)卫星的近红外波段反射率与水质浊度的关系;Hellweger[4]发现美国陆地卫星专题制图仪(Landsat TM)的绿色和红色波段的比值与水体中叶绿素A的含量成强线性相关,并实验验证了反演可行性;Tehrani[5]利用美国海洋水色卫星的宽视场水色扫描仪(SeaWiFS)、 美国中分辨率成像光谱仪(MODIS)和欧空局ENVISAT卫星的中等分辨率成像频谱仪(MERIS)的若干波段组合反演了有色溶解有机物和溶解有机碳浓度。以上研究主要采用线性模型进行回归反演,计算简单,对数据依赖小,但模型的物理描述机制不够充分。随着机器学习技术的发展,神经网络方法为建立更复杂、更准确的反演模型提供了可能,并且已有研究表明,基于神经网络的水质遥感分析效果优于传统方[6‒7]

将海洋和大型湖泊水体的水质遥感监测技术应用于城市河网,主要面临2个主要问题。首先,城市水质监测常关注易出现污染源头的河网中上游部分,而这些河流的主干部分宽度通常为数十米,支流的宽度则常仅有数米,卫星遥感影像的空间分辨率往往无法达到城市相应水质监测的要求。为这一问题提供解决方案的是空间分辨率可达厘米级的无人机低空多光谱遥感技术,然而高分辨率的无人机低空多光谱遥感影像数据量更大。传统影像分析的统计模型虽然算法简便,能够快速对遥感影像进行处理,但是容易出现模型有偏问题,并且在建立模型时需要进行大量的光谱与水质参数相关性分析、回归模型拟合优度检验等前期工作。基于神经网络可以建立更复杂、更能反映多变水质状况的模型,但计算复杂度往往显著高于传统模型,使遥感影像的处理速度变得很慢,难以在实际工程项目中进行规模化应用。

目前在深度学习和图像模式识别领域中,卷积神经网络(CNN)方法在保留传统神经网络模型复杂度的同时,能够快速针对图像进行运[8‒9]。基于卷积神经网络建立分析模型,对无人机低空多光谱遥感影像进行分析,是城市河网水质监测的一个潜在的有效途径。

以城市河流水体为研究对象,建立支持水质反演模型自动化建模和低空遥感图像快速处理的水环境遥感监测数据处理方案。具体地,基于卷积神经网络模型框架,提出一个可以对无人机多光谱遥感影像进行水质等级分类的算法。

1 基于全卷积神经网络的水质等级分类算法

1.1 水质等级分类算法流程

为实现基于无人机低空多光谱遥感数据的城市河流全流域水质等级分类,给出了如图1所示的总体算法思路。该算法包括3个主要步骤:数据准备、神经网络的设计与训练、对分类结果的评价。

图1 水质等级分类算法流程

Fig.1 Flow chart of water quality classification algorithm

1.2 网络架构设计

无人机低空多光谱遥感影像数据是一类新型数据,是无人机低空遥感获取的、包含红绿蓝三波段和若干定制了中心波长的窄带波段。这类数据现有数据量较小,并且数据结构不同于传统图像语义分割领域使用的可见光图像,因此难以基于现有的成熟网络,如VGG模[

10]等,实现迁移学[11],而需从底层架构训练卷积神经网络。在本研究的图像像素级标注问题上, Ronneberger[12]提出的U型全卷积神经网络(UFCNN)是一个满足前述需求并具有良好泛化能力的模型。U型全卷积神经网络已经应用于遥感图像解[13‒14]。基于该网络架构,设计用于水质等级分类的卷积神经网络。

设计架构如图2所示的U型全卷积神经网络。网络共20层(未计入输入层)。前9层类似于常规卷积神经网络,由卷积层和池化层交替构成,用于特征提取;后9层是由卷积层和上采样层交替构成的图像重建部分;中间包含2个连接层,分别连接第3层与第13层、第6层与第11层,即同一尺度上的原始特征图与上采样结果特征图,以融合图像特征和空间位置信息。网络的输入是五通道的训练样本,输出是以独热编码(one-hot encoding)表示的分割结果。对于网络中使用的卷积层,除第10层、第12层、第14层和输出层采用1×1卷积来压缩特征维度外,其余均采用3×3卷积;所有卷积层的移动步长是1,补零(padding)方式为‘same’。池化层采用最大池化(max-pooling)算法,池化因子为2。上采样层采用反卷积算[

15],反卷积层使用3×3卷积核,步长与池化层对应设为2。网络参数总个数为32 213。损失函数使用多分类交叉熵函数。

图2 水质等级分类神经网络架构

Fig.2 Neural network architecture for water quality classification

所设计的网络架构深度为3,即包含了3次最大池化和3次反卷积上采样。在前期测试网络深度时,深度为3的网络测试精度高于深度为2的网络测试精度,而深度为4和5的网络测试精度与深度为3的网络测试精度基本相同,因此网络深度采用3。

1.3 结果评价指标

对于分类结果,以常用的混淆矩阵及在其基础上计算的正确率、准确率、召回率和F分数等作为评价指标,计算式分别如下所示:

A=ipiiijpij×100%
P=piijpij×100%
R=pjjipij×100%
F=2PRP+R×100%

式中:A表示正确率;P表示准确率;R表示召回率;F表示F分数;pij表示混淆矩阵第i行第j列的元素,第i行表示真实类别为第i类的像元,第j列表示分类结果为第j类的像元。

对于本研究的神经网络训练结果,使用所有类别分类正确率的均值作为神经网络的分类精度。

2 实验验证

2.1 数据采集区域

使用了来自2个不同实验区的数据对算法进行稳定性和可行性验证。

实验区1位于上海市嘉定区。实验区范围东西向跨度约800 m,南北向跨度约900 m。实验区内部的河流主要是位于某一校园内部的人工河流,水系总长度约5.0 km,平均水深约0.5 m,水域总面积约0.50 km2。该河流水源主要为降水,没有污水排放,亦不与校区外部河流直接相连,水质较好。实验区西南角包含一段蕴藻浜支流,流经校园外部的居民区和工业区,水质较校园内部略差。

实验区2位于上海市宝山区杨行镇。实验区范围东西向跨度约5 500 m,南北向跨度约3 500 m。实验区内部的若干河流在区域内穿过绿地、居民区和工业区,在实验区外部汇入黄浦江。水系总长度约20 km,水域总面积约0.5 km2图3是2个实验区的位置示意图。

图3 数据采集区域位置

Fig.3 Experiment area position

2.2 数据采集和预处理结果

数据采集方式为无人机低空遥感。无人机作业时天气晴朗,实验水域在作业前1个月内未发生特殊污染情况,水体水质状况基本稳定。无人机搭载的相机为多光谱相机,5个波段依次为红―绿―蓝可见光波段、675 nm和705 nm 2个窄带多光谱波段,后2个波段与多个两类水体非水色水质参数均有较高的相关[

6]。无人机采集的原始影像即为依次对应上述波段的五通道影像。

数据预处理包括辐射校正、几何校正和水体提取。辐射校正由自主研发的算法完成。几何校正由无人机测图软件Pix4D完成,同时生成了实验区域的正射影像。实验区1和2的正射影像大小分别约为25 000 ×21 000和21 000×13 000像素,数据存储类型为16位整型。水体提取由自主研发的自动化提取算法辅以人工后处理完成,预处理后正射影像如图3a和3b所示。

2.3 数据集建立

要建立用于U型全卷积神经网络训练和验证的数据集,首先需生成正射影像所对应的分类地面真值图像,然后利用两者不断生成用于单次训练的样本,最后将这些样本整合,形成数据集。

所使用的地面真实数据来自笔者团队对同一实验区的前期研究成果。依据国家标准《地表水环境质量标准[

16](下文简称“国标”)以及《上海市内陆河流及水系水质常规评价技术规范》(下文简称“上海市标准”),选用水质指标氨氮(AN)和总磷(TP),使用指数型反演公式对实验区水体的水质进行反演,并依据国标进行分类,最终得到Ⅰ类至Ⅲ类水、Ⅳ类水、Ⅴ类水和劣Ⅴ类水的水体在实验区的分布。依据分类结果,生成地面真值图像。在地面真值图像中,除上述4个水质等级,还有一类像素为非水,即共有5个类别。图像存储格式为单通道的tif文件,水质等级的分布如图4b和图5a所示。分布图大小分别与正射影像大小对应,数据存储类型为整型,数据范围为0~4。表1记录了地面真值图像中每个类别所包含的像素个数。

图4 实验区1分类结果

Fig.4 Classification results for experiment area 1

图5 实验区2分类结果

Fig.5 Classification results of experiment area 2

表1 各类水的像素数量
Tab. 1 Number of pixels for each quality level water
区域各类水的像素数量
非水Ⅰ类至Ⅲ类水Ⅳ类水Ⅴ类水劣Ⅴ类水
实验区1 498 228 663 4 490 707 13 973 120 24 038 438 2 693 947
实验区2 168 679 971 789 757 2 761 983 1 825 078 522 923

使用随机开窗截取的方法生成单个学习样本,以克服正射影像过大、难以基于现有硬件条件直接在U型全卷积神经网络中进行迭代训练的问题。对应实验区1和2的窗口大小分别为300×300和64×64,每次截取时随机选定一个位置,然后在该位置上分别截取窗口大小的正射影像和地面真值图像,生成一个学习样本。在实验区正射影像中,水体部分仅占整个影像像素的小部分,而本实验的目标是水质分类,即主要关注影像的水体部分,因此不均匀的数据分布会给训练带来较大困难。针对此问题,在生成样本时,若随机的样本中不包含任何水体,则该样本无效,需重新生成。以此方法,本实验生成样本数量分别为1 000 (实验区1) 和3 000 (实验区2) 的数据集,下文称这2个数据集分别为数据集1和数据集2。

2.4 实验环境设置

实验运行硬件环境为:计算机内存16 GB,CPU型号Intel(R) Core(TM) i7‒6700HQ 2.60 GHz,显卡型号NVIDIA GeForce GTX 960M。神经网络训练框架选用Keras[

17]

在第1.2节所述U型全卷积神经网络架构的基础上,对U型全卷积神经网络的关键超参数做出如下设置:

(1)梯度下降算法

选用Adam算[

18],研究表明该算法在多数情况下优于此前的动量算法、均方根传播(RMSProp)算法和可变步长梯度法(Adagrad)等梯度下降算[19]。Adam算法的参数使用其默认参数,即β1=0.9,β2=0.999,ϵ=1×10-8

(2)正则化

为预防过拟合,使用Dropout[

11]作为正则化算法。Dropout层添加于每个Max-Pooling层和Deconvolution层之后,Dropout率设为0.4。

(3)Batch-normalization

为预防深层神经网络出现梯度爆炸或梯度弥散,在除输出层外的每个激活层前使用Batch-normalization算[

20]

(4)自适应学习速率调整

当学习停滞时,适当地减小学习速率可能使网络更好地收敛到极小值点。使用的自适应学习速率调整算法为Keras预定义的学习率衰减(ReduceLROnPlateau)算[

17],参数选用默认参数,即每当连续迭代10次而总loss变化不明显时,将学习速率减小为原来的0.1倍。

对神经网络的训练结果和泛化能力有较明显影响的参数是学习速率,而Adam算法结合自适应学习速率调整是选择该参数的一种优选策[

11]。另外,在多次神经网络训练过程中,当迭代次数达到200左右时,经自适应学习速率调整,学习速率往往减小至1×10-12以下,并且训练精度已经较高,此时认为训练完成。在下文的交叉验证过程中,本实验选择的训练迭代次数均为200。

3 分类结果与分析

3.1 网络泛化能力评估

对数据集1采用交叉验证方法来划分训练集和验证集,并用最终交叉验证精度近似测试精度,以评估网络泛化能力。使用的交叉验证方法是k折交叉验证算法,k取10,即为十折交叉验证法。在实验中,每次随机选取900个样本作为训练数据集,其余100个样本作为验证数据集;重复完成10次训练‒验证过程,得到每次的训练精度和验证精度。

表2为十折交叉验证结果。验证精度可反映U型全卷积神经网络的分类能力,验证精度与训练精度之差可反映U型全卷积神经网络的过拟合程度和泛化能力。如表2所示,交叉验证的平均验证精度达到92.05%。由于水质监测本身并不要求非常高的水质分类精度,这一结果可以满足实际工作的需要。验证精度与训练精度平均相差1.54%,两者之差的标准差为1.60%,表明所提出的U型全卷积神经网络具有较好的泛化能力。

表2 水质等级分类模型训练及交叉验证结果
Tab. 2 Training and cross-validation results of water quality classification model
验证次数训练损失函数值训练精度/%验证损失函数值验证精度/%精度差/%
1 0.018 1 93.93 0.014 3 94.87 0.94
2 0.017 9 94.23 0.026 5 91.32 2.91
3 0.018 3 94.01 0.017 0 93.42 0.59
4 0.019 2 93.88 0.024 8 91.51 2.37
5 0.016 5 94.64 0.027 6 90.60 4.04
6 0.023 4 92.33 0.016 1 95.24 2.91
7 0.019 0 93.79 0.014 4 95.23 1.44
8 0.024 1 92.05 0.041 6 85.68 6.37
9 0.018 7 93.82 0.021 8 91.06 2.76
10 0.020 6 93.25 0.024 5 91.57 1.68
平均精度/% 93.59 92.05 1.54
精度差之标准差/% 1.60

3.2 分类结果与分析

为定性描述U型全卷积神经网络模型的分类结果,使用训练精度和验证精度均接近十折交叉验证精度均值的一组网络参数,即表2中第10次训练结果,对数据集1的整个正射影像进行分类,并输出分类结果图和混淆矩阵,如图4表3所示。

表3 U型全卷积神经网络模型水质分类结果混淆矩阵(数据集1)
Tab. 3 Confusion matrix of water quality classification results with UFCNN model(data set 1)
非水Ⅰ类至Ⅲ类水Ⅳ类水Ⅴ类水劣Ⅴ类水准确率/%
非水 498 032 689 18 433 36 011 82 353 59 177 99.96
Ⅰ类至Ⅲ类水 101 3 505 227 984 927 418 34 78.06
Ⅳ类水 1 005 7 665 10 711 443 3 252 239 768 76.66
Ⅴ类水 1 452 998 20 126 23 511 137 504 725 97.81
劣Ⅴ类水 479 1 183 162 83 516 2 608 607 96.83
召回率/% 100.00 99.20 91.14 87.31 82.20
F分数/% 99.98 87.37 83.27 92.26 88.92
水质分类精度/% 87.96

为与所提算法进行对比,借助成熟的遥感图像处理软件ENVI 5.3,使用极大似然法对实验区1的水体进行了分类。对照实验的分类结果如图4所示。囿于篇幅,仅列出对照实验的F分数,如表4所示。表3中水质分类精度计算的是各类水质等级的像素分类精度的平均值,非水类分类准确率明显高于水质分类的原因是非水像素的五波段像素值都被置为零,分类相对容易,故非水像素的分类精度并未计入。从图4可见,极大似然法不仅在相邻两等级的水质分类上存在混淆,甚至会混淆分属非相邻等级水质的像素。所提出的U型全卷积神经网络模型虽然在Ⅳ类与Ⅴ类水之间存在一定混淆,但总体上以较理想的精度实现了不同水质等级的水体分类,平均水质分类精度为87.96%。

表4 实验组及对照组分类结果F分数
Tab. 4 F-score for experimental group and control group
组别各类水F分数/%F分数平均值/%
Ⅰ类至Ⅲ类水Ⅳ类水Ⅴ类水劣Ⅴ类水
实验组 87.37 83.27 92.26 88.92 87.96
对照组 48.64 48.22 37.00 27.54 40.35

数据集2的数据量和变化程度更大,更接近水环境遥感检测项目中所使用的实际数据,但分类难度也更高。除前文提及的Dropout参数调整为0.2以适应更复杂的数据之外,实验2沿用在数据集1上使用的U型全卷积神经网络模型及算法,在数据集2上进行训练并对整个正射影像进行分类,结果如图5表5所示。表5显示的整体分类精度有所降低,为77.57%,但从图5可以看出,模型仍识别出了不同水质等级的主要水体。

表5 U型全卷积神经网络模型水质分类结果混淆矩阵(数据集2)
Tab. 5 Confusion matrix of water quality classification results with UFCNN model(data set 2)
非水Ⅰ类至Ⅲ类水Ⅳ类水Ⅴ类水劣Ⅴ类水准确率/%
非水 168 676 639 246 3 032 31 32 100.00
Ⅰ类至Ⅲ类水 7 148 496 970 247 398 26 620 11 621 62.93
Ⅳ类水 43 324 135 058 2 381 264 155 915 46 422 86.22
Ⅴ类水 741 19 063 265 332 1 460 121 79 821 80.00
劣Ⅴ类水 10 8 979 57 396 60 740 395 798 75.69
召回率/% 99.97 75.26 80.60 85.72 74.16
F分数/% 99.98 68.54 83.31 82.76 74.92
水质分类精度/% 77.57

数据集1对比实验中,极大似然法的原理是通过欧式距离划分类别,即待分类样本被划分到与其距离最近的训练样本所属的类别。该方法没有对数据空间进行变换。结果表明,即使在数据的空间分辨率较高、光谱特征较丰富的情况下,对水体按照水质等级进行分类仍然是一个复杂度较高的分类问题,传统自动化分类方法难以进行有效分类。限制分类精度的其他原因主要有以下两点:一是地面真值图像不够精确,因地面真值图像是反演结果而非由全部实测得到的,本身包含的错误和误差阻碍了U型全卷积神经网络模型训练精度的进一步提升;二是在有限的外部条件和优化空间本身复杂度较高的情况下,很可能未找到使U型全卷积神经网络模型分类精度最优的超参数组合。

4 结论与展望

提出了一个基于全卷积神经网络的城市河流全流域低空遥感影像水质等级分类算法,该算法包括无人机遥感数据的处理、用于网络学习的样本数据集的构建、基于U型全卷积神经网络的水质分类神经网络架构设计和超参数调整以及分类结果的评价与输出。使用上海市嘉定区某区域和上海市宝山区杨行镇某区域的无人机低空遥感影像对该算法进行了验证,分别达到87.96%和77.57%的平均水质分类精度,这一结果可支持该算法的可行性。所设计的全卷积神经网络经交叉验证,过拟合程度低,具有良好的泛化潜力。

基于无人机低空遥感的全流域水质监测工作尚处于起步阶段,若能经过一段时间的数据积累,则由深度学习依赖于大数据驱动的特性,该算法的精度和实际应用表现有望得到进一步提升。水质反演的结果由水体光谱特性决定,而水体光谱特性会受到无人机遥感影像的辐射定标与校正的直接影响,因此一种可靠的无人机遥感影像辐射定标和校正方法也是所提算法可推广性的前提和保障。

参考文献

1

林荔珊. 上海市中小型河道水环境综合整治思路探讨[J]. 上海水务, 2018, 34(2): 41. [百度学术

LIN Lishan. Discussion on comprehensive regulation of water environment in small and medium rivers in Shanghai[J]. Shanghai Water, 2018, 34(2): 41. [百度学术

2

周伟奇. 内陆水体水质多光谱遥感监测方法和技术研究[D].北京中国科学院研究生院(遥感应用研究所),2004. [百度学术

ZHOU Weiqi. Monitoring of water quality parameters for inland waters by multi-spectral remote sensing data[D]. Beijing: Institute of Remote Sensing Applications of Chinese Academy of Sciences, 2004. [百度学术

3

MOHDHASMADI I, NORSALIZA U. Analysis of SPOT-5 data for mapping turbidity level of River Klang, Peninsular Malaysia[J]. Applied Remote Sensing Journal, 2010, 1(1): 14. [百度学术

4

HELLWEGER F, SCHLOSSER P, LALL U, et al. Use of satellite imagery for water quality studies in New York Harbor[J]. Estuarine, Coastal and Shelf Science, 2004, 61(3): 437. [百度学术

5

TEHRANI N C, D’SA E J, OSBURN C L, et al. Chromophoric dissolved organic matter and dissolved organic carbon from sea-viewing wide field-of-view sensor (SeaWiFS), moderate resolution imaging spectroradiometer (MODIS) and MERIS sensors: case study for the northern Gulf of Mexico[J]. Remote Sensing, 2013, 5(3): 1439. [百度学术

6

DOERFFER R, SCHILLER H. The MERIS Case 2 water algorithm[J]. International Journal of Remote Sensing, 2007, 28(3): 517. [百度学术

7

VILAS L G, SPYRAKOS E, PALENZUELA J M T. Neural network estimation of chlorophyll a from MERIS full resolution data for the coastal waters of Galician rias (NW Spain)[J]. Remote Sensing of Environment, 2011, 115(2): 524. [百度学术

8

LECUN Y, BOTTOU L, BENGIO Y, et al. Gradient-based learning applied to document recognition[J]. Proceedings of the IEEE, 1998, 86(11): 2278. [百度学术

9

KRIZHEVSKY A, SUTSKEVER I, HINTON G E, et al. ImageNet classification with deep convolutional neural networks[J]. Communications of the ACM, 2017, 60(6): 84. [百度学术

10

SIMONYAN K, ZISSERMAN A. Very deep convolutional networks for large-scale image recognition[C]//International Conference on Learning Representations. San Diego: ICLR, 20151-14. [百度学术

11

GOODFELLOW I, BENGIO Y, COURVILLE A. Deep learning[M]. Boston: MIT Press, 2016. [百度学术

12

RONNEBERGER O, FISCHER P, BROX T. U-net: convolutional networks for biomedical image segmentation[C]//International Conference on Medical Image Computing and Computer-Assisted Intervention. Berlin: Springer, 2015: 234-241. [百度学术

13

KESTUR R, FAROOQ S, ABDAL R, et al. UFCN: a fully convolutional neural network for road extraction in RGB imagery acquired by remote sensing from an unmanned aerial vehicle[J]. Journal of Applied Remote Sensing, 2018, 12(1): 016020. [百度学术

14

ISIKDOGAN F, BOVIK A C, PASSALACQUA P. Surface water mapping by deep learning[J]. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing, 2017, 10(11): 4909. [百度学术

15

ZEILER M D, TAYLOR G W, FERGUS R. Adaptive deconvolutional networks for mid and high level feature learning[C]/ [百度学术

/Computer Vision (ICCV), 2011 IEEE International Conference on. [S.l.]:IEEE, 2011: 2018-2025. [百度学术

16

地表水环境质量标准:GB 3838―2002[S]. 北京:中国标准出版社, 2002. [百度学术

Environmental quality standards for surface water:GB 3838―2002[S]. Beijing: Standards Press of China, 2002. [百度学术

17

CHOLLET F. Keras [EB/OL]. [2018-12-20]. https://github.com/fchollet/keras. [百度学术

18

KINGMA D P, BA J. Adam: a method for stochastic optimization[C]// International Conference on Learning Representations. San Diego: ICLR, 2015: 1-15. [百度学术

19

GU J, WANG Z, KUEN J, et al. Recent advances in convolutional neural networks[J]. Pattern Recognition, 2018, 77: 354. [百度学术

20

IOFFE S, SZEGEDY C. Batch normalization: accelerating deep network training by reducing internal covariate shift[C]// International Conference on Learning Representations. San Diego: ICLR, 2015: 1-10. [百度学术