神经网络方面学士学位论文范文跟密集连接卷积神经网络：让人工智能拥有更强大脑方面函授毕业论文范文-毕业论文网

本论文是一篇免费优秀的关于神经网络论文范文资料，可用于相关论文写作参考。

密集连接卷积神经网络：让人工智能拥有更强大脑

文,黄高人工智能技术经过半个多世纪的发展,伴随着这个领域的几度兴起和沉寂,终于在新的千年借助互联网、大数据、高性能芯片等技术,逐渐走向成熟和实用.相信不久的将来,随着深度神经网络等基础性技术的不断进步,人工智能将进入各个行业,彻底变革人们的生产和生活方式.

当前,AI已经不是实验室里科学家们的专有词汇,也不仅是电影屏幕上被虚构出来的机器.如果说Alpha Go的出现只会让人们惊叹强大人工智能技术的诞生,那么悄然出现在人们身边的刷脸认证、语音助手、美颜相机等则让人们切切实实地享受到了新技术带来的便利.其实人工智能技术所在之处,还远不止这些普通大众能直接感受到的产品：医生借助它来提升分析CT影像的效率和准确度；人员借助它来24小时不间断地寻找通缉犯；互联网商家借助它来给客户推荐相关度更高的产品；金融人员则借助它来更加精准地预测市场……人工智能技术已经显现出巨大的应用潜力和价值,为各行业赋能.

密集连接模式

深度卷积神经网络是当前大部分人工智能系统的“大脑”,被广泛应用于计算机视觉、语音识别、自然语言处理等领域.近些年人工智能领域飞速发展,与深度卷积网络的创新和突破密不可分.基于卷积网络的Alpha Go,在围棋这项代表人类最高智慧的棋类项目上击败了人类顶级玩家；同样基于卷积网络的自动医疗影像系统,在肺病检测等项目上的表现已经超越了影像科专家；在自动驾驶、安防、金融等领域,卷积神经网络也表现出了巨大的应用前景和价值.

近年来,随着研究的深入,密集连接卷积神经网络( DenseNet)的研究颇具成果,创新性地将传统神经网络一维的逐层连接方式,拓展为立体的跨层密集连接方式（如图1）.在传统的神经网络模型中,网络每一层都只从其上一层获取输入信号,然后将提取的特征传给紧邻的下一层.而DenseNet则与之不同：一是网络任何两层之间都有直接的连接,即网络每一层的输入都是前面所有层输出的并集,而该层所学习的特征图也会被直接传给其后面所有层作为输入；二是为了避免网络变深造成复用特征过多,DenseNet的每一层仅学习非常有限的一些特征,以达到降低冗余性的目的.事实上,第一点是第二点的前提,没有密集连接,网络的每一层必须学习大量的特征,否则训练会出现欠拟合现象.针对这种新型的网络架构,DenseNet还提出了瓶颈层和过渡层的概念,通过瓶颈层局部地压缩网络每一层的计算量,通过过渡层全局地提升特征复用的效率,从而进一步挖掘和扩大该模型的优势.

更优深度学习模型

DenseNet的提出改变了学术界沿用数十年的逐层连接网络架构.这一改变具有几个明显的优势：一是实现了网络特征的最大化重复利用,极大地减小了冗余特征的计算,提升了网络的计算效率；二是缩短了梯度反传的路径,解决梯度消散的问题,使深度网络的优化变得简单；三是密集连接简化了神经网络的决策函数,提升了网络的泛化性能.

相较已有的深度学习模型,如GoogleNet、VGGNet和ResNet等,DenseNet模型具有易于训练、需要训练数据少、模型计算量小以及预测精度高等优势.值得一提的是,DenseNet的抗过拟合性能可以从理论上进行证明.从数学上讲,神经网络每一层提取的特征都相当于对输入数据的一个非线性变换,而随着深度的增加,变换的复杂度也逐渐增加（更多非线性函数的复合）.相比于一般神经网络的分类器直接依赖于网络最后一层（复杂度最高）的特征,DenseNet可以综合利用浅层复杂度低的特征,因而更容易得到一个光滑的具有更好泛化性能的决策函数.

DenseNet-经提出,便在竞争激烈的图像识别公测数据集CIFAR-lO和CIFAR-IOO上,击败了所有已有的深度学习算法.之前,在不进行数据扩增的情形下,最好的算法在这两个数据集上保持的分类错误率纪录分别是7 33%和28 20%,而DenseNet将这两个纪录分别刷新到了519%和19 64%.在有数据扩增的情形下,一个100层且只有80万参数的Denselxlet,获得了比一个l001层具有1000万参数的ResNet更好的性能.在大型图像识别数据集ImageNet上（如图2）,DenseNet仅需要2000万的参数,便可以达到22 5%的分类错误率,而之前最好的模型ResNet则需要4000万的参数（即两倍大小的模型）才能获得相近的预测精度.DenseNet的改进版本CondenseNet,专门针对移动设备进行了优化,其计算效率超越Google提出的轻量化网络MobileNet近一倍,也显著优于旷视科技提出的小型化网络ShuffleNet.目前,DenseNet及其改进版本已经被学术界和工业界广泛采用,并逐渐成为人工智能行业的标准化模型.

广泛应用前景

DenseNet作为一种通用的人工智能算法,应用面非常广.不管是需要处理图像信号的自动驾驶、医疗影像分析,还是处理时序信号的自然语言翻译、语音识别,都可能用到此项技术.基于前面提到的几点优势,DenseNet尤其适用于两大类人工智能应用场景.

计算资源有限的场合.在移动端（如手机、手环、手表）、各种物联网设备、小型无人机等设备上,受制于电池容量和存储空间,要求相关算法具有较高的计算和存储效率,而这正是DenseNet的一大特点.因此,基于DenseNet的算法,将有可能应用于各种边缘设备上的人脸识别、运动检测、导航避障等.

数据量有限的场合.在智能医疗、故障诊断等诸多行业,收集数据的成本非常高昂,甚至根本没法获得大量的训练样本.传统的深度神经网络对数据的需求量通常比较大,否则容易出现过拟合现象,导致训练出来的模型预测精度较差.DenseNet可以有效地缓解这一现象,在较少量的样本上训练也依然能获得很好的效果.目前智能医疗领域广泛采用DenseNet模型也印证了这一现象.

随着人工智能技术的普及,人工智能产品对深度神经网络的要求也越来越高,主要包括三个方面.

轻量化.人工智能的应用将会从云端和服务器端走向更多的边缘设备,而这些设备的存储和计算资源非常有限.因此,设计更为轻巧的神经网络模型会是学术界研究的一个热点.除此之外,自适应推理网络也是提升计算效率的一个有效途径.

可解释.目前深度神经网络还是作为一个黑箱模型被使用,它的预测过程不容易被人类所理解.在医疗、自动驾驶等领域,错误预测的代价非常高,因此人们希望看到一个更为透明的人工智能算法,以便得到更为可靠可信的结果.关于神经网络可解释性的研究,也是未来需要重点突破的方向.

易迁移.深度学习技术已经攻克了许多领域的难题,但新的领域通常很难借用已有的成功模型,甚至在同一个领域也很难进行模型共享.例如在医疗影像分析中,肺病检测模型并不能为肝病检测模型提供很大帮助.如果能够让深度学习模型广泛学习各个领域的知识,并快速迁移到新的问题上,则必将极大地加快人工智能技术推广的进程.

DenseNet的成功,正是源于它在某种程度上满足了以上三个方面的需求,成为人工智能技术和深度神经网络研究和发展过程中迈出的重要一步.

神经网络论文范文结:

关于神经网络方面的的相关大学硕士和相关本科毕业论文以及相关神经网络论文开题报告范文和职称论文写作参考文献资料下载。