关于CNN图像分类的一份综合设计指南(二)
作者: 日期:2021-05-20 09:04:03 阅读:44次
网络类型
网络类型和性能指标之间存在着非常明显的权衡现象,首先我们肯定会选择Inception或者ResNet网络类型的模型,因为这两个网络比VGG和AlexNet模型更新,只是在精度和模拟速度两个指标之间进行了权衡,如果想要精度的话,选择ResNet网络是一个不错的开端,如果想要模拟速度快,那么就选择Inception网络。
用智能卷积设计减少运行时间和内存消耗
CNN总体设计的最新进展已经有了惊人的替代方案,在不损失太多精度的前提下,可以加快CNN模拟运行的时间,减少内存消耗。以下所有这些都可以简单地整合到上述CNN成熟模型中
MobileNets:使用深度可分离卷积技术,在仅牺牲1%~5%的精度的条件下,计算量和存储消耗量大幅减少,精度的减少程度与计算量和存储消耗量的减少成正比。
关键XNOR-Net:使用二进制卷积,即卷积核只有-1或1。通过这种设计,网络具有很高的稀疏性,因此可以轻松压缩网络参数,而不会占用太多的存储。
关键Shuflet:使用一个小组卷积,使网络具有很高的稀疏性,因此可以很容易地压缩网络参数,而不会占用太多的存储器。关键盘:使用一个小组卷积。
Network Pruning(网络剪枝):去除CNN模型的部分结构以减少仿真运行时间和内存消耗,但也会降低精度。为了保持精度,去除的部分结构最好是对最终结果没有多大的影响。
网络深度
CNN常用的方法是增加通道数和深度来增加精度,但会牺牲模拟运行速度和内存。但是,需要注意的是,层数增加对精度的提高效果减少,即增加的层越多,后续增加的层对精度的提高效果越小,甚至出现过拟合现象。
![]()
热 门 推 荐
热 点 新 闻