预先训练的深度神经网络
你可以使用一个已经学会从自然图像中提取强大且信息丰富的特征的预先训练的图像分类网络，并将其作为学习新任务的起点。大多数预先训练的网络都是在ImageNet数据库的一个子集上训练的［１］，用于ImageNet大规模视觉识别挑战(ILSVRC)［２］。这些网络已经在100多万张图像上进行了训练，可以将图像分为1000个对象类别，如键盘、咖啡杯、铅笔和许多动物。使用带转移学习的预训练网络通常比从头开始训练网络要快得多，也容易得多。
您可以使用以前训练过的网络执行以下任务：
| 目的 | 描述 |
|---|---|
| 分类 | 将预训练网络直接应用于分类问题。要对新图像进行分类，请使用 |
| 特征提取 | 通过使用图层激活作为特征，使用预训练网络作为特征提取器。您可以使用这些激活作为特征来训练另一个机器学习模型，例如支持向量机（SVM）。有关详细信息，请参阅金宝app特征提取. 有关示例，请参见利用预训练网络提取图像特征。 |
| 迁移学习 | 从在大型数据集上训练的网络中获取图层，并在新数据集上进行微调。有关详细信息，请参阅迁移学习。有关一个简单的示例，请参见开始迁移学习。尝试更多的预先训练的网络，看训练深度学习网络对新图像进行分类。 |
比较预训练网络
当选择一个网络应用于你的问题时，预先训练的网络具有不同的特性。最重要的特征是网络精度、速度和规模。选择网络通常是在这些特性之间进行权衡。使用下图将ImageNet验证精度与使用网络进行预测所需的时间进行比较。
提示
要开始迁移学习，试着选择一个速度较快的网络，如SqueezeNet或GoogLeNet。然后，您可以快速迭代并尝试不同的设置，如数据预处理步骤和培训选项。一旦你感觉哪种设置比较好，尝试更精确的网络，如Inception-v3或ResNet，看看是否能改善你的结果。
请注意
上面的图只显示了不同网络的相对速度。准确的预测和训练迭代时间取决于您使用的硬件和小批量大小。
一个好的网络具有较高的准确性和速度。该图显示了使用现代GPU (an英伟达®特斯拉®P100），最小批量为128。预测时间是相对于最快的网络测量的。每个标记的面积与磁盘上网络的大小成比例。
ImageNet验证集上的分类准确性是衡量在ImageNet上训练的网络的准确性最常用的方法。在ImageNet上准确的网络，在使用迁移学习或特征提取将它们应用到其他自然图像数据集时，通常也是准确的。这种泛化是可能的，因为网络已经学会从自然图像中提取强大的、信息丰富的特征，从而泛化到其他类似的数据集。然而，ImageNet上的高精度并不总是直接传输到其他任务，因此尝试多个网络是一个好主意。
如果您希望使用受限的硬件或在Internet上分布网络执行预测，那么还要考虑磁盘和内存中的网络大小。
网络的准确性
有多种方法可以计算ImageNet验证集上的分类精度，不同来源使用不同的方法。有时使用多个模型的集合，有时使用多种作物对每个图像进行多次评估。有时引用的是前5位精度，而不是标准（前1位）精度。由于这些差异，通常无法直接比较不同来源的精度。深度学习工具箱中预训练网络的精度™ 是使用单个模型和单个中心图像裁剪的标准（top-1）精度。
负载Pretrained网络
要加载SqueezeNet网络，输入squeezenet在命令行。
净=挤压净；
对于其他网络，请使用如下功能水壶获取从附加模块资源管理器下载预训练网络的链接。
下表列出了在ImageNet上训练的可用预训练网络及其一些属性。网络深度定义为从输入层到输出层的路径上顺序卷积或完全连接层的最大数量。所有网络的输入均为RGB图像。
| 网络 | 深度 | 大小 | 参数(百万) | 图像输入大小 |
|---|---|---|---|---|
squeezenet |
18 | 5.2MB |
1.24 | 227乘227 |
水壶 |
22 | 27MB |
7．0 | 224年- 224年 |
inceptionv3 |
48 | 89 MB |
23.9 | 299年- 299年 |
densenet201 |
201 | 77 MB |
20.0 | 224年- 224年 |
mobilenetv2 |
53 | 13 MB |
3.5 | 224年- 224年 |
resnet18 |
18 | 44 MB |
11．7 | 224年- 224年 |
resnet50 |
50 | 96 MB |
25.6 | 224年- 224年 |
resnet101 |
101 | 167MB |
44.6 | 224年- 224年 |
xception |
71 | 85 MB |
22.9 | 299年- 299年 |
inceptionresnetv2 |
164 | 209 MB |
55.9 | 299年- 299年 |
shufflenet |
50 | 5.4 MB | 1．4 | 224年- 224年 |
nasnetmobile |
* | 20 MB | 5．3 | 224年- 224年 |
nasnetlarge |
* | 332MB | 88.9 | 331年- 331年 |
darknet19 |
19 | 78 MB | 20.8 | 256年- 256年 |
黑暗的53 |
53 | 155MB | 41.6 | 256年- 256年 |
efficientnetb0 |
82 | 20 MB | 5．3 | 224年- 224年 |
alexnet |
8 | 227 MB |
61 | 227乘227 |
vgg16 |
16 | 515 MB |
138 | 224年- 224年 |
vgg19 |
19 | 535 MB |
144 | 224年- 224年 |
* NASNet-Mobile和NASNet-Large网络不是由一个线性序列的模块组成。
谷歌网络接受了Places365培训
标准的GoogLeNet网络是在ImageNet数据集上训练的，但您也可以加载在Places365数据集上训练的网络［３］［４］。在Places365上训练的网络将图像分为365个不同的地方类别，如场地、公园、跑道、大厅。要在Places365数据集上加载经过预先训练的GoogLeNet网络，请使用谷歌网（'Weights'，'places365'）. 在执行迁移学习以执行新任务时，最常见的方法是使用ImageNet上预先训练的网络。如果新任务类似于场景分类，那么使用在地点365上训练的网络可以提供更高的准确度。
可视化Pretrained网络
您可以加载和可视化预先训练的网络使用深度网络设计器。
deepNetworkDesigner（挤压网）
要查看和编辑图层属性，选择一个图层。单击图层名称旁边的帮助图标获取有关图层属性的信息。
在Deep Network Designer中，通过单击浏览其他预训练网络刚出现的。
如果您需要下载一个网络，请在所需的网络上暂停并单击安装以打开附加组件资源管理器。
特征提取
特征提取是一种使用深度学习力量的简单而快速的方法，无需投入时间和精力来训练整个网络。因为它只需要对训练图像进行一次遍历，所以如果你没有GPU，它特别有用。你使用预先训练的网络提取学习的图像特征，然后使用这些特征来训练分类器，例如使用支持向量机金宝appfitcsvm(统计学和机器学习工具箱)。
当您的新数据集非常小时，尝试特征提取。由于您只在提取的特征上训练一个简单的分类器，因此训练速度很快。对网络的更深层次进行微调也不太可能提高精确度，因为可供学习的数据很少。
如果您的数据与原始数据非常相似，那么从网络深处提取的更具体的特征可能对新任务有用。
如果您的数据与原始数据非常不同，那么从网络深处提取的特征可能对您的任务用处不大。尝试用从较早的网络层提取的更一般的特征来训练最终的分类器。如果新数据集很大，那么您也可以尝试从头开始训练网络。
resnet通常是很好的特征提取器。有关如何使用预先训练的网络进行特征提取的示例，请参见利用预训练网络提取图像特征。
迁移学习
您可以通过使用预先训练过的网络作为起点，在新的数据集中训练网络，从而对网络中的更深层次进行微调。用迁移学习对一个网络进行微调通常比构建和训练一个新网络更快、更容易。网络已经学习了一组丰富的图像特性，但是当您对网络进行微调时，它可以学习特定于新数据集的特性。如果你有一个非常大的数据集，那么迁移学习可能不会比从头开始训练更快。
提示
对网络进行微调通常可以获得最高的精度。对于非常小的数据集(每个类少于20张图像)，尝试特征提取。
与简单的特征提取相比，微调网络速度更慢，需要更多的努力，但由于网络可以学习提取一组不同的特征，最终的网络往往更准确。只要新数据集不是很小，微调通常比特征提取工作得更好，因为这样网络就有数据可以学习新特征。有关如何进行迁移学习的示例，请参见使用Deep Network Designer进行迁移学习和训练深度学习网络对新图像进行分类。
进出口网络
您可以从TensorFlow导入网络和网络体系结构®-Keras、Caffe和ONNX™(Open Neural Network Exchange)模型格式。您还可以将训练过的网络导出为ONNX模型格式。
从Keras进口
使用TensorFlow-Keras导入预先训练好的网络importKerasNetwork。您可以从相同的HDF5 (.h5)文件或单独的HDF5和JSON (. JSON)文件导入网络和权重。有关更多信息，请参见importKerasNetwork。
通过使用TensorFlow-Keras导入网络架构importKerasLayers。您可以导入网络架构，也可以不导入权重。您可以从相同的HDF5 (.h5)文件或单独的HDF5和JSON (. JSON)文件导入网络架构和权重。有关更多信息，请参见importKerasLayers。
从咖啡进口
导入预先训练的网络从Caffe使用importCaffeNetwork作用Caffe模型动物园中有许多预训练网络可用［５］。下载所需的.prototxt和.caffemodel文件和使用importCaffeNetwork将预先训练好的网络导入MATLAB®。有关更多信息，请参见importCaffeNetwork。
您可以导入Caffe网络的网络架构。下载所需的.prototxt文件,并使用importCaffeLayers将网络层导入MATLAB。有关更多信息，请参见importCaffeLayers。
出口和进口ONNX
通过使用ONNX作为中间格式，您可以与其他支持ONNX模型导出或导入的深度学习框架互操作，如TensorFlow, PyTorch，咖啡因2,Microsoft金宝app®Cognitive Toolkit (CNTK)、Core ML和Apache MXNet™。
导出训练的深度学习工具箱网络到ONNX模型格式使用exportONNXNetwork函数。然后，您可以将ONNX模型导入到其他支持ONXX模型导入的深度学习框架中。金宝app
使用ONNX导入预先训练好的网络importONNXNetwork以及导入网络架构是否使用权重importONNXLayers。
预先训练的音频应用网络
通过使用深度学习工具箱和音频工具箱™，将预先训练好的网络用于音频和语音处理应用程序。
Audio Toolbox提供了预先训练的VGGish和YAMNet网络。使用vggish(音频工具箱)和亚姆内特(音频工具箱)与预训练网络直接交互的功能classifySound(音频工具箱)函数对YAMNet执行所需的预处理和后处理，以便您可以将声音定位并分类到521个类别中的一个。控件可以探索YAMNet本体阴阳图(音频工具箱)函数。的vggishFeatures(音频工具箱)函数对VGISH执行必要的预处理和后处理，以便您可以提取特征嵌入以输入机器学习和深度学习系统。有关将深度学习用于音频应用程序的更多信息，请参阅音频应用深度学习简介(音频工具箱)。
使用VGGish和YAMNet进行迁移学习和特征提取。例如,请参见通过预先训练的音频网络进行迁移学习(音频工具箱)。
预训练模型GitHub
要查找最新的预训练模型和示例，请参阅MATLAB深度学习(GitHub)。
例如:
对于转换器模型，如GPT-2、伯特和芬伯特，请参见基于MATLAB的变压器模型GitHub®存储库。
预训练的yolov4对象检测模型，如YOLOv4-coco和YOLOv4-tiny-coco，请参见预训练的YOLO-v4对象检测网络GitHub库。
参考文献
［１］ImageNet. http://www.image-net.org
[2] Russakovsky, O.， Deng J.， Su H.， et al. " ImageNet大规模视觉识别挑战。"国际计算机视觉杂志(IJCV)。2015年第3期，第115卷，211-252页
[3] Zhou, Bolei, Aditya Khosla, Agata Lapedriza, Antonio Torralba和Aude Oliva。“地点:用于深度场景理解的图像数据库。”arXiv预印本arXiv: 1610.02055(2016).
［４］的地方. http://places2.csail.mit.edu/
［５］咖啡模型动物园。http://caffe.berkeleyvision.org/model_zoo.html
另请参阅
alexnet|水壶|inceptionv3|densenet201|darknet19|黑暗的53|resnet18|resnet50|resnet101|vgg16|vgg19|shufflenet|nasnetmobile|nasnetlarge|mobilenetv2|xception|inceptionresnetv2|squeezenet|importCaffeNetwork|importCaffeLayers|importKerasLayers|importKerasNetwork|exportONNXNetwork|importONNXLayers|importONNXNetwork|深度网络设计器
相关的话题
您还可以从以下列表中选择网站：
