在这个视频中,我们在MATLAB演示深度学习量化工作流。使用量化模型库支持包,我们说明如何调整,使量子化,并验证Resnet50等金宝app深入学习网络。我们也强调量化的影响在减少一些标准的记忆网络Resnet101和InceptionV3等。
深度学习量化是一个关键的优化策略的有效部署深度学习网络,尤其是在嵌入式平台上。
我Ram Cherukuri MathWorks高级产品经理,在这个视频中,我将给你一个概述的深度学习MATLAB的量化工作流程。
量化权重、偏见和激活低精度的数据类型如INT8或FP16显著减少了内存占用的人工智能算法和可能导致改进推理在嵌入式硬件性能。
您可以使用量化模型库支持包在MATLAB量化你的深度学习网络。金宝app你可以下载它从附加Explorer如下所示。
量化工作流程利用仪器,基于一个校准数据存储计算仪表数据用于量化权重,偏见,和激活层的网络。
最后,验证步骤计算精度指标来分析和理解量化的准确性的影响网络。让我们来Resnet50例如网络通过此工作流。
这是深度学习量化器应用程序,您首先从MATLAB工作区导入网络,你会发现网络结构显示在左边面板中。
接下来,选择你想要的数据存储用于校准和应用程序显示计算统计数据如最小和最大的权重值,偏见,和每一层的激活。你也可以选择层,可以量化,然后验证量化使用验证数据存储的影响。
在这个例子中,我们使用默认最高1精度指标可以看到有67%的减少内存没有精度下降。你可以继续生成代码量化网络的部署。
我们重复这个工作流与一些网络,只有量化计算密集型conv INT8层。
你可以在这里看到图表中的量化的影响。例如,最大的网络和180 MB内存,Resnet101认为压缩72%,准确率下降2%。InceptionV3,另一方面,最大的准确性下降4%,67%的压缩,从100 MB到33 MB内存。
这突出了量化的有效部署的重大影响深度学习网络。
请参阅下面的参考资料视频学习如何开始并在MATLAB环境下探索这些新功能。
你也可以从下面的列表中选择一个网站:
选择中国网站(中文或英文)最佳站点的性能。其他MathWorks国家网站不优化的访问你的位置。