深度学习工具箱模型量化库支持对深度学习模型进行量化和压缩,以减少深度神经网络的内存占用和计算需求。
对于所支持的层,cpu、fpga和NVIDIA 金宝appgpu支持量化到INT8。该库允许您收集关于权重、激活和中间计算的层级数据。使用这些数据,库可以量化您的模型,并提供度量标准来验证量化网络相对于单个精度基线的准确性。迭代工作流允许您优化量化策略。
该库还支持剪枝,通过删除对推断精度金宝app影响最小的网络元素来减小网络大小。
量化工作流程先决条件可以在这里找到:
如果您有下载或安装问题,请联系技术支持-金宝app
www.tatmou.com/contact_ts
Matlab릴리스호환정보
개발환경:R2020a
R2020a에서R2022b까지의릴리스와호환