来自系列:应用机器学习
赛斯迪兰,MathWorks公司
通过几个关键技术和最佳实践走在嵌入式设备上运行你的机器学习模型。
视频讨论的选项,让你的模型更快,减少了内存占用,包括自动C / C ++代码生成,特征选择和模型简化。
“机器学习”一词让人想起使用大量计算来训练模型的复杂算法。但是在“嵌入式设备”上的计算在可用的内存和计算量上是有限的。
现在,当我说“嵌入式设备”时,我指的是带有特殊用途计算系统的物体,所以想象一下家用电器或自动驾驶汽车上的传感器。
今天,我们将讨论不同的因素,准备你的机器学习模型的嵌入式设备时要牢记。
为了进行预测,不同类型的模型需要不同的内存和时间。例如,单个决策树速度很快,只需要少量内存。最近邻方法速度较慢,需要更多内存,因此您可能不希望将它们用于嵌入式应用程序。
在决定在嵌入式设备上使用哪种模型时,另一件要记住的事情是如何将模型移植到设备上。
大多数嵌入式系统被编程在低级别的语言,如C.
但机器学习通常是在高级解释语言中完成的,如MATLAB、Python或R。
如果必须维护的代码基地2种不同的语言,这将是非常痛苦的,让他们同步。
MATLAB提供了自动将机器学习模型转换为C代码的工具,因此您不需要单独在C中手动实现模型。
所以,如果有什么,转换模型到C后,你会发现,它是不会满足我们系统的要求是什么?也许内存占用过大,或模型的时间太长作出预测?
您可以尝试其他类型的模型,看看代码是否满足需求。也许可以从一个简单的模型开始,比如决策树。
或者,你可以早点回去的过程中,看看你是否可以减少模型的特征的数量。您可以使用工具,如邻里成分分析,这是确定的影响,该功能对结果非常有用。如果您发现有些功能加权低,你可以从我们的模型中删除它们,使我们的模型更加简洁。
某些类型的模型具有与之相关的不同的简化技术。对于决策树,可以使用修剪技术,删除提供最小精度改进的节点。
另一种方法是考虑减少存储模型参数所需的内存。例如,看是否该模型可被转换成即维持可接受的精度的定点表示。
根据您的使用情况下,这些策略可能是合适的。硬件方面的考虑,网络连接和预算都将影响设计决策的关键因素。
这是嵌入机器学习模型的只是一个简要概述。有关准备模型用于嵌入式设备的更多信息,请参见下面的链接。
您还可以从以下列表中选择一个网站:
选择中国网站(以中文或英文)以获取最佳网站性能。其他MathWorks国家网站未优化您的位置。