predictorImportance

决策树分类集成中预测器重要性的估计

全部展开页面

语法

小鬼= predictorImportance(实体) (imp, ma) = predictorImportance(实体)

描述

小鬼= predictorImportance (实体）计算预测器重要性的估计实体通过对集合中所有弱学习者的估计进行求和。小鬼在用于训练这个集合的数据中，每个输入预测器都有一个元素。高值表明该预测因子对实体．

［小鬼，马) = predictorImportance (实体）返回一个P——- - - - - -P具有预测关联度量的矩阵P预测器，当学习者进入实体包含代理分裂。看到更多关于．

输入参数

`实体`	决策树的分类集成，由`fitcensemble`，或由`紧凑的`方法。

输出参数

`小鬼`	中元素数量与预测器(列)数量相同的行向量`实体．X`．条目是预测器重要性的估计，与`0`代表最小的重要性。
`马`	一个`P`——- - - - - -`P`关联的预测度量矩阵`P`预测因子。元素`硕士(I, J)`关联的预测测量是否超过预测因子的代理分割`J`的预测`我`为最优分裂预测器。`predictorImportance`对集合中所有树的关联预测度量进行平均。

例子

全部展开

估计预测的重要性

打开生活的脚本

估计在费雪虹膜数据中所有变量的预测器重要性。

载入费雪的虹膜数据集。

负载fisheriris

使用AdaBoostM2训练分类集成。指定树桩为弱学习者。

t = templateTree (“MaxNumSplits”1);实体= fitcensemble(量、种类、“方法”，“AdaBoostM2”，“学习者”t);

估计所有预测变量的预测因子的重要性。

小鬼= predictorImportance(实体)

小鬼=1×40.0004 0.0016 0.1266 0.0324

前两个预测因子在整个系统中不是很重要。

预测重要性和代理分割

打开生活的脚本

对于包含代理分割的树的集合，估计Fisher虹膜数据中所有变量的预测器重要性。

载入费雪的虹膜数据集。

负载fisheriris

使用AdaBoostM2种植100棵分类树。指定树桩作为弱学习器，并标识代理分割。

t = templateTree (“MaxNumSplits”, 1“代孕”，“上”）;实体= fitcensemble(量、种类、“方法”，“AdaBoostM2”，“学习者”t);

估计所有预测变量的预测重要性和预测关联措施。

(imp, ma) = predictorImportance(实体)

小鬼=1×40.0674 0.0417 0.1582 0.1537

马=4×41.0000 000 0.0115 1.0000 0.0022 0.0054 0.3186 0.2137 1.0000 0.6391 0.0392 0.0073 0.1137 1.0000

前两个预测因素的重要性远远大于分析估计预测的重要性．

更多关于

全部展开

预测的重要性

predictorImportance估计预测器的重要性为每个树学习者在集合实体然后返回加权平均值小鬼计算使用ens.TrainedWeight．输出小鬼每个预测器都有一个元素。

predictorImportance计算树中预测器的重要性度量，方法是将每个预测器分裂后的节点风险变化相加，然后除以分支节点的总数。节点风险的变化是父节点的风险与两个子节点的总风险之间的差异。例如，如果一棵树将父节点(例如节点1)分解为两个子节点(例如节点2和3)，则predictorImportance增加分裂预测器的重要性

（R₁- - - - - -R₂- - - - - -R_3.）/N_分支，

在哪里R_我节点是否存在节点风险我,N_分支分支节点总数。一个节点的风险定义为以节点概率加权的节点误差或节点杂质:

R_我＝P_我E_我，

在哪里P_我是节点的概率吗我,E_我是节点的节点错误(对于通过最小化二乘标准生长的树)还是节点不纯(对于通过最小化不纯标准生长的树，比如基尼指数或偏差)我．

预测器重要性的估计取决于您是否在训练中使用代理分割。

如果使用代理拆分，predictorImportance对每个分支节点上的所有分割(包括代理分割)的节点风险变化进行求和。如果不使用代理分割，则该函数对每个分支节点上找到的最佳分割进行求和。
如果使用代理分割，预测器重要性的估计不依赖于预测器的顺序，但如果不使用代理分割，则依赖于顺序。

杂质和节点错误

决策树基于两者中的任何一个来分割节点杂质或节点的错误．

不洁净指的是其中之一，取决于你的选择SplitCriterion名称-值对论点:

吉尼多元化指数(gdi)—节点的基尼系数为

$1 - \sum_{我} p^{2} （我），$

班上的总和是多少我在节点，和p（我)为观察到的类与类的比例我到达节点。只有一个类的节点(A纯节点)的基尼指数0；否则，基尼指数为正值。所以基尼指数是衡量节点杂质的指标。
异常(“异常”) - - - - - -p（我)的定义与Gini索引相同，节点的偏差为

$- \sum_{我} p （我） {日志}_{2} p （我）．$

纯节点有异常0；否则，偏差为正。
两个规则(“两个”) - Twoing不是对节点的纯粹性度量，而是决定如何分割节点的另一种度量。让l（我)表示该类成员的比例我在分割后的左子节点中，和R（我)表示该类成员的比例我在拆分后的右子节点中。选择分裂准则最大化

$P （ l ） P （ R ） {（ \sum_{我} | l （我） - R （我） | ）}^{2} ，$

在哪里P（l),P（R)是观测值中分别向左和向右分裂的部分。如果表达式很大，则拆分使每个子节点更纯粹。类似地，如果表达式很小，拆分会使每个子节点彼此相似，因此也与父节点相似。分裂并没有增加节点纯度。
节点错误-节点错误是一个节点上错误分类的类的比例。如果j训练样本个数最多的类在一个节点上，节点误差是多少

1 -p（j)．

联想预测测量

的联想预测测量是一个值，该值指示分割观察的决策规则之间的相似性。在所有可能的决策分裂中，与最优分裂(通过生长树发现)相比，最好的代理决定分手产生最大的关联预测度量。第二好的代理分裂具有第二好的关联预测指标。

假设x_j和x_k预测变量j和k分别为,j≠k．在节点t，最优分割之间关联的预测度量x_j<u和代理分裂x_k<v是

$λ_{j k} ＝ \frac{最小值（ P_{l} ， P_{R} ） - （ 1 - P_{l_{j} l_{k}} - P_{R_{j} R_{k}} ）}{最小值（ P_{l} ， P_{R} ）} ．$

P_l节点中观测值的比例是多少t,这样x_j<u．下标l表示节点的左子节点t．
P_R节点中观测值的比例是多少t,这样x_j≥u．下标R表示节点的右子节点t．
$P_{l_{j} l_{k}}$ 是节点上的观察比例吗t,这样x_j<u和x_k<v．
$P_{R_{j} R_{k}}$ 是节点上的观察比例吗t,这样x_j≥u和x_k≥v．
缺失值的观测值x_j或x_k不要参与比例计算。

λ_jk是(-∞，1)中的值。如果λ_jk> 0,然后x_k<v是否值得分割x_j<u．

算法

元素硕士(i, j)关联的预测测量是否超过预测因子的代理分割j的预测我为最优分裂预测器。这个平均值是通过对预测器的最优分割上的关联的预测测量的正值求和来计算的我预测器上的代理分裂j然后除以预测器上最优分割的总数我，包括预测指标之间关联的预测度量我和j是负的。

扩展功能

GPU数组
使用并行计算工具箱™在图形处理单元(GPU)上运行加速代码。

该功能完全支持GPU阵列。金宝app有关更多信息，请参见在GPU上运行MATLAB函数(并行计算工具箱)．

另请参阅

predictorImportance (ClassificationTree)|templateTree

predictorImportance

语法

描述

输入参数

输出参数

例子

估计预测的重要性

预测重要性和代理分割

更多关于

预测的重要性

杂质和节点错误

联想预测测量

算法

扩展功能

GPU数组
使用并行计算工具箱™在图形处理单元(GPU)上运行加速代码。

另请参阅

主题

统计和机器学习工具箱文档

金宝app

掌握机器学习:一步一步的指导与MATLAB

predictorImportance

语法

描述

输入参数

输出参数

例子

估计预测的重要性

预测重要性和代理分割

更多关于

预测的重要性

杂质和节点错误

联想预测测量

算法

扩展功能

GPU数组使用并行计算工具箱™在图形处理单元(GPU)上运行加速代码。

另请参阅

主题

统计和机器学习工具箱文档

金宝app

掌握机器学习:一步一步的指导与MATLAB

GPU数组
使用并行计算工具箱™在图形处理单元(GPU)上运行加速代码。