预测象征

估计classificati预测的重要性on ensemble of decision trees

句法

一世mp = predictorImportance(ens) [[一世mp,ma] = predictorImportance(ens)

Description

一世mp=预测象征（（ens）computes estimates of predictor importance forensby summing these estimates over all weak learners in the ensemble.一世mphas one element for each input predictor in the data used to train this ensemble. A high value indicates that this predictor is important forens。

[[一世mp，，，，ma] = predictorImportance(ens）返回ap-by-p矩阵具有相关性的预测度量ppredictors, when the learners inenscontain surrogate splits. See更多关于。

我nput Arguments

ens

一个classification ensemble of decision trees, created byFitCensemble，或通过compactmethod.

输出参数

`一世mp`	一个row vector with the same number of elements as the number of predictors (columns) in`ens。X`。条目是预测指标重要性的估计值，`0`representing the smallest possible importance.
`ma`	一个`p`-by-`p`matrix of predictive measures of association for`p`predictors. Element`ma(I,J)`是在预测器上对替代分裂平均的关联的预测度量`j`for which predictor`我`是最佳的拆分预测变量。`预测象征`averages this predictive measure of association over all trees in the ensemble.

eXamples

expand all

估计预测指标的重要性

Open Live Script

估计Fisher Iris数据中所有变量的预测重要性。

load Fisher's iris data set.

加载fisheriris

使用adaboostm2训练分类合奏。将树树桩指定为弱学习者。

t=Templatetree（（'MaxNumSplits'，，，，1）；ens = fitCensemble（MES，物种，'方法'，，，，'adaboostm2'，，，，“学习者”，t）;

estimate the predictor importance for all predictor variables.

一世mp = predictorImportance(ens)

一世mp =1×40.0004 0.0016 0.1266 0.0324

在整体中，前两个预测因子不是很重要。

预测重要性和替代分裂

Open Live Script

估计Fisher Iris数据中所有变量的预测重要性对于树木包含替代分裂的合奏。

load Fisher's iris data set.

加载fisheriris

使用adaboostm2种植100棵分类树的合奏。将树树桩指定为弱学习者，并确定替代分裂。

t=Templatetree（（'MaxNumSplits'，，，，1，，，，“代理”，，，，'上'）；ens = fitCensemble（MES，物种，'方法'，，，，'adaboostm2'，，，，“学习者”，t）;

估计所有预测变量的相关性的预测重要性和预测度量。

[[一世mp,ma] = predictorImportance(ens)

一世mp =1×40。0674 0.0417 0.1582 0.1537

ma =4×41。00000000。0115 1.0000 0.0022 0.0054 0.3186 0.2137 1.0000 0.6391 0.0392 0.0073 0.1137 1.0000

前两个预测因子比分析更重要估计预测指标的重要性。

更多关于

expand all

predictor Importance

预测象征估计整体中每个树学习者的重要性ensand returns the weighted average一世mp使用ENS.训练。输出一世mp每个预测指标具有一个元素。

预测象征通过总结每个预测指标上的分裂导致节点风险的变化，然后将总和除以分支节点的总数，从而计算树中预测变量的重要性度量。节点风险的变化是父节点的风险与两个孩子的总风险之间的差异。例如，如果树将父节点（例如节点1）拆分为两个子节点（例如，节点2和3），则预测象征通过

（（r₁-r₂-r₃）/n_分支，，，，

在哪里r_一世是节点的节点风险一世，，，，andn_分支一世s the total number of branch nodes. A节点风险一世s defined as a node error or node impurity weighted by the node probability:

r_一世=p_一世e_一世，，，，

在哪里p_一世是节点的节点概率一世，，，，ande_一世一世s either the node error (for a tree grown by minimizing the twoing criterion) or node impurity (for a tree grown by minimizing an impurity criterion, such as the Gini index or deviance) of node一世。

预测因子重要性的估计取决于您是否使用替代拆分进行训练。

如果you use surrogate splits,预测象征总结每个分支节点上所有分裂的节点风险的变化，包括替代分裂。如果您不使用替代拆分，则该功能将总和超过每个分支节点处的最佳拆分。
estimates of predictor importance do not depend on the order of predictors if you use surrogate splits, but do depend on the order if you do not use surrogate splits.

杂质和节点错误

决策树基于任何一个一世mpurity或者节点错误。

我mpurity means one of several things, depending on your choice of the拆分准则名称值对参数：

Gini's Diversity Index (gdi） - 节点的Gini索引是

$1 - \sum_{一世} p^{2} （（一世），，，，$

总和在上课的地方一世在节点，p（（一世）一世s the observed fraction of classes with class一世到达节点。一个只有一个类的节点（a纯的节点）有Gini索引0;otherwise the Gini index is positive. So the Gini index is a measure of node impurity.
Deviance ('deviance'）— Withp（（一世）定义与Gini索引相同，节点的偏差为

$- \sum_{一世} p （（一世） \log_{2} p （（一世）。$

纯节点有偏差0;否则，偏差是积极的。
Twoing rule (“双人”）— Twoing is not a purity measure of a node, but is a different measure for deciding how to split a node. Letl（（一世）表示班级成员的比例一世分裂后的左子节点，r（（一世）表示班级成员的比例一世一世n the right child node after a split. Choose the split criterion to maximize

$p （（ l ） p （（ r ） {（（ \sum_{一世} | l （（一世） - r （（一世） | ）}^{2} ，，，，$

在哪里p（（l）andp（（r）分别分别向左和右分裂的观测分数。如果表达式很大，则分裂使每个子节点纯化。同样，如果表达式很小，则分裂使每个孩子的节点彼此相似，因此类似于父节点。分裂没有增加节点纯度。
节点错误 - 节点误差是节点上错误分类类的比例。如果j一世s the class with the largest number of training samples at a node, the node error is

1 -p（（j）。

predictive Measure of Association

这predictive measure of association一世s a value that indicates the similarity between decision rules that split observations. Among all possible decision splits that are compared to the optimal split (found by growing the tree), the bestsurrogate decision splityields the maximum predictive measure of association. The second-best surrogate split has the second-largest predictive measure of association.

SupposeX_jandX_k是预测变量jandk，，，，respectively, andj≠k。一个tnodet，最佳分裂之间关联的预测度量X_j<你和代孕的分裂X_k<v一世s

$λ_{j k} = \frac{最小（（ p_{l} ，，，， p_{r} ） - （（ 1 - p_{l_{j} l_{k}} - p_{r_{j} r_{k}} ）}{最小（（ p_{l} ，，，， p_{r} ）} 。$

p_l是节点中观察值的比例t，，，，such thatX_j<你。下标lstands for the left child of nodet。
p_r是节点中观察值的比例t，，，，such thatX_j≥你。下标r代表节点的合适孩子t。
$p_{l_{j} l_{k}}$ 一世s the proportion of observations at nodet，，，，such thatX_j<你andX_k<v。
$p_{r_{j} r_{k}}$ 一世s the proportion of observations at nodet，，，，such thatX_j≥你andX_k≥v。
Observations with missing values forX_j或者X_kdo not contribute to the proportion calculations.

λ_jk是（–∞，1]的值。如果λ_jk> 0，然后X_k<v是值得的代理人分歧X_j<你。

一个lgorithms

元素ma(i,j)是在预测器上对替代分裂平均的关联的预测度量jfor which predictor一世是最佳的拆分预测变量。通过求和预测器上的最佳分割的相关性预测度量的正值来计算该平均值一世并在预测器上替代拆分jand dividing by the total number of optimal splits on predictor一世，包括拆分预测指标之间关联的预测度量一世andj负面。

扩展功能

GPU数组
一个ccelerate code by running on a graphics processing unit (GPU) using Parallel Computing Toolbox™.

This function fully supports GPU arrays. For more information, see在GPU上运行MATLAB功能（并行计算工具箱）。

也可以看看

预测象征（分类树）|Templatetree