predictorImportance

決定木の分類アンサンブルに関する予測子の重要度の推定

構文

imp = predictorImportance(ens) [imp,ma] = predictorImportance(ens)

説明

小鬼= predictorImportance (实体）は，アンサンブル内のすべての弱学習器の推定を合計することにより，实体の予測子の重要度の推定を計算します。小鬼は,このアンサンブルが学習に使用するデータ内にある入力予測子それぞれにつき1つの要素をもちます。値が高ければ，实体でこの予測子が重要であることを示します。

［小鬼，妈] = predictorImportance(实体）は,实体内の学習器に代理分岐が含まれる場合，P予測子の関連性予測尺度をも，PxPの行列を返します。詳細を参照してください。

入力引数

`实体`	`fitcensemble`または`紧凑的`メソッドで作成された決定木のアンサンブル分類。

出力引数

`小鬼`	`实体以下方式`での予測子(列)の数と同じ数の要素をも程序，行ベクトル。このエントリは，予測子の重要度の推定で，`0`は，可能な限り最小の重要度を示します。
`妈`	`P`予測子の関連性予測尺度をも，`P`行`P`列の行列。要素`硕士(I, J)`は，予測子`我`が最適分割予測子となる予測子`J`の代理分岐を平均化した関連性予測尺度です。`predictorImportance`は，アンサンブル内のすべてのリにおけるこの関連性予測尺度を平均化します。

例

すべて展開する

予測子の重要度の推定

ラ@ @ブスクリプトを開く

フィッシャのアヤメのデタに含まれているすべての変数にいて予測子の重要度を推定します。

フィッシャ，のアヤメのデ，タセットを読み込みます。

负载fisheriris

AdaBoostM2を使用してアンサンブル分類に学習をさせます。弱学習器として木の切り株を指定します。

t = templateTree(“MaxNumSplits”1);Ens = fitcensemble(meas,species，“方法”，“AdaBoostM2”，“学习者”t);

すべての予測子変数にいて予測子の重要度を推定します。

imp = predictorImportance(ens)

小鬼=1×40.0004 0.0016 0.1266 0.0324

最初の2の予測子は，アンサンブルにおいてあまり重要ではありません。

予測子の重要度と代理分岐

ラ@ @ブスクリプトを開く

木に代理分岐が含まれているアンサンブルについて,フィッシャーのアヤメのデータに含まれているすべての変数に対する予測子の重要度を推定します。

フィッシャ，のアヤメのデ，タセットを読み込みます。

负载fisheriris

AdaBoostM2を使用して100本の分類木のアンサンブルを成長させます。弱学習器として木の切り株を指定し，代理分岐も指定します。

t = templateTree(“MaxNumSplits”, 1“代孕”，“上”）;Ens = fitcensemble(meas,species，“方法”，“AdaBoostM2”，“学习者”t);

すべての予測子変数にいて予測子の重要度と関連性予測尺度を推定します。

[imp,ma] = predictorImportance(ens)

小鬼=1×40.0674 0.0417 0.1582 0.1537

马=4×41.0000 000 0.0115 1.0000 0.0022 0.0054 0.3186 0.2137 1.0000 0.6391 0.0392 0.0073 0.1137 1.0000

最初の2の予測子は，予測子の重要度の推定の分析よりもはるかに重要度が高くなっています。

詳細

すべて展開する

予測子の重要度

predictorImportanceは，アンサンブル实体内の各木学習器にいて予測子の重要度を推定し，ens.TrainedWeightを使用して計算された加重平均小鬼を返します。出力小鬼には，予測子ごとに1の要素が含まれています。

predictorImportanceは,すべての予測子について分割によるノードリスクの変動を合計し,この合計を枝ノードの総数で除算することにより,木における予測子の重要度の尺度を計算します。ノドリスクの変動は，親ノドのリスクと2の子のリスク合計との差です。たとえば,木で親ノード(例:ノード1)が2つの子ノード(例:ノード2とノード3)に分割される場合,predictorImportanceは，次によって分割予測子の重要度を高めます。

(右₁- R₂- R_3.) / N_分支，

ここで，r_我はノドiのノドリスク，N_分支は枝ノ，ドの総数です。“ノ，ドリスク”は，ノ，ド確率によって重み付けされたノ，ド誤差またはノ，ドの不純度として定義されます。

R_我= P_我E_我，

ここで，p_我はノドiのノド確率，E_我はノード我のノード誤差(两个基準を最小化することで成長させた木の場合)またはノードの不純度(ジニ指数や逸脱度などの不純度基準を最小化することで成長させた木の場合)です。

予測子の重要度の推定は，学習に代理分岐を使用するかどうかによって変化します。

代理分岐を使用する場合，predictorImportanceは，各枝ノ，ドにおいて代理分岐を含むすべての分割上でノ，ドリスクの変動を合計します。代理分岐を使用しない場合，この和は各枝ノ，ドで検出される最適分割上で計算されます。
予測子の重要度の推定は,代理分岐を使用する場合,予測子の順序には依存しませんが,代理分岐を使用しない場合には,予測子の順序に依存します。

不純度とノ，ド誤差

決定木では，"不純度"または“ノ，ド誤差”に基づいてノ，ドを分割します。

不純度とは，SplitCriterion名前と値のペアの引数によって，次のいずれかの意味を表します。

ジニ多様性指数(gdi) -ノ，ドのジニ指数は，次の式で表されます。

$1 - \sum_{我} p^{2} （我），$

ここで,合計はノードのクラス我全体が対象であり,p (i)はノードに到達したクラス我をもつ観測クラスの比率です。クラスを1 ("純粋"ノド)のジニ指数は0です。それ以外のノ，ドでは，ジニ指数は正の値です。したがって，ジニ指数はノ，ドの不純度の基準です。
逸脱度 (“异常”) -ノ，ドの逸脱度は，ジニ指数と同様に定義されたp(i)を用いて次の式で表されます。

$- \sum_{我} p （我） {日志}_{2} p （我）．$

純粋ノ，ドの逸脱度は0です。それ以外のノ，ドでは，逸脱度は正の値です。
Twoing規則(“两个”) - - -两个はノードの純粋度の基準ではありませんが,ノードの分割を判断するための別の基準の1つです.Lは(我),分割後の左側の子ノードのクラス我のメンバーの比率を示し,R (i)は分割後の右側の子ノードのクラス我のメンバーの比率を示すとします。最大化するための分割基準を選択します。

$P （ l ） P （ R ） {（ \sum_{我} | l （我） - R （我） | ）}^{2} ，$

ここで，p (l)およびp (r)は，それぞれ左側と右側に分割された観測値の比率を表します。式が大きい場合は，分割によって各子ノ，ドの純粋度は高くなります。同様に，式が小さい場合は，分割によって各子ノ，ドが互いに類似するようになります。このため，親ノ，ドとも類似するようになります。分割によるノ，ドの純粋度の向上はありませんでした。
ノド誤差—ノド誤差はノドで誤分類されたクラスの比率です。jがノードで最大の学習標本数をもつクラスである場合は、ノード誤差は次のように表されます。

1 - p(j)

アルゴリズム

要素硕士(i, j)は，予測子jが最適分割予測子となる予測子我の代理分岐を平均化した関連性予測尺度です。この平均は，予測子我の最適分割，および予測子jの代理分岐における関連性予測尺度の正の値を合計し，予測子我とj間の関連性予測尺度が負になる分割も含めた，予測子我の最適分割の合計数で除算することによって計算されます。