loss

クラス:FeatureSelectionNCAClassification

学習した特徴量の重みの精度を検定データに対して評価

このページをすべて展開する

構文

err = loss(mdl,X,Y) err = loss(mdl,X,Y,Name,Value)

説明

err= loss(mdl,X,Y)は、X内の予測子とY内のクラスラベルに対するモデルmdlの誤分類誤差を計算します。

err= loss(mdl,X,Y,Name,Value)は、1 つ以上のName,Valueペア引数で指定された追加オプションを使用して、分類誤差を計算します。

入力引数

すべて展開する

`mdl`—分類用の近傍成分分析モデル
`FeatureSelectionNCAClassification`オブジェクト

分類用の近傍成分分析モデル。FeatureSelectionNCAClassificationオブジェクトとして返されます。

`X`—予測子変数の値
n 行 p 列の行列

予測子変数の値。n 行 p 列の行列を指定します。n は観測値の個数、p は予測子変数の個数です。

データ型:single|double

`Y`—クラスラベル
categorical ベクトル|logical ベクトル|数値ベクトル|string 配列|長さ n の文字ベクトルの cell 配列|n 行の文字行列

クラスラベル。categorical ベクトル、logical ベクトル、数値ベクトル、string 配列、長さ n の文字ベクトルの cell 配列、または n 行の文字行列を指定します。n は観測値の個数です。Yの要素 i または行 i は、Xの行我(観測値i)に対応するクラスラベルです。

名前と値の引数

オプションのName,Value引数のコンマ区切りペアを指定します。Nameは引数名で、Valueは対応する値です。Nameは引用符で囲まなければなりません。Name1,Value1,...,NameN,ValueNのように、複数の名前と値のペアの引数を、任意の順番で指定できます。

`LossFunction`—損失関数のタイプ
`'classiferror'`(既定値) |`'quadratic'`

損失関数のタイプ。'Loss Function'と次のいずれかから構成されるコンマ区切りのペアとして指定します。

'classiferror'— 次のように定義される 10 進数の誤分類率。

$\frac{1}{n} \sum_{i = 1}^{n} I (k_{i} \neq t_{i}),$

$k_{i}$ は予測されたクラス、 $t_{i}$ は観測値 i の真のクラスです。 $I (k_{i} \neq t_{i})$ は、 $k_{i}$ と $t_{i}$ が同じではないことを示すインジケーターです。
'quadratic'— 次のように定義される二次損失関数。

$\frac{1}{n} \sum_{i = 1}^{n} \sum_{k = 1}^{c} {(p_{i k} - I (i, k))}^{2},$

c はクラスの数、 $p_{i k}$ は i 番目の観測値がクラス k に属する推定確率、 $I (i, k)$ は i 番目の観測値がクラス k に属することを示すインジケーターです。

例:'LossFunction','quadratic'

出力引数

すべて展開する

`err`— 学習した特徴量の重みに対する、小さいほど優秀とする精度の尺度
スカラー値

学習した特徴量の重みに対する、小さいほど優秀とする精度の尺度。スカラー値として返されます。精度の尺度は、名前と値のペアの引数LossFunctionを使用して指定できます。

例

すべて展開する

分類用の NCA モデルの調整

スクリプトを開く

標本データを読み込みます。

load('twodimclassdata.mat');

このデータセットは、[1] で説明されている方法を使用してシミュレートしたものです。これは 2 次元の 2 クラス分類問題です。1 番目のクラス (クラス -1) のデータは、2 つの二変量正規分布 $N(\mu_1,\Sigma)$ または $N(\mu_2,\Sigma)$ から同じ確率で抽出されたものです。ここで、 $\mu_1 = [-0.75,-1.5]$ 、 $\mu_2 = [0.75,1.5]$ および $\Sigma = I_2$ です。同様に、2 番目のクラス (クラス 1) のデータは、2 つの二変量正規分布 $N(\mu_3,\Sigma)$ または $N(\mu_4,\Sigma)$ から同じ確率で抽出されたものです。ここで、 $\mu_3 = [1.5,-1.5]$ 、 $美元\ mu_4= [-1.5,1.5]$$ および $\Sigma = I_2$ です。このデータセットを作成するために使用した正規分布のパラメーターでは、[1] で使用されているデータよりデータのクラスターが緊密になります。

クラス別にグループ化したデータの散布図を作成します。

figure gscatter(X(:,1),X(:,2),y) xlabel('x1') ylabel('x2')

100 個の無関係な特徴量をに追加します。はじめに、平均が 0、分散が 20 の正規分布からデータを生成します。

n = size(X,1); rng('default') XwithBadFeatures = [X,randn(n,100)*sqrt(20)];

すべての点が 0 と 1 の間になるようにデータを正規化します。

XwithBadFeatures = bsxfun(@rdivide,...bsxfun(@minus,XwithBadFeatures,min(XwithBadFeatures,[],1)),...range(XwithBadFeatures,1)); X = XwithBadFeatures;

既定値のLambda(正則化パラメーター $\λ美元$ ) を使用して近傍成分分析 (NCA) モデルをデータにあてはめます。LBFGS ソルバーを使用し、収束情報を表示します。

ncaMdl = fscnca (X, y,'FitMethod','exact','Verbose',1,...'Solver','lbfgs');

o解决= LBFGS LineSea HessianHistorySize = 15日rchMethod = weakwolfe |====================================================================================================| | ITER | FUN VALUE | NORM GRAD | NORM STEP | CURV | GAMMA | ALPHA | ACCEPT | |====================================================================================================| | 0 | 9.519258e-03 | 1.494e-02 | 0.000e+00 | | 4.015e+01 | 0.000e+00 | YES | | 1 | -3.093574e-01 | 7.186e-03 | 4.018e+00 | OK | 8.956e+01 | 1.000e+00 | YES | | 2 | -4.809455e-01 | 4.444e-03 | 7.123e+00 | OK | 9.943e+01 | 1.000e+00 | YES | | 3 | -4.938877e-01 | 3.544e-03 | 1.464e+00 | OK | 9.366e+01 | 1.000e+00 | YES | | 4 | -4.964759e-01 | 2.901e-03 | 6.084e-01 | OK | 1.554e+02 | 1.000e+00 | YES | | 5 | -4.972077e-01 | 1.323e-03 | 6.129e-01 | OK | 1.195e+02 | 5.000e-01 | YES | | 6 | -4.974743e-01 | 1.569e-04 | 2.155e-01 | OK | 1.003e+02 | 1.000e+00 | YES | | 7 | -4.974868e-01 | 3.844e-05 | 4.161e-02 | OK | 9.835e+01 | 1.000e+00 | YES | | 8 | -4.974874e-01 | 1.417e-05 | 1.073e-02 | OK | 1.043e+02 | 1.000e+00 | YES | | 9 | -4.974874e-01 | 4.893e-06 | 1.781e-03 | OK | 1.530e+02 | 1.000e+00 | YES | | 10 | -4.974874e-01 | 9.404e-08 | 8.947e-04 | OK | 1.670e+02 | 1.000e+00 | YES | Infinity norm of the final gradient = 9.404e-08 Two norm of the final step = 8.947e-04, TolX = 1.000e-06 Relative infinity norm of the final gradient = 9.404e-08, TolFun = 1.000e-06 EXIT: Local minimum found.

特徴量の重みをプロットします。無関係な特徴量の重みはゼロに非常に近いはずです。

figure semilogx(ncaMdl.FeatureWeights,'ro') xlabel('Feature index') ylabel('Feature weight') gridon

NCA モデルを使用してクラスを予測し、混同行列を計算します。

ypred = predict(ncaMdl,X); confusionchart(y,ypred)

混同行列は、クラス –1 に属しているデータのうち 40 個がクラス –1 に属すると予測されていることを示しています。クラス –1 のデータのうち 60 個は、クラス 1 に属すると予測されています。同様に、クラス 1 のデータのうち 94 個はクラス 1 に、6 個はクラス –1 に属すると予測されています。クラス -1 の予測精度が良くありません。

すべての重みがゼロに非常に近くなっています。これは、モデルに学習をさせるときに使用した $\λ美元$ の値が大きすぎることを示します。 $\lambda \to \infty$ では、すべての特徴量の重みがゼロに近づきます。したがって、関連がある特徴量を判別するには、ほとんどのケースで正則化パラメーターを調整することが重要です。

5 分割交差検証を使用して、fscncaを使用する特徴選択用に $\λ美元$ を調整します。 $\λ美元$ の調整とは、分類損失が最小になる $\λ美元$ の値を求めることを意味します。交差検証を使用して $\λ美元$ を調整するため、以下を行います。

1.データを 5 つの分割に分割します。各分割について、cvpartitionはデータの 4/5 を学習セットとして、1/5 を検定セットとして割り当てます。さらに各分割について、クラスの比率がほぼ等しい層化区分をcvpartitionで作成します。

cvp = cvpartition(y,'kfold',5); numtestsets = cvp.NumTestSets; lambdavalues = linspace(0,2,20)/length(y); lossvalues = zeros(length(lambdavalues),numtestsets);

2.各分割の学習セットを使用して、 $\λ美元$ の各値について近傍成分分析 (NCA) モデルに学習をさせます。

3.NCA モデルを使用して、分割内の対応する検定セットの分類損失を計算します。損失の値を記録します。

4.このプロセスをすべての分割およびすべての $\λ美元$ の値に対して繰り返します。

fori = 1:length(lambdavalues)fork = 1:numtestsets% Extract the training set from the partition objectXtrain = X(cvp.training(k),:); ytrain = y(cvp.training(k),:);% Extract the test set from the partition objectXtest = X(cvp.test(k),:); ytest = y(cvp.test(k),:);% Train an NCA model for classification using the training setncaMdl = fscnca(Xtrain,ytrain,'FitMethod','exact',...'Solver','lbfgs','Lambda',lambdavalues(i));%计算classification loss for the test set using the NCA% modellossvalues(i,k) = loss(ncaMdl,Xtest,ytest,...'LossFunction','quadratic');endend

分割の平均損失値を $\λ美元$ の値についてプロットします。最小の損失に対応する $\λ美元$ の値が $\λ美元$ のテスト済みの値の境界に位置する場合、 $\λ美元$ の値の範囲を再検討する必要があります。

figure plot(lambdavalues,mean(lossvalues,2),'ro-') xlabel('Lambda values') ylabel('Loss values') gridon

最小の平均損失に対応する $\λ美元$ の値を求めます。

[~,idx] = min(mean(lossvalues,2));% Find the indexbestlambda = lambdavalues(idx)% Find the best lambda value

bestlambda = 0.0037

最適な $\λ美元$ の値を使用して、すべてのデータに NCA モデルをあてはめます。LBFGS ソルバーを使用し、収束情報を表示します。

ncaMdl = fscnca (X, y,'FitMethod','exact','Verbose',1,...'Solver','lbfgs','Lambda',bestlambda);

o解决= LBFGS LineSea HessianHistorySize = 15日rchMethod = weakwolfe |====================================================================================================| | ITER | FUN VALUE | NORM GRAD | NORM STEP | CURV | GAMMA | ALPHA | ACCEPT | |====================================================================================================| | 0 | -1.246913e-01 | 1.231e-02 | 0.000e+00 | | 4.873e+01 | 0.000e+00 | YES | | 1 | -3.411330e-01 | 5.717e-03 | 3.618e+00 | OK | 1.068e+02 | 1.000e+00 | YES | | 2 | -5.226111e-01 | 3.763e-02 | 8.252e+00 | OK | 7.825e+01 | 1.000e+00 | YES | | 3 | -5.817731e-01 | 8.496e-03 | 2.340e+00 | OK | 5.591e+01 | 5.000e-01 | YES | | 4 | -6.132632e-01 | 6.863e-03 | 2.526e+00 | OK | 8.228e+01 | 1.000e+00 | YES | | 5 | -6.135264e-01 | 9.373e-03 | 7.341e-01 | OK | 3.244e+01 | 1.000e+00 | YES | | 6 | -6.147894e-01 | 1.182e-03 | 2.933e-01 | OK | 2.447e+01 | 1.000e+00 | YES | | 7 | -6.148714e-01 | 6.392e-04 | 6.688e-02 | OK | 3.195e+01 | 1.000e+00 | YES | | 8 | -6.149524e-01 | 6.521e-04 | 9.934e-02 | OK | 1.236e+02 | 1.000e+00 | YES | | 9 | -6.149972e-01 | 1.154e-04 | 1.191e-01 | OK | 1.171e+02 | 1.000e+00 | YES | | 10 | -6.149990e-01 | 2.922e-05 | 1.983e-02 | OK | 7.365e+01 | 1.000e+00 | YES | | 11 | -6.149993e-01 | 1.556e-05 | 8.354e-03 | OK | 1.288e+02 | 1.000e+00 | YES | | 12 | -6.149994e-01 | 1.147e-05 | 7.256e-03 | OK | 2.332e+02 | 1.000e+00 | YES | | 13 | -6.149995e-01 | 1.040e-05 | 6.781e-03 | OK | 2.287e+02 | 1.000e+00 | YES | | 14 | -6.149996e-01 | 9.015e-06 | 6.265e-03 | OK | 9.974e+01 | 1.000e+00 | YES | | 15 | -6.149996e-01 | 7.763e-06 | 5.206e-03 | OK | 2.919e+02 | 1.000e+00 | YES | | 16 | -6.149997e-01 | 8.374e-06 | 1.679e-02 | OK | 6.878e+02 | 1.000e+00 | YES | | 17 | -6.149997e-01 | 9.387e-06 | 9.542e-03 | OK | 1.284e+02 | 5.000e-01 | YES | | 18 | -6.149997e-01 | 3.250e-06 | 5.114e-03 | OK | 1.225e+02 | 1.000e+00 | YES | | 19 | -6.149997e-01 | 1.574e-06 | 1.275e-03 | OK | 1.808e+02 | 1.000e+00 | YES | |====================================================================================================| | ITER | FUN VALUE | NORM GRAD | NORM STEP | CURV | GAMMA | ALPHA | ACCEPT | |====================================================================================================| | 20 | -6.149997e-01 | 5.764e-07 | 6.765e-04 | OK | 2.905e+02 | 1.000e+00 | YES | Infinity norm of the final gradient = 5.764e-07 Two norm of the final step = 6.765e-04, TolX = 1.000e-06 Relative infinity norm of the final gradient = 5.764e-07, TolFun = 1.000e-06 EXIT: Local minimum found.

特徴量の重みをプロットします。

figure semilogx(ncaMdl.FeatureWeights,'ro') xlabel('Feature index') ylabel('Feature weight') gridon

fscncaは、初めの 2 つの特徴量に関連があり残りはそうではないことを正しく判別します。初めの 2 つの特徴量は単独では情報を与えませんが、一緒にすると正確な分類モデルが得られます。

新しいモデルを使用してクラスを予測し、精度を計算します。

ypred = predict(ncaMdl,X); confusionchart(y,ypred)

混同行列は、クラス -1 の予測精度が改善されたことを示しています。クラス -1 のデータのうち 88 個はクラス -1 に、12 個はクラス 1 に属すると予測されています。クラス 1 のデータのうち 92 個はクラス 1 に、8 個はクラス -1 に属すると予測されています。

参考文献

[1] Yang, W., K. Wang, W. Zuo."Neighborhood Component Feature Selection for High-Dimensional Data."Journal of Computers. Vol. 7, Number 1, January, 2012.

バージョン履歴

R2016b で導入

参考

predict|fscnca|refit|FeatureSelectionNCAClassification

loss

構文

説明

入力引数

mdl—分類用の近傍成分分析モデルFeatureSelectionNCAClassificationオブジェクト

X—予測子変数の値n 行 p 列の行列

Y—クラス ラベルcategorical ベクトル|logical ベクトル|数値ベクトル|string 配列|長さ n の文字ベクトルの cell 配列|n 行の文字行列

名前と値の引数

LossFunction—損失関数のタイプ'classiferror'(既定値) |'quadratic'

出力引数

err— 学習した特徴量の重みに対する、小さいほど優秀とする精度の尺度スカラー値

例

分類用の NCA モデルの調整

バージョン履歴

参考

`mdl`—分類用の近傍成分分析モデル
`FeatureSelectionNCAClassification`オブジェクト

`X`—予測子変数の値
n 行 p 列の行列

`Y`—クラスラベル
categorical ベクトル|logical ベクトル|数値ベクトル|string 配列|長さ n の文字ベクトルの cell 配列|n 行の文字行列

`LossFunction`—損失関数のタイプ
`'classiferror'`(既定値) |`'quadratic'`

`err`— 学習した特徴量の重みに対する、小さいほど優秀とする精度の尺度
スカラー値