深層学習を使用した化学的プロセスの故障検出

ラ@ @ブスクリプトを開く

この例では,シミュレーションデータを使用して,化学的プロセスの故障を検出できるニューラルネットワークに学習させる方法を説明します。このネットワ，クは，シミュレ，トされたプロセス内にある故障を高い精度で検出します。一般的なワ，クフロ，を以下に示します。

デ，タの前処理
層ア，キテクチャの設計
ネットワ，クの学習
検証の実行
ネットワ，クのテスト

デ，タセットのダウンロ，ド

この例では,田纳西伊士曼过程(TEP)シミュレーションデータ[1]からMathWorks®によって変換されたMATLAB形式のファescルを使用します。これらのファaapl . exe, MathWorksのサポaapl . exe, MathWorksのサポaapl . exe, MathWorksのサポaapl . exe。免責事項を参照してください。

データセットは,故障なし学習,故障なしテスト,故障あり学習,故障ありテストの4つのコンポーネントで構成されます。各ファ▪▪ルを別々にダウンロ▪▪ドします。

url =“//www.tatmou.com/金宝appsupportfiles/predmaint/chemical-process-fault-detection-data/faultytesting.mat”；websave (“faultytesting.mat”url);url =“//www.tatmou.com/金宝appsupportfiles/predmaint/chemical-process-fault-detection-data/faultytraining.mat”；websave (“faultytraining.mat”url);url =“//www.tatmou.com/金宝appsupportfiles/predmaint/chemical-process-fault-detection-data/faultfreetesting.mat”；websave (“faultfreetesting.mat”url);url =“//www.tatmou.com/金宝appsupportfiles/predmaint/chemical-process-fault-detection-data/faultfreetraining.mat”；websave (“faultfreetraining.mat”url);

ダウンロドしたファルをmatlab®ワクスペスに読み込みます。

负载(“faultfreetesting.mat”）;负载(“faultfreetraining.mat”）;负载(“faultytesting.mat”）;负载(“faultytraining.mat”）;

各コンポーネントには,2つのパラメーターのすべての順列について実行されたシミュレーションからのデータが含まれています。

故障番号,故障ありのデータセットの場合,シミュレートされた各故障を表す1 ~ 20の整数値。故障なしのデ，タセットの場合，値は0;
シミュレション実行回数—すべてのデタセットにいて，1 ~ 500の整数値。各値は，シミュレ，ションで使用する乱数発生器の一意の状態を表します。

各シミュレ，ションの長さはデ，タセットに依存します。すべてのシミュレーションが 3 分ごとにサンプリングされました。

学習データセットには,25時間のシミュレーションから得られた500個の時間サンプルが含まれています。
テストデータセットには,48時間のシミュレーションで得られた960回分のサンプルが含まれています。

各デ，タフレ，ムの列には次の変数が格納されています。

列 1 (faultNumber)は故障タaapl . aapl .プを示し，0 ~ 20の値を取ります。故障番号0は故障がないことを意味し,故障番号1 ~ 20はTEP内の異なる故障タイプを表します。
列 2 (simulationRun)は，完全なデ，タを取得するためにtepシミュレ，ションを実行した回数を示します。学習データセットとテストデータセットでは,すべての故障番号について実行数が1 ~ 500の範囲で変動します。各simulationRunの各値は，そのシミュレ，ションの異なる乱数発生器の状態を表します。
列 3 (样本)は，シミュレ，ションごとにtep変数を記録した回数を表します。この回数は,学習データセットでは1 ~ 500,テストデータセットでは1 ~ 960の範囲で変動します。TEP変数(列4 ~ 55)は,3分ごとに,学習データセットの場合は25時間,テストデータセットの場合は48時間にわたってサンプリングされています。
列 4 ～ 44 (xmeas_1～xmeas_41)には，測定されたtep変数が格納されます。
列 45 ～ 55 (xmv_1～xmv_11)には，tepの操作変数が格納されます。

2。

头(faultfreetraining, 4)

ans =表4×55faultNumber simulationRun sample xmeas_1 xmeas_2 xmeas_3 xmeas_4 xmeas_5 xmeas_6 xmeas_7 xmeas_8 xmeas_9 xmeas_10 xmeas_11 xmeas_12 xmeas_13 xmeas_16 xmeas_17 xmeas_18 xmeas_19 xmeas_20 xmeas_21 xmeas_22 xmeas_23 xmeas_24 xmeas_25 xmeas_26 xmeas_27 xmeas_28 xmeas_29 xmeas_30 xmeas_31 xmeas_32 xmeas_33 xmeas_34 xmeas_35 xmeas_36 xmeas_37 xmeas_38 xmeas_39 xmeas_40 xmeas_41 xmv_1 xmv_2 xmv_3 xmv_4 xmv_7 xmv_8 xmv_10 xmv_11 ___________ _____________ _____________ _______ _______ _______ _______ _______ _______ _______ _______ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ______ ______ ______ ______ ______ ______ ______ ______ ______ ______ ______ 0 1 1 0.25038 3674 4529 9.232 26.889 42.402 2704.3 74.863120.41 0.33818 80.044 51.435 2632.9 25.029 50.528 3101.1 22.819 65.732 229.61 341.22 94.64 77.047 32.188 8.8933 26.383 6.882 18.776 1.6567 32.958 13.878 2.2633 4.8436 2.2986 0.017866 0.957 0.098577 53.724 43.828 62.881 53.744 24.657 47.544 22.137 39.935 42.323 47.757 47.51 41.258 18.447 01 2 0.25109 3659.4 4556.6 9.4264 26.721 42.576 2705 75 120.41 0.3362 50.154 2633.8 24.419 48.772 3102 23.333 65.716 94.534 32.188 8.8933 26.383 6.882 18.7761.6567 32.958 13.823 23.978 1.2565 18.579 2.2633 4.8436 2.2986 0.017866 0.8357 0.098577 53.724 43.828 63.132 0.354 43.682 47.47.8 9.4426 26.875 42.07 2706.2 74.771 120.42 0.33563 80.22 50.302 2635.5 25.244 3103.5 21.924 65.732 230.08 341.38 94.605 77.466 31.767 8.7694 26.095 6.8259 18.961 2.2602 4.8543 2.39 0.017866 0.83.117 54.357 24.66661.275 22.38 40.244 38.99 46.699 47.468 41.199 20.53 01 4 0.24977 3661.3 4512.1 9.4776 26.758 42.063 2707.2 75.224 120.39 0.33553 80.305 49.99 2635.6 23.268 50.435 3102.8 22.948 65.781 341.71 94.473 77.443 31.767 8.7694 26.095 6.8259 18.961 1.6292 32.985 13.897 1.3001 18.765 2.2602 4.8543 2.39 0.017866 0.8357 0.098577 53.257 38.072 47.541 47.658 41.643 18.089

头(faultytraining, 4)

ans =表4×55faultNumber simulationRun sample xmeas_1 xmeas_2 xmeas_3 xmeas_4 xmeas_5 xmeas_6 xmeas_7 xmeas_8 xmeas_9 xmeas_10 xmeas_11 xmeas_12 xmeas_13 xmeas_16 xmeas_17 xmeas_18 xmeas_19 xmeas_20 xmeas_21 xmeas_22 xmeas_23 xmeas_24 xmeas_25 xmeas_26 xmeas_27 xmeas_28 xmeas_29 xmeas_30 xmeas_31 xmeas_32 xmeas_33 xmeas_34 xmeas_35 xmeas_36 xmeas_37 xmeas_38 xmeas_39 xmeas_40 xmeas_41 xmv_1 xmv_2 xmv_3 xmv_4 xmv_7 xmv_8 xmv_10 xmv_11 ___________ _____________ _____________ _______ _______ _______ _______ _______ _______ _______ _______ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ________ ______ ______ ______ ______ ______ ______ ______ ______ ______ ______ ______ 1 1 1 0.25038 3674 4529 9.232 26.889 42.402 2704.3 74.863120.41 0.33818 80.044 51.435 2632.9 25.029 50.528 3101.1 22.819 65.732 229.61 341.22 94.64 77.047 32.188 8.8933 26.383 6.882 18.776 1.6567 32.958 13.878 2.2633 4.8436 2.2986 0.017866 0.957 0.098577 53.724 43.828 62.881 53.744 24.657 47.544 22.137 39.935 42.323 47.757 47.51 41.258 18.447 1 12 0.25109 3659.4 4556.6 9.4264 26.721 42.576 2705 75 120.41 0.3362 50.154 2633.8 24.419 48.772 3102 23.333 65.716 94.534 32.188 8.8933 26.383 6.882 18.7761.6567 32.958 13.823 23.978 1.2565 18.579 2.2633 4.8436 2.2986 0.017866 0.8357 0.098577 53.724 43.828 63.132 0.354 43.682 47.47.8 9.4426 26.875 42.07 2706.2 74.771 120.42 0.33563 80.22 50.302 2635.5 25.244 3103.5 21.924 65.732 230.08 341.38 94.605 77.466 31.767 8.7694 26.095 6.8259 18.961 2.2602 4.8543 2.39 0.017866 0.83.117 54.357 24.66661.275 22.38 40.244 38.99 46.699 47.468 41.199 20.53 1 1 4 0.24977 3661.3 4512.1 9.4776 26.758 42.063 2707.2 75.224 120.39 0.33553 80.305 49.99 2635.6 23.268 50.435 3102.8 22.948 65.781 341.71 94.473 77.443 31.767 8.7694 26.095 6.8259 18.961 1.6292 32.985 13.897 1.3001 18.765 2.2602 4.8543 2.39 0.017866 0.8357 0.098577 53.257 38.072 47.541 47.658 41.643 18.089

デ，タのクリ，ンアップ

学習データセットとテストデータセットの両方で,故障番号が3 9および15のデータエントリを削除します。これらの故障番号は認識が不可能で，関連するシミュレ，ション結果は誤りです。

faultytesting (faultytesting。faultNumber == 3，:) = [];faultytesting (faultytesting。faultNumber == 9，:) = [];faultytesting (faultytesting。faultNumber == 15，:) = [];faultytraining (faultytraining。faultNumber == 3，:) = [];faultytraining (faultytraining。faultNumber == 9，:) = [];faultytraining (faultytraining。faultNumber == 15，:) = [];

デ，タの分割

検証用に学習データの20%を予約することによって,学習データを学習データと検証データに分割します。検証データセットを使用すると,モデルのハイパーパラメーターを調整しながら,学習データセットへのモデルの適合を評価できます。デ，タの分割は，ネットワ，クの過適合や適合不足を防ぐためによく使用されます。

故障ありと故障なしの両方の学習デ，タセットで，行の総数を取得します。

H1 =高度(faultfreetraining);H2 = height(faultytraining);

シミュレション実行数は，特定の故障タプでtepプロセスを繰り返した回数です。学習デ，タセットとテストデ，タセットの両方から，最大のシミュレ，ション実行数を取得します。

msTrain = max(faultfreetraining.simulationRun);msTest = max(faultytesting.simulationRun);

検証デタにいて最大のシミュレション実行数を計算します。

rTrain = 0.80;msVal = ceil(msTrain*(1 - rTrain));msTrain = msTrain*rTrain;

サンプルまたはタイムステップの最大数(つまり,TEPシミュレーション中にデータが記録された最大の回数)を取得します。

sampleTrain = max(faultfreetraining.sample);sampleTest = max(faultfreetesting.sample);

故障なしと故障ありの学習データセットで分割点(行番号)を取得して,学習データセットから検証データセットを作成します。

rowLim1 = cell (rTrain*H1);rowLim2 = cell (rTrain*H2);trainingData = [faultfreetraining{1:rowLim1，:};faultytraining {1: rowLim2,:}];validationData = [faultfreetraining{rowLim1 + 1:end，:};faultytraining{rowLim2 + 1:end，:}];testingData = [faultfreetesting{:，:};faultytesting {,,}):;

ネットワ，クの設計と前処理

最終データセット(学習データ,検証データ,およびテストデータで構成)には,500個の等間隔のタイムステップをもつ52個の信号が格納されています。そのため,信号つまりシーケンスを正しい故障番号に分類する必要があるため,これはシーケンス分類の問題となります。

長短期記憶(lstm)ネットワ，クは，シ，ケンスデ，タの分類に適しています。
LSTMネットワークは,新しい信号を分類するために過去の信号の一意性を記憶する傾向があるため,時系列データに向いています。
LSTMネットワークでは,シーケンスデータをネットワークに入力し,シーケンスデータの個々のタイムステップに基づいて予測を行うことができます。LSTMネットワクの詳細にいては，長短期記憶ネットワ，クを参照してください。
関数trainNetworkを使用してシーケンスを分類するようにネットワークを学習させるには,最初にデータを前処理しなければなりません。デタはcell配列でなければなりません。ここで细胞配列の各要素は1回のシミュレーションに含まれる52個の信号のセットを表す行列です。细胞配列の各行列は,TEPの特定のシミュレーションの信号セットであり,故障ありまたは故障なしのいずれかにできます。信号の各セットは0 ~ 20の範囲の特定の故障クラスを指しています。

データセットセクションで前述したように,データには52個の変数が格納されており,その値はシミュレーションにおいて特定の時間にわたって記録されます。変数样本は，この52個の変数が1回のシミュレ，ション実行で記録される回数を表します。変数样本の最大値は，学習デ，タセットでは500，テストデ，タセットでは960です。したがって,シミュレーションごとに,長さが500または960の52個の信号のセットが存在します。信号の各セットは,TEPの特定のシミュレーション実行に属し,範囲0 ~ 20の特定の故障タイプを指します。

学習データセットとテストデータセットは両方とも各故障タイプについて500個のシミュレーションを含みます。学習データから20%が検証用に保持されるため,学習データセットには各故障タイプにつき400個のシミュレーション,検証データには各故障タイプにつき100個のシミュレーションが残ります。補助関数helperPreprocessを使用して信号のセットを作成します。ここで各セットは1回のTEPシミュレーションを表す细胞配列の単一要素に含まれる双行列です。そのため,学習データセット,検証データセット,およびテストデータセットの最終的なサイズは次のようになります。

Xtrainのサイズ:(シミュレーションの総数)X(故障タイプの総数)= 400 X 18 = 7200
XValのサイズ:(シミュレーションの総数)X(故障の種類の総数)= 100 X 18 = 1800
Xtestのサイズ:(シミュレーションの総数)X(故障の種類の総数)= 500 X 18 = 9000

デタセットにおいて，最初の500回のシミュレションは故障タプが0(故障なし)であり，それ以降の故障ありのシミュレ，ションの順序はわかっています。この情報により,学習データセット,検証データセット,およびテストデータセットに対する真の応答の作成が可能になります。

Xtrain = helppreprocess (trainingData,sampleTrain);Ytrain = categorical([0 (msTrain,1);repmat([1,2,4:8,10:14,16:20]，1,msTrain)']);XVal = helppreprocess (validationData,sampleTrain);YVal =分类([0 (msVal 1); repmat([1、2、4:8,14,十六20],1,msVal) ');Xtest = helppreprocess (testingData,sampleTest);欧美=分类([0 (msTest 1); repmat([1、2、4:8,14,十六20],1,msTest) ');

デ，タセットの正規化

正規化は,値の範囲内の差異を歪めることなく,データセット内の数値を共通の尺度にスケーリングする手法です。この手法によって，大きな値をも変数が学習中に他の変数の優位にならないようにします。また,学習に必要となる重要な情報を失うことなく,大きな範囲の数値を小さな範囲(通常1 ~ 1)に変換します。

学習データセットに含まれるすべてのシミュレーションからのデータを使用して,52個の信号の平均と標準偏差を計算します。

tMean = mean(trainingData(:，4:end))';tSigma = std(trainingData(:，4:end))';

補助関数helperNormalizeを使用して,学習データの平均と標準偏差に基づき,3つのデータセット内の各细胞に正規化を適用します。

Xtrain = helperNormalize(Xtrain, tMean, tSigma);XVal = helpnormalize (XVal, tMean, tSigma);Xtest = helpnormalize (Xtest, tMean, tSigma);

デ，タの可視化

Xtrainデータセットには400回の故障なしシミュレーション,その後に6800回の故障ありシミュレーションが含まれます。故障なしのデ，タと故障ありのデ，タを可視化します。最初に，故障なしのデ，タのプロットを作成します。この例の目的上，Xtrainデータセット内の10個の信号のみをプロットしてラベルを付け,読みやすい图を作成します。

图;Splot = 10;情节(Xtrain {1} (1:10:) ');包含(“时间步”）;标题(“无故障数据的训练观察”）;传奇(“信号”+字符串(1:splot),“位置”，“northeastoutside”）;

次に,400年以降の任意の细胞配列要素をプロットして,故障なしのプロットと故障ありのプロットを比較します。

图;情节(Xtrain {1000} (1:10:) ');包含(“时间步”）;标题(《错误数据的训练观察》）;传奇(“信号”+字符串(1:splot),“位置”，“northeastoutside”）;

層ア，キテクチャと学習オプション

LSTM層は,入力シーケンスの重要な部分のみを記憶する傾向があるため,シーケンス分類に適しています。

入力層sequenceInputLayerを入力信号の数(52)と同じサ▪▪ズに指定します。
3 .のLSTM隠れ層を指定し，それぞれ52個，40個，25個のユニットをもたせます。この指定は，[２]で行った実験からヒントを得ています。LSTMネットワクを使用したシケンス分類の詳細にいては，深層学習を使用したシ，ケンスの分類を参照してください。
過適合を防ぐため，lstm層の間に3のドロップアウト層を追加します。ドロップアウト層は,ネットワークが層内の少数のニューロンのセットから影響を受けないよう,指定の確率でランダムに次の層の入力要素をゼロに設定します。
最後に，分類のために，出力クラスの数(18)と同じサ。全結合層の後に,複数クラス問題の各クラスに小数の確率値(予測可能性)を割り当てるソフトマックス層と,ソフトマックス層からの出力を基に最終的な故障タイプを出力する分類層を含めます。

numSignals = 52;numhiddenunit2 = 52;numhiddenunit3 = 40;numhiddenunit4 = 25;numClasses = 18;层= […sequenceInputLayer numSignals lstmLayer (numHiddenUnits2,“OutputMode”，“序列”lstmLayer(numhiddenunit3)“OutputMode”，“序列”lstmLayer(numhiddenunit4)“OutputMode”，“最后一次”) dropoutLayer(0.2) fullyConnectedLayer(numClasses) softmaxLayer classificationLayer];

trainNetworkを使用する学習オプションを設定します。

名前と値のペア“ExecutionEnvironment”の既定値を“汽车”のままにします。この設定では，ソフトウェアが実行環境を自動的に選択します。GPUが利用可能な場合(并行计算工具箱™,および以3.0计算能力上のCUDA®対応GPUが必要),ソフトウェアはそのGPUを使用します。そうでない場合，ソフトウェアはCPUを使用します。この例は大量のデ，タを使用するため，gpuを使用すると学習時間が大幅に短縮されます。

名前と値の引数のペア“洗牌”を“every-epoch”に設定すると，すべてのエポックで同じデ，タが破棄されるのを回避できます。

深層学習の学習オプションの詳細にいては，trainingOptionsを参照してください。

maxEpochs = 30;miniBatchSize = 50;选项= trainingOptions(“亚当”，…“ExecutionEnvironment”，“汽车”，…“GradientThreshold”，1，…“MaxEpochs”maxEpochs,…“MiniBatchSize”miniBatchSize,…“洗牌”，“every-epoch”，…“详细”0,…“阴谋”，“训练进步”，…“ValidationData”, {XVal, YVal});

ネットワ，クの学習

trainNetworkを使用してLSTMネットワ，クに学習させます。

net = trainNetwork(Xtrain,Ytrain，图层，选项);

学習進行状況の図は，ネットワ，クの精度のプロットを示しています。図の右側で，学習時間と設定に関する情報を確認します。

ネットワ，クのテスト

テストセットで学習済みネットワクを実行し，信号内の故障タプを予測します。

Ypred =分类(net,Xtest，…“MiniBatchSize”miniBatchSize,…“ExecutionEnvironment”，“汽车”）;

精度を計算します。精度とは，分类による分類に一致するテストデータ内の真のラベルの数を,テストデータ内のイメージの数で除算したものです。

acc = sum(Ypred == Ytest)./ nummel (Ypred)

Acc = 0.9992

高い精度は,ニューラルネットワークが未知の信号の故障タイプを最小限の誤差で正しく特定できたことを示します。そのため，精度が高いほど，ネットワ，クは優れたものとなります。

テスト信号の真のクラスラベルを使用して混同行列をプロットし,ネットワークが各故障をどの程度適切に特定しているかを判定します。

confusionchart(欧美,Ypred);

混同行列を使用すると，分類ネットワ，クの有効性を評価できます。混同行列は，主対角に数値，それ以外の場所に0をもます。この例の学習済みネットワ，クは有効であり，信号の99%以上を正しく分類します。

参考文献

[1]里斯，C. A.， B. D.阿姆塞尔，R. Tran。和B. Maia。附加田纳西伊士曼过程模拟数据异常检测评估。哈佛数据厌恶，版本1,2017。https://doi.org/10.7910/DVN/6C3JR1．

[2]许世勋和李俊赫。基于人工神经网络的故障检测与分类韩国科学技术院化学与生物分子工程系。

補助関数

`helperPreprocess`

補助関数helperPreprocessは，最大サンプル番号を使用してデ，タを前処理します。サンプル番号は信号長を示し，これはデ，タセット全体で一貫しています。データセットに対して信号長のフィルターを含む为ループを実行し,52個の信号のセットを生成します。各セットはcell配列の要素です。各cell 配列は 1 回のシミュレーションを表します。

函数H = size(mydata,limit);Processed = {};为(1:限制:H x = mydata(ind:(ind+(limit-1))，4:结束);加工过=[加工过的;x ');结束结束

`helperNormalize`

補助関数helperNormalizeは，デ，タ，平均，および標準偏差を使用してデ，タを正規化します。

函数data = helperNormalize(data,m,s)为印第安纳州= 1:尺寸数据(数据){印第安纳}={印第安纳}- m(数据)/ s;结束结束

参考

lstmLayer|sequenceInputLayer|trainingOptions|trainNetwork