BayesianOptimization
ベ@ @ズ最適化の結果
説明
作成
BayesianOptimizationオブジェクトを作成するには，関数bayesoptを使用するか，名前と値の引数OptimizeHyperparametersを指定して次のいずれかの近似関数を使用します。
プロパティ
オブジェクト関数
bestPoint |
基準に従った，ベ |
情节 |
ベ@ @ズ最適化の結果のプロット |
predictConstraints |
一連の点における連結制約違反の予測 |
predictError |
一連の点における誤差値の予測 |
predictObjective |
一連の点における目的関数の予測 |
predictObjectiveEvaluationTime |
一連の点における目的関数の実行回数の予測 |
重新开始 |
ベ@ @ズ最適化を再開 |
例
bayesoptの使用によるBayesianOptimizationオブジェクトの作成
この例では，bayesoptを使用して交差検証損失を最小化することによりBayesianOptimizationオブジェクトを作成する方法を示します。
电离层データに対し,然而分類器のハイパーパラメーターを最適化,つまり,交差検証損失が最小になる资讯のハイパーパラメーターを求めます。bayesoptで次のハパパラメタに対する最小化を行います。
1 ~ 30の最近傍サescズ。
距離関数
“chebychev”、“欧几里得”および闵可夫斯基的
再現性を得るため，乱数シ，ドと分割を設定し，AcquisitionFunctionNameオプションを“expected-improvement-plus”に設定します。反復表示を非表示にするには“详细”を0に設定します。このデ，タを組み込む無名関数として有趣的を作成して，区分cと近似デ，タXおよびYを目的関数有趣的に渡します。関数のパラメ，タ，化を参照してください。
负载电离层rng默认的num = optimizableVariable(“n”(1、30),“类型”，“整数”）;dst = optimizableVariable(dst的, {“chebychev”，“欧几里得”，闵可夫斯基的}，“类型”，“分类”）;C = cvpartition(351，“Kfold”5);fun = @(x)kfoldLoss(fitcknn(x,Y，“CVPartition”c“NumNeighbors”x.n,.．.“距离”char (x.dst),“NSMethod”，“详尽”));结果= bayesopt(fun，[num,dst]，“详细”0,.．.“AcquisitionFunctionName”，“expected-improvement-plus”）
results = BayesianOptimization with properties: ObjectiveFcn: [function_handle] variabledescription: [1x2 optimizableVariable] Options: [1x1 struct] MinObjective: 0.1197 XAtMinObjective: [1x2 table] MinEstimatedObjective: 0.1213 XAtMinEstimatedObjective: [1x2 table] numobjectiveevaluveevaluation: 30 TotalElapsedTime: 50.7622 NextPoint: [1x2 table] XTrace: [30x2 table] ObjectiveTrace: [30x1 double] ConstraintsTrace: [] UserDataTrace: {30x1 cell} ObjectiveEvaluationTimeTrace:[30x1 double] IterationTimeTrace: [30x1 double] ErrorTrace: [30x1 double]可行性trace: [30x1 logical]可行性probabilitytrace: [30x1 double] IndexOfMinimumTrace: [30x1 double] objectivminimumtrace: [30x1 double] estimatedobjectivminimumtrace: [30x1 double]
近似関数の使用によるBayesianOptimizationオブジェクトの作成
この例では，支持向量机分類器のベescズ最適化を使用して电离层デ，タの交差検証損失を最小化する方法を示します。
デ，タを読み込みます。
负载电离层
“汽车”パラメ，タ，を使用して分類を最適化します。
rng默认的%用于再现性Mdl = fitcsvm(X,Y，“OptimizeHyperparameters”，“汽车”）
|=====================================================================================================| | Iter | Eval客观客观| | | BestSoFar | BestSoFar | BoxConstraint | KernelScale | | |结果| |运行时| | (estim(观察) .) | | | |=====================================================================================================| | 最好1 | | 0.20513 | 18.245 | 0.20513 | 0.20513 | 64.836 | 0.0015729 | | 2 |接受| 0.35897 | 0.18958 | 0.20513 | 0.21471 | 0.036335 | 5.5755最好| | 3 | | 0.13105 | 6.2731 | 0.13105 | 0.14133 | 0.0022147 | 0.0023957 | | 4 |接受| 0.35897 | 0.33082 | 0.13105 | 0.13109 | 5.1259 | 98.62 | | 5 |的| 0.12536 | 0.40178 | 0.12536 | 0.12538 | 0.0010035 | 0.022328 | | 6 |接受| 0.13105 | 0.26876 | 0.12536 | 0.12624 | 0.0010683 | 0.010111 | | | 7日接受| 0.1339 | 0.43142 | 0.12536 | 0.12546 | 0.0010422 | 0.0092339 | | |接受8 | 0.12821 | 5.6298 | 0.12536 | 0.12544 | 0.073628 | 0.014339 | | | 9日接受| 0.13675 | 0.55972 | 0.12536| 0.12553 | 0.035987 | 0.046296 | | 10 | Accept | 0.13675 | 12.959 | 0.12536 | 0.12562 | 0.001151 | 0.0010009 | | 11 | Accept | 0.13105 | 0.41699 | 0.12536 | 0.12811 | 0.0044333 | 0.022395 | | 12 | Accept | 0.12536 | 0.34166 | 0.12536 | 0.12533 | 0.001004 | 0.027453 | | 13 | Accept | 0.12536 | 0.37955 | 0.12536 | 0.125 | 0.0010544 | 0.049896 | | 14 | Accept | 0.15385 | 17.08 | 0.12536 | 0.12501 | 959.03 | 0.10538 | | 15 | Accept | 0.1339 | 0.23794 | 0.12536 | 0.12784 | 0.0010051 | 0.035194 | | 16 | Best | 0.12251 | 0.23722 | 0.12251 | 0.1268 | 0.0010126 | 0.023131 | | 17 | Accept | 0.1396 | 0.19424 | 0.12251 | 0.12597 | 0.018032 | 0.54074 | | 18 | Accept | 0.1339 | 0.23041 | 0.12251 | 0.12622 | 0.004112 | 0.20821 | | 19 | Accept | 0.17094 | 0.29339 | 0.12251 | 0.12622 | 0.001033 | 0.35011 | | 20 | Accept | 0.12536 | 0.43526 | 0.12251 | 0.1266 | 0.22624 | 0.2874 | |=====================================================================================================| | Iter | Eval | Objective | Objective | BestSoFar | BestSoFar | BoxConstraint| KernelScale | | | result | | runtime | (observed) | (estim.) | | | |=====================================================================================================| | 21 | Accept | 0.12821 | 0.48706 | 0.12251 | 0.12643 | 0.039407 | 0.22791 | | 22 | Accept | 0.12251 | 0.29639 | 0.12251 | 0.12627 | 0.23615 | 0.41645 | | 23 | Accept | 0.12536 | 0.25093 | 0.12251 | 0.12287 | 0.87866 | 0.49296 | | 24 | Best | 0.11681 | 0.20622 | 0.11681 | 0.12095 | 0.2277 | 0.39665 | | 25 | Accept | 0.11966 | 0.23424 | 0.11681 | 0.12051 | 0.22872 | 0.39248 | | 26 | Accept | 0.12821 | 0.28114 | 0.11681 | 0.12202 | 0.19152 | 0.40794 | | 27 | Accept | 0.12821 | 0.6465 | 0.11681 | 0.1224 | 0.8114 | 0.35523 | | 28 | Accept | 0.13105 | 0.16554 | 0.11681 | 0.12264 | 6.7083 | 5.67 | | 29 | Accept | 0.14245 | 0.53824 | 0.11681 | 0.12249 | 741.3 | 5.5065 | | 30 | Accept | 0.12536 | 0.28253 | 0.11681 | 0.12223 | 24.782 | 2.325 |
__________________________________________________________ 优化完成。最大目标达到30个。总函数评估:30总运行时间:110.7223秒总目标函数评估时间:68.5248最佳观测可行点:BoxConstraint KernelScale _____________ ___________ 0.2277 0.39665观测目标函数值= 0.11681估计目标函数值= 0.1222函数评估时间= 0.20622最佳估计可行点(根据模型):BoxConstraint KernelScale _____________ ___________ 0.22872 0.39248估计目标函数值= 0.12223估计函数评估时间= 0.28795
Mdl = ClassificationSVM ResponseName: 'Y' CategoricalPredictors: [] ClassNames: {'b' 'g'} ScoreTransform: 'none' NumObservations: 351 HyperparameterOptimizationResults: [1x1 bayesioptimization] Alpha: [100x1 double] Bias: -4.5586 KernelParameters: [1x1 struct] BoxConstraints: [351x1 double] ConvergenceInfo: [1x1 struct] IsSu金宝apppportVector: [351x1 logical] Solver: 'SMO' Properties, Methods
この当てはめでは，既定の5分割交差検証にいて損失が約12%になりました。
返されたモデルのHyperparameterOptimizationResultsプロパティで返されたBayesianOptimizationオブジェクトを確認します。
disp (Mdl.HyperparameterOptimizationResults)
BayesianOptimization with properties: ObjectiveFcn: @createObjFcn/inMemoryObjFcn variabledescription: [5x1 optimizableVariable] Options: [1x1 struct] MinObjective: 0.1168 XAtMinObjective: [1x2 table] MinEstimatedObjective: 0.1222 XAtMinEstimatedObjective: [1x2 table] numobjectiveevaluation: 30 TotalElapsedTime: 110.7223 NextPoint: [1x2 table] XTrace: [30x2 table] ObjectiveTrace: [30x1 double] ConstraintsTrace: [] UserDataTrace: {30x1 cell} ObjectiveEvaluationTimeTrace:[30x1 double] IterationTimeTrace: [30x1 double] ErrorTrace: [30x1 double]可行性trace: [30x1 logical]可行性probabilitytrace: [30x1 double] IndexOfMinimumTrace: [30x1 double] objectivminimumtrace: [30x1 double] estimatedobjectivminimumtrace: [30x1 double]
バ，ジョン履歴
您也可以从以下列表中选择一个网站: