このページ最新ではありませ。をクリックし,英语のの最新版版を参照参照し。
ベイズ最适化アルゴリズム
アルゴリズムの概要
ベイズ最适アルゴリズムで,有界领域スカラー关数关数关数F(x)を x について最小化しようとします。関数は確定的でも確率的 (同じ点 x で評価したときに異なる結果を返す可能性がある) でもかまいません。x の成分は、連続的な実数、整数、カテゴリカル (離散的な名前の集合) のいずれにすることもできます。
メモ
この说明,はx xは成分のを表します。。
最小のな要素以下になります。
アルゴリズムの:
変数の内でに选択した
numseedpoints
個の点 x一世についてy一世= f(x一世)を评価し。numseedpoints
は贝叶斯
の设定评価のがある场合,がががnumseedpoints
回成功无作为点を选択し各成分の确率分布,优化视价
の转换
の値て等スケールまたは対数いずれかになり。。
次に以下のを缲り返します。
F(x)のガウスモデルを更新,,Q(f | x一世,y一世对于i = 1,...,t)の各事后分布をします(内部的,,
贝叶斯
はfitrgp
を使用してガウス過程モデルをデータにあてはめます)。获得关数斧头)を点点x x点求めます。。。
このアルゴリズム次いずれに达する停止します。
一定の回数(30)
一定の(既定は制限)
ベイズ最适化出力关数またはベイズ最适化プロット关数で指定し停止基准
并列におけるの违いについて,,并列ベイズアルゴリズムを参照しください。
モデルをはめるための回帰回帰
f faneのと确率は値にガウスが追加されたたガウス过程过程の事前分布ですですF(x)の事前は,平均がμ(x;θ),共分散分散关数がk(x,x';θ)のガウスです,,θθはパラメーターベクトルベクトル。。贝叶斯
が使用特定の关数については,カーネル关数を参照しください。
少し详しくすると,点点x = x一世は关连目的关数の値f = f一世で表さ。値値値のの分布の同时分布がμ(x),共k(x,x,x,x,x)ののののの正规kIJ=k(x一世,,,,Xj)です。
一般性失うこと,事前平均は0
になります。
さらに,分散σ2のガウス観测に追加さている考え考えます。。したがってて,,事前事前分布のk(x,x;θ) +σ2我になります。
ガウス过程モデル観测値あてはめるには,分散分散分散分散2とパラメーターパラメーターを求めるます。このあてはめ,,,fitrgp
によって実行れる负荷の高いプロセス。。
観測値へのガウス過程のあてはめの詳細については、ガウス過程回帰を参照しください。
カーネル关数
カーネル关数k(x,x';θ)はガウスの品质大きく影响を可能ががますます。贝叶斯
は,カーネル(共分散)关数关数オプションArdMatérn5/2カーネルカーネルを使用使用しし。。。。
snoek、Larochelle および Adams[3]を参照しください。
获得关数のタイプ
贝叶斯
6种类种类获得を使用できます。つのつの基本がありますがexpected-improvement
には每秒
またはplus
による修正もあります。
'expected-improvement-per-second-plus'
((既定の設定)'expected-improvement'
'expected-improvement-plus'
“每秒预期改造”
“较低信心约束”
“改善概率”
获得关数は,事後分布関数 Q に基づいて点 x の適合度を評価します。エラー制約 (目的关数のエラーを参照)など连结がある场合,,の获得关数ははははははは[2]の提案てて适合适合适合のの推定します制约が満たさ満たされるれる确率のの推定推定を适合度度ににに乘算乘算するすること
期待改善量
'expected-improvement'
群のは目的关数の増大なる値无视しして,,目的目的关数关数のの改善改善ををを评価评価评価ししし
最小のてててx xbest
事后平均最小値としてμ问(Xbest)
その场合期待改善量は
改善の確率
“改善概率”
の获得关数,'expected-improvement'
と同様の計算をよりシンプルな方法で行います。どちらの場合も、贝叶斯
はじめx xbestとμ问(Xbest)を计算ます。そして,“改善概率”
の场合,贝叶斯
はマージンで修正点点点点点点目的关数の値が向上向上するする确率确率确率
贝叶斯
は推定标准偏差としてををし。。贝叶斯
はこのをのよう计算します。
ここで
ここで,φ(·)はは正规cdf、σ问はxはガウスの事后标准偏差です。。
信頼限界の下限
“较低信心约束”
の获得,各点事后平均から标准偏差ののの倍倍を减算しし曲线曲线曲线曲线曲线曲线。
g(x)は目的モデルの信頼包络线2σ问小さくなりますそして,贝叶斯
はgの负数最大化し。。
秒単位
目的関数を評価する時間は、領域によって異なる場合があります。たとえば、多くのサポート ベクター マシンは特定の点の範囲で大幅に計算時間が変化します。このような場合、贝叶斯
は获得时间重みをするする秒で向上向上させることができことができます。コストに重み重みをを付け付け付けた每秒
というが含まています。
これらのは以下ように机能ます目的关数の评価时に,贝叶斯
は点点点点点点の关数别ベイズモデルに保持ししますますます。。获得获得获得が使用使用するする毎秒毎秒のののの期待
ここ,μs(X)は時間のガウス過程モデルの事後平均です。
プラス
目的关数局所な小値を回避ため,名前にplus
がある关数は,をを“过剰”して推定た场合にを変更ます。过剰利用についてについてについて理解するするする,F(X)が x における事後目的関数の標準偏差であるとします。σ を加法性ノイズの事後標準偏差であるとします。したがって
σ问2(X)=σF2(x) +σ2。
正の数値であるExplorationRatio
オプションのになるににσを定义し。贝叶斯
のplus
の获得,点点点点点点点がを満たすかどうかかを评価评価します
σF(x)
条件が満たされる場合、x は過剰利用であると判断されます。そして、Bull[[1]が提案しているように、θ に反復回数を乗算することにより獲得関数のカーネル关数が修正ます。このにより,観测の间あるある点分散分散分散分散问がなり次,,新しくあてはめ关数关数に基づいて点がが生成生成ささ点点点点点点x x x x x点点点点点が再び过剰,,,,,,,,,,ににににににににににににににににににににににににににににににににににににににににににににににににににににににににににににににににににににににににににに10というににににににににににににににににににににににににに5回缲り返し回缲り返して过点点点点点点点をしようようとしします。。。このアルゴリズムではは,新しい新しい新しい新しい新しい新しい新しい
したがって,ExplorationRatio
は大域させる新しいをを,既に既に调べた点の近傍にに集中するかかのトレードトレードトレードオフオフ
获得关数の化
内部的に、贝叶斯
は以下的手顺を使用し关数を最大化し。
'expected-improvement'
で始まるアルゴリズム场合と“改善概率”
の场合,贝叶斯
は変数の範囲内で数千個の点を抽出し、最良 (平均値が小さい) 実行可能点をいくつか選択し、局所探索を使用して改善を行い、表面上の最良実行可能点を見つけることにより、事後分布について最小実行可能平均μ问(Xbest)を推定します。実行可能とは、点が制約 (ベイズ最适化制约を参照)をことを意味しますすべてのアルゴリズム场合,
贝叶斯
は変数の範囲内で数千個の点を抽出し、最良 (獲得関数の値が大きい) 実行可能点を選択し、局所探索を使用して改善を行い、表面上の最良実行可能点を見つけます。獲得関数の値は目的関数のサンプルではなくモデル化された事後分布に基づくので、高速に計算することができます。
参照
[[1] Bull, A. D. Convergence rates of efficient global optimization algorithms.https://arxiv.org/abs/1101.3501v3,2011年。
[2]Gelbart, M., J. Snoek, R. P. Adams. Bayesian Optimization with Unknown Constraints.https://arxiv.org/abs/1403.5607,2014年。
[3] Snoek,J。,H。Larochelle,R。P. Adams。实用的贝叶斯优化机器学习算法。https://arxiv.org/abs/1206.2944,2012年。