主要内容

このページ最新ではありませ。をクリックし,英语のの最新版版を参照参照し。

ベイズ最适化アルゴリズム

アルゴリズムの概要

ベイズ最适アルゴリズムで,有界领域スカラー关数关数关数F(x)を x について最小化しようとします。関数は確定的でも確率的 (同じ点 x で評価したときに異なる結果を返す可能性がある) でもかまいません。x の成分は、連続的な実数、整数、カテゴリカル (離散的な名前の集合) のいずれにすることもできます。

メモ

この说明,はx xは成分のを表します。。

最小のな要素以下になります。

  • F(x)のガウス過程モデル。

  • F(x)の新しいのでガウス过程モデルするためのベイズ更新。

  • 次点x xを决定するために化(fのの过程モデルモデル)“获得”斧头)。详细は,获得关数のタイプ获得关数の化を参照しください。

アルゴリズムの:

  • 変数の内でに选択したnumseedpoints個の点 x一世についてy一世= f(x一世を评価し。numseedpoints贝叶斯の设定评価のがある场合,がががnumseedpoints回成功无作为点を选択し各成分の确率分布,优化视价转换の値て等スケールまたは対数いずれかになり。。

次に以下のを缲り返します。

  1. F(x)のガウスモデルを更新,,Q(f | x一世,y一世对于i = 1,...,t)の各事后分布をします(内部的,,贝叶斯fitrgpを使用してガウス過程モデルをデータにあてはめます)。

  2. 获得关数斧头)を点点x x点求めます。。。

このアルゴリズム次いずれに达する停止します。

并列におけるの违いについて,,并列ベイズアルゴリズムを参照しください。

モデルをはめるための回帰回帰

f faneのと确率は値にガウスが追加されたたガウス过程过程の事前分布ですですF(x)の事前は,平均がμ(x;θ),共分散分散关数がk(x,x';θ)のガウスです,,θθはパラメーターベクトルベクトル。。贝叶斯が使用特定の关数については,カーネル关数を参照しください。

少し详しくすると,点点x = x一世は关连目的关数の値f = f一世で表さ。値値値のの分布の同时分布がμ(x),共k(x,x,x,x,x)ののののの正规kIJ=k(x一世,,,,Xjです。

一般性失うこと,事前平均は0になります。

さらに,分散σ2のガウス観测に追加さている考え考えます。。したがってて,,事前事前分布のk(x,x;θ) +σ2になります。

ガウス过程モデル観测値あてはめるには,分散分散分散分散2とパラメーターパラメーターを求めるます。このあてはめ,,,fitrgpによって実行れる负荷の高いプロセス。。

観測値へのガウス過程のあてはめの詳細については、ガウス過程回帰を参照しください。

カーネル关数

カーネル关数k(x,x';θ)はガウスの品质大きく影响を可能ががますます。贝叶斯は,カーネル(共分散)关数关数オプションArdMatérn5/2カーネルカーネルを使用使用しし。。。。

snoek、Larochelle および Adams[3]を参照しください。

获得关数のタイプ

贝叶斯6种类种类获得を使用できます。つのつの基本がありますがexpected-improvementには每秒またはplusによる修正もあります。

  • 'expected-improvement-per-second-plus'((既定の設定)

  • 'expected-improvement'

  • 'expected-improvement-plus'

  • “每秒预期改造”

  • “较低信心约束”

  • “改善概率”

获得关数は,事後分布関数 Q に基づいて点 x の適合度を評価します。エラー制約 (目的关数のエラーを参照)など连结がある场合,,の获得关数ははははははは[2]の提案てて适合适合适合のの推定します制约が満たさ満たされるれる确率のの推定推定を适合度度ににに乘算乘算するすること

期待改善量

'expected-improvement'群のは目的关数の増大なる値无视しして,,目的目的关数关数のの改善改善ををを评価评価评価ししし

  • 最小のてててx xbest

  • 事后平均最小値としてμ(Xbest

その场合期待改善量は

e (( X ,,,, = e [[ 最大限度 (( 0 ,,,, μ (( X best - F (( X 这是给予的

改善の確率

“改善概率”の获得关数,'expected-improvement'と同様の計算をよりシンプルな方法で行います。どちらの場合も、贝叶斯はじめx xbestμ(Xbestを计算ます。そして,“改善概率”の场合,贝叶斯はマージンで修正点点点点点点目的关数の値が向上向上するする确率确率确率

p (( X ,,,, = p (( F (( X < μ (( X best - m

贝叶斯は推定标准偏差としてををし。。贝叶斯はこのをのよう计算します。

p = φ (( ν (( X ,,,,

ここで

ν (( X = μ (( X best - m - μ (( X σ (( X

ここで,φ(·)はは正规cdf、σはxはガウスの事后标准偏差です。。

信頼限界の下限

“较低信心约束”の获得,各点事后平均から标准偏差ののの倍倍を减算しし曲线曲线曲线曲线曲线曲线。

G (( X = μ (( X - 2 σ (( X

g(x)は目的モデルの信頼包络线2σ小さくなりますそして,贝叶斯はgの负数最大化し。。

l C b = 2 σ (( X - μ (( X

秒単位

目的関数を評価する時間は、領域によって異なる場合があります。たとえば、多くのサポート ベクター マシンは特定の点の範囲で大幅に計算時間が変化します。このような場合、贝叶斯は获得时间重みをするする秒で向上向上させることができことができます。コストに重み重みをを付け付け付けた每秒というが含まています。

これらのは以下ように机能ます目的关数の评価时に,贝叶斯は点点点点点点の关数别ベイズモデルに保持ししますますます。。获得获得获得が使用使用するする毎秒毎秒のののの期待

e p s (( X = e (( X μ s (( X ,,,,

ここ,μs(X)は時間のガウス過程モデルの事後平均です。

プラス

目的关数局所な小値を回避ため,名前にplusがある关数は,をを“过剰”して推定た场合にを変更ます。过剰利用についてについてについて理解するするする,F(X)が x における事後目的関数の標準偏差であるとします。σ を加法性ノイズの事後標準偏差であるとします。したがって

σ2(X)=σF2(x) +σ2

正の数値であるExplorationRatioオプションのになるににσを定义し。贝叶斯plusの获得,点点点点点点点がを満たすかどうかかを评価评価します

σF(x)σσ。

条件が満たされる場合、x は過剰利用であると判断されます。そして、Bull[[1]が提案しているように、θ に反復回数を乗算することにより獲得関数のカーネル关数が修正ます。このにより,観测の间あるある点分散分散分散分散がなり次,,新しくあてはめ关数关数に基づいて点がが生成生成ささ点点点点点点x x x x x点点点点点が再び过剰,,,,,,,,,,ににににににににににににににににににににににににににににににににににににににににににににににににににににににににににににににににににににににににににに10というににににににににににににににににににににににににに5回缲り返し回缲り返して过点点点点点点点をしようようとしします。。。このアルゴリズムではは,新しい新しい新しい新しい新しい新しい新しい

したがって,ExplorationRatioは大域させる新しいをを,既に既に调べた点の近傍にに集中するかかのトレードトレードトレードオフオフ

获得关数の化

内部的に、贝叶斯は以下的手顺を使用し关数を最大化し。

  1. 'expected-improvement'で始まるアルゴリズム场合と“改善概率”の场合,贝叶斯は変数の範囲内で数千個の点を抽出し、最良 (平均値が小さい) 実行可能点をいくつか選択し、局所探索を使用して改善を行い、表面上の最良実行可能点を見つけることにより、事後分布について最小実行可能平均μ(Xbestを推定します。実行可能とは、点が制約 (ベイズ最适化制约を参照)をことを意味します

  2. すべてのアルゴリズム场合,贝叶斯は変数の範囲内で数千個の点を抽出し、最良 (獲得関数の値が大きい) 実行可能点を選択し、局所探索を使用して改善を行い、表面上の最良実行可能点を見つけます。獲得関数の値は目的関数のサンプルではなくモデル化された事後分布に基づくので、高速に計算することができます。

参照

[[1] Bull, A. D. Convergence rates of efficient global optimization algorithms.https://arxiv.org/abs/1101.3501v3,2011年。

[2]Gelbart, M., J. Snoek, R. P. Adams. Bayesian Optimization with Unknown Constraints.https://arxiv.org/abs/1403.5607,2014年。

[3] Snoek,J。,H。Larochelle,R。P. Adams。实用的贝叶斯优化机器学习算法。https://arxiv.org/abs/1206.2944,2012年。

参考

|

关连するトピック