Bayes（ベイズ）最適化は「実験回数が少ない」だけでない ～実験計画法との比較で分かる強みとは～

[#1]

Bayes（ベイズ）最適化の特徴としてよく挙げられるのが、「少ない実験回数で最適解にたどり着ける」という点です。

1回の実験に時間やコストがかかるとき、この特徴は大きなメリットになります。

昨年9月にリリースしたバージョン「JMP Pro 19」では、Bayes最適化のプラットフォームが追加されました。実際、「実験回数を削減できる」という点に魅力を感じて導入を検討されたり、関心を持たれたりする方が多くいらっしゃいます。

1.「実験回数が少なくても済む」以外の大きな特徴

Bayes最適化には、もう一つ重要な特徴があります。それは、応答と因子の関係をあらかじめ特定の関数形（2次多項式などの応答曲面モデル）を仮定しなくても、複雑な非線形性を捉えられることです。

そのため、実験計画法（DOE）で必要となる交互作用や応答曲面モデルなどの統計モデルに関する知識が十分でなくても、最適条件を探索しやすいという特徴があります。

そこで本記事では、理論式（真の応答）が既知であるシミュレーションデータを用いて、Bayes最適化と実験計画法による最適条件探索を比較し、この特徴について解説します。

2. 検証事例

ここでは、次の酵素触媒反応の収率最適化を例として用います。

目的：3種類のリパーゼ酵素と反応条件(反応物の濃度、触媒の量）を組み合わせて、エステル合成反応の収率を最大化する最適条件を探索する。

応答

因子

因子には、「0.5 × 反応物の濃度 + 5 × 触媒の量  ≦ 110」　という制約条件がある。

今回は、本当の最適値(理論式)が分かっているシミュレーションです。

下の図が、理論式の分布と最適値であり、酵素タイプ = "CALB"、反応物の濃度= 109.7、触媒の量=6.98です。

等高線プロファイルは、酵素タイプを「CALB」とした場合の応答分布を表しています。赤色が濃いほど収率が高いことを示しており、この例では2つのピーク（多峰性）を持つ複雑な非線形構造になっていることが分かります。

3. Bayes最適化と実験計画法の比較方法

同じ理論式*に対し、Bayes最適化と実験計画法の2つの異なるアプローチで実験計画を実施します。

Bayes最適化

Space Filling計画により、制約条件を満たす3回の初期実験を生成し、その実験に対する応答を入力する。

[Bayes最適化]プラットフォームを利用し、1回ずつ実験を逐次的に追加する。その際、バッチの選択に表示される実験候補を使って、実験点を追加する（自動モードを使用）。

自動モードで最適値の探索フェーズに移行した時点、または応答の値が目標値（70%以上）を十分に上回った段階で逐次実験を終了し、最後の実験条件を最適条件とする。

実験計画法

「カスタム計画」を用い、次のような設定で応答曲面モデル（2次多項式）をあてはめる。

両者の違いをまとめると次のようになります。

Bayes最適化:  今までの実験結果を見ながら「次にどこを試すと良さそうか」を逐次的に決めていく手法であり、特定の関数をあらかじめ過程せず、柔軟なモデル（ガウス過程モデル）を用いて探索する

実験計画法：あらかじめ因子の組み合わせを決めて、応答曲面モデル（2次）を仮定してモデルを作成

*実際は理論式に対し、若干の誤差（ノイズ）を加えています。

4. 実験結果の比較と考察

次のような結果が得られました。実験回数はBayes最適化の方が少ないのに、結果は圧倒的に良いことがわかります。

手法	実験回数	見つけられた最適収率
Bayes最適化	14回	90%以上（仕様を大幅に上回る）
実験計画法	18回	15%程度

Bayes最適化では、3回の初期実験の後、11回の追加実験で収率90%以上の条件を見つけることができました。

一方、実験領域全体に対して応答曲面モデルを構築するための実験をあらかじめ実施し、その結果から最適条件を推定しました。

「等高線プロファイル」を使って、それぞれの手法で求められた最適値を比較してみます。

Bayes最適化は、収率の高い赤色領域（山の部分）に到達している一方、実験計画法では、赤い領域から離れた位置が最適条件として推定されています。

このような結果が生じたのは、次のような理由と考えられます。

• 実験計画法（応答曲面）では、2次多項式（一つの山）を前提としたモデルのため、今回のような複数の山がある（多峰性）ような複雑な形状を捉えることができていない。
• Bayes最適化では、特定の関数形をあらかじめ仮定せず、柔軟な代理モデルを用いて逐次的に探索するため、複数の山があっても高い収率の領域が探索できたと考えられる。

5. まとめ

Bayes最適化には、次の2つの大きな特徴があります。本記事では、特に2つ目の「複雑な非線形関係を捉えられる」という特徴に着目して紹介しました。

1. 少ない実験回数で最適解にたどり着ける

• 過去の実験結果から学習しながら次の実験点を賢く選ぶため、無駄な実験を減らしてコストを削減できる。

2. 複雑な非線形関係を捉えられる

• あらかじめ特定の関数形を仮定しないため、複雑な非線形性や変数間の交互作用も見落とさず捉えられる。

実験の初期段階では、応答と因子の関係が十分に分かっていないことが少なくありません。そのような状況では、応答曲面法だけでは今回の例のように最適条件を見つけられない場合があります。

このようなケースでは、ベイズ最適化を有力な選択肢として検討してみてください。

※今回の例も含め、JMP ProのBayes最適化の特徴や利用例を体系的に学習できる動画を用意しています。

ベイズ最適化の基礎と活用　～少ない実験で効率よく最適条件を探索～　オンデマンド版（日本語）

by 増川 直裕（JMP Japan）

Naohiro Masukawa - JMP User Community