連続値ブラックボックス最適化アルゴリズム(1+1)-ESの強凸かつリプシッツ平滑な目的関数における収束速度の理論的評価

抄録

進化戦略(ES)は，目的関数値のみをクエリして最適化を行うブラックボックス最適化(BBO)において，最も有望なアルゴリズムの一つであり，その性能の良さは経験的に良く知られている． しかし，連続値BBOアルゴリズムの理論解析を行う数学的手法の開発は未だ十分ではなく，ESの収束速度が理論的に保証されている目的関数のクラスも，凸二次関数とその単調変換という，非常に限られたものに留まっていた． 本研究では，ESの一種である(1+1)-ESの，L-強凸かつU-リプシッツ平滑な目的関数と，その単調変換によって構成される目的関数での，収束速度の上界と下界を理論的に導出する． また，導出された上下界のオーダーが，探索空間の次元数dに反比例すること，および，上界が目的関数の凸性の程度を定義するL, Uの比U/Lに反比例することを示す． (1+1)-ESは目的関数の数学的性質を用いないにもかかわらず，本研究で導出された収束速度は，関数の性質を既知とするその他の勾配を用いない最適化法について得られている収束速度に匹敵する．