有限内存协方差矩阵自适应进化策略 (LMCMAES)
- class pypop7.optimizers.es.lmcmaes.LMCMAES(problem, options)[源代码]
有限内存协方差矩阵自适应进化策略 (LMCMAES)。
注意
为了获得可能更好的性能,请首先使用其最新版本 LMCMA。此处包含它主要是为了基准测试。
- 参数:
problem (dict) –
- 问题参数,包含以下通用设置 (键)
'fitness_function' - 需要被最小化的目标函数 (func),
'ndim_problem' - 维度数量 (int),
'upper_boundary' - 搜索范围的上边界 (array_like),
'lower_boundary' - 搜索范围的下边界 (array_like).
options (dict) –
- 优化器选项,包含以下通用设置 (键)
'max_function_evaluations' - 函数评估的最大次数 (int, 默认: np.inf),
'max_runtime' - 允许的最大运行时间 (float, 默认: np.inf),
'seed_rng' - 随机数生成器的种子,需要明确设置 (int);
- 以及以下特定设置 (键)
‘sigma’ - 初始全局步长,也称为变异强度 (float),
‘mean’ - 初始(起始)点,也称为高斯搜索分布的均值 (array_like),
如果未给出,它将从一个均匀分布中随机抽样,该分布的搜索范围由 problem[‘lower_boundary’] 和 problem[‘upper_boundary’] 界定。
’m’ - 方向向量的数量(int,默认值:4 + int(3*np.log(problem[‘ndim_problem’]))),
’n_steps’ - 向量之间目标代数(int,默认值:options[‘m’]),
’c_c’ - 进化路径更新的学习率(float,默认值:1.0/options[‘m’])。
’c_1’ - 协方差矩阵自适应的学习率(float,默认值:1.0/(10.0*np.log(problem[‘ndim_problem’] + 1.0))),
’c_s’ - 种群成功规则的学习率(float,默认值:0.3),
’d_s’ - 种群成功规则的延迟率(float,默认值:1.0),
’z_star’ - 种群成功规则的目标成功率(float,默认值:0.25),
‘n_individuals’ - 子代数量,也称为子代种群大小 (int,默认值:4 + int(3*np.log(problem[‘ndim_problem’]))),
'n_parents' - 父代数量,也称为父代种群大小 (int,默认值: int(options[‘n_individuals’]/2))。
示例
使用黑盒优化器 LMCMAES 来最小化著名的测试函数 Rosenbrock
1>>> import numpy # engine for numerical computing 2>>> from pypop7.benchmarks.base_functions import rosenbrock # function to be minimized 3>>> from pypop7.optimizers.es.lmcmaes import LMCMAES 4>>> problem = {'fitness_function': rosenbrock, # to define problem arguments 5... 'ndim_problem': 2, 6... 'lower_boundary': -5.0*numpy.ones((2,)), 7... 'upper_boundary': 5.0*numpy.ones((2,))} 8>>> options = {'max_function_evaluations': 5000, # to set optimizer options 9... 'seed_rng': 2022, 10... 'mean': 3.0*numpy.ones((2,)), 11... 'sigma': 3.0} # global step-size may need to be tuned for optimality 12>>> lmcmaes = LMCMAES(problem, options) # to initialize the optimizer class 13>>> results = lmcmaes.optimize() # to run the optimization/evolution process 14>>> print(f"LMCMAES: {results['n_function_evaluations']}, {results['best_so_far_y']}") 15LMCMAES: 5000, 7.8681e-12
关于 Python 编码的正确性检查,请参考这份基于代码的可重复性报告以获取所有详细信息。对于基于 pytest 的自动化测试,请参阅 test_lmcmaes.py。
- c_c
进化路径更新的学习率。
- 类型:
float
- c_s
种群成功规则的学习率。
- 类型:
float
- c_1
协方差矩阵自适应的学习率。
- 类型:
float
- d_s
种群成功规则的延迟率。
- 类型:
float
- m
方向向量的数量。
- 类型:
int
- mean
初始(起始)点,也即高斯搜索分布的均值。
- 类型:
array_like
- n_individuals
子代数量,也称为子代种群大小。
- 类型:
int
- n_parents
父代数量,也称为父代种群大小。
- 类型:
int
- n_steps
向量之间的目标代数。
- 类型:
int
- sigma
初始全局步长,也称为变异强度。
- 类型:
float
- z_star
种群成功规则的目标成功率。
- 类型:
float
参考文献
Loshchilov, I., 2014, July. 用于大规模优化的计算高效的有限内存 CMA-ES。 In Proceedings of Annual Conference on Genetic and Evolutionary Computation (pp. 397-404). ACM.
请参考 Loshchilov(现就职于 NVIDIA)的官方 C++ 版本:https://sites.google.com/site/lmcmaeses/