设计理念
正如一篇 ALJ-2023 论文所示,“虽然隐喻可以成为强大的灵感工具,但数以百计几乎无法区分的算法变体以不同的标签和命名法出现,对该领域的科学进步产生了反作用,因为它既没有提高我们理解和模拟生物系统的能力,也没有为全局优化方法贡献可推广的知识或设计原则。”
鉴于大量黑盒优化器 (BBO) 的版本/变体几乎每周仍在增加,我们需要一些(可能)被广泛接受的标准来从中进行选择,详见下文。对于文献中任何**新的/缺失的** BBO,我们提供了一个开放(统一 API)的接口,以帮助在**必要时**自由地添加它们。
尊重美感(优雅)
注意
“如果说这本书中有一个贯穿始终的主题,那就是实用的数值计算方法可以同时是高效的、巧妙的,而且——重要的是——清晰的。”—Press, W.H., Teukolsky, S.A., Vetterling, W.T. and Flannery, B.P., 2007. 《数值方法:科学计算的艺术》。剑桥大学出版社。
从问题解决的角度来看,我们凭经验倾向于为手头的黑盒优化问题选择最佳的优化器。然而,对于新问题,最佳优化器通常是事先未知的(在没有先验知识的情况下)。根据经验法则,我们需要比较一组(通常很小)可用/知名的优化器,并最终根据一些预定义的性能标准选择最佳的一个。然而,从学术研究的角度来看,我们更倾向于所谓的优美的优化器,尽管始终牢记“没有免费午餐”定理。通常,一个优化器的美感来自以下吸引人的特性:模型新颖性(例如,有用的逻辑概念和设计框架)、在至少一类问题上具有竞争力的性能、理论洞见(例如,在某些问题类别上保证全局收敛性和收敛速度)、清晰/易于理解和实现,以及广受认可的可重复性/可复现性。
如果您发现本库中遗漏的某些 BBO 符合上述标准,欢迎提出 issues 或 pulls。如果可能,我们会考虑尽快将其纳入 PyPop7 库。请注意,这里不考虑任何对成熟优化器的肤浅模仿(即新瓶装旧酒)。有时,一些非常复杂的优化器可能会在仅由人工构建的基准函数组成的竞赛中获得最高排名。然而,这些优化器可能在这些人工制品上变得过度特化。我们认为,一个好的优化器应该是优雅且具有泛化能力的。如果没有令人信服的/成功的应用报告,我们将不会在本库中考虑任何非常复杂的优化器,以避免可能的可重复性和过拟合问题。
Campelo, F. and Aranha, C., 2023. 从进化计算动物寓言中吸取的教训。Artificial Life, 29(4), pp.421-432。
Swan, J., Adriaensen, S., Brownlee, A.E., Hammond, K., Johnson, C.G., Kheiri, A., Krawiec, F., Merelo, J.J., Minku, L.L., Özcan, E., Pappa, G.L., et al., 2022. 宏观视角下的元启发式算法。European Journal of Operational Research, 297(2), pp.393-406。
Kudela, J., 2022. 进化计算方法基准测试和分析中的一个关键问题。Nature Machine Intelligence, 4(12), pp.1238-1245。
Aranha, C., Camacho Villalón, C.L., Campelo, F., Dorigo, M., Ruiz, R., Sevaux, M., Sörensen, K. and Stützle, T., 2022. 基于隐喻的元启发式算法,呼吁行动:房间里的大象。Swarm Intelligence, 16(1), pp.1-6。
de Armas, J., Lalla-Ruiz, E., Tilahun, S.L. and Voß, S., 2022. 元启发式算法中的相似性:迈向比较方法论的温和一步。Natural Computing, 21(2), pp.265-287。
Sörensen, K., Sevaux, M. and Glover, F., 2018. 元启发式算法的历史。In Handbook of Heuristics (pp. 791-808). Springer, Cham。
Sörensen, K., 2015. 元启发式算法——隐喻揭秘。International Transactions in Operational Research, 22(1), pp.3-18。
Auger, A., Hansen, N. and Schoenauer, M., 2012. 连续黑盒优化算法的基准测试。Evolutionary Computation, 20(4), pp.481-481。
尊重多样性
鉴于黑盒优化在科学和工程领域的普遍性,不同的研究社区设计了不同类型的优化器。随着新的、更具挑战性的应用对更强大优化器的需求,优化器的类型和数量仍在持续增加。一方面,其中一些优化器可能或多或少地具有相似之处。另一方面,它们也可能表现出显著的差异(在动机/目标/实现/社区/实践者方面)。因此,我们希望涵盖来自不同研究社区的这种多样性,例如人工智能/机器学习(特别是进化计算、群体智能和零阶优化)、数学优化/规划(特别是无导数/全局优化)、运筹学/管理科学(元启发式算法)、自动控制(随机搜索)、电子工程、物理学、化学、开源软件等等。
注意
“自然选择的进化论完全从唯物主义的角度解释了世界的适应性和多样性”。—[Mayr, 2009, Scientific American]。
为了尽可能广泛地涵盖基于种群的 BBO 的最新进展,我们积极维护了一个配套项目,三年多来收集了一些顶级期刊和会议上的相关论文。我们希望这个开放的配套项目能为我们的库提供一个日益可靠的文献参考基础。
注意
DistributedEvolutionaryComputation 提供了一份(仍在增长的)进化计算 (EC) 论文清单,这些论文发表在一些(而非全部)顶级以及专注于 EC 的期刊和会议上。
尊重原创性
对于 PyPop7 中包含的每个黑盒优化器,我们期望给出其原始/代表性参考文献(有时也包括其一些好的实现/改进)。如果您发现这里遗漏了一些重要的参考文献,请不要犹豫与我们联系(我们将很乐意添加它)。此外,如果您发现有关原创性的任何错误,我们首先为我们(可能)的错误道歉,并将在这个开源项目中及时纠正。我们相信,开源的自我纠正能力可以显著提高这个库的质量。
注意
“直接从创造者那里听到他们的想法,既有趣又有教育意义”。—Hennessy, J.L. and Patterson, D.A., 2019. 《计算机体系结构:量化研究方法(第六版)》。Elsevier。
尊重可重复性
对于大多数基于种群的优化器所采用的随机搜索,适当地控制随机性对于重复数值实验至关重要。这里我们遵循 NumPy 官方的随机抽样建议。换句话说,您应该为每个优化器显式地设置随机种子。关于来自人工智能/机器学习、进化计算 (EC)、群体智能 (SI) 和元启发式算法社区的更多关于可重复性/基准测试的讨论,请参阅以下论文(仅举几例):
López-Ibáñez, M., Paquete, L. and Preuss, M., 2024. 可复现性特刊社论。Evolutionary Computation, 32(1), pp.1-2。
Hansen, N., Auger, A., Brockhoff, D. and Tušar, T., 2022. 黑盒优化基准测试中的随时性能评估。IEEE Transactions on Evolutionary Computation, 26(6), pp.1293-1305。
Bäck, T., Doerr, C., Sendhoff, B. and Stützle, T., 2022. 关于基于抽样的优化启发式算法基准测试的特刊客座社论:方法论和软件。IEEE Transactions on Evolutionary Computation, 26(6), pp.1202-1205。
López-Ibáñez, M., Branke, J. and Paquete, L., 2021. 进化计算中的可复现性。ACM Transactions on Evolutionary Learning and Optimization, 1(4), pp.1-21。
Hutson, M., 2018. 人工智能面临可复现性危机。Science, 359(6377), pp.725-726。
Swan, J., Adriaensen, S., Bishr, M., et al., 2015, June. 元启发式算法标准化的研究议程。In Proceedings of International Conference on Metaheuristics (pp. 1-3)。
Sonnenburg, S., Braun, M.L., Ong, C.S., et al., 2007. 机器学习中对开源软件的需求。Journal of Machine Learning Research, 8, pp.2443-2466。
关于基准测试,请参考例如 ACM GECCO 2025 中的 BBSR - 基准测试、基准、软件和可复现性。
最后,我们期待看到更多来自不同角度的关于 BBO 的有趣讨论。对于任何新的/缺失的 BBO,如果它很好地满足了上述设计理念,我们提供一个统一的 API 接口来帮助自由地添加它们。详情请参阅开发指南。
日益增多的对隐喻的批判性分析论文
2024: 新元启发式算法的研究方向和新颖性判别
2024: 近期发展的元启发式算法的文献综述和批判性分析
2022: 全局优化算法的新分类法
2020: 自然启发的优化算法还是仅仅是元启发式算法的变体?
2020: 优化中的基准测试:最佳实践和开放问题
2019: 仿生计算:我们的现状与未来
2014: “新颖的” *** 优化方法到底有多新颖?
2011: 基于 *** 的优化与遗传算法的分析和数值比较