作为 WCA 基础的基本概念和想法是从大自然中获得灵感，并基于对水循环过程以及在自然界中可以看到的河流和溪流如何流入大海的观察。

所有基于进化和群体智能的算法都是概率算法，需要共同的控制参数，如种群规模、世代数、精英规模等。除了共同的控制参数外，不同的算法需要自己的算法特定的控制参数。 比如GA使用变异概率、交叉概率、选择算子； PSO 使用惯性权重、社会和认知参数； ABC使用围观蜂数、雇佣蜂数、侦察蜂数和限制数； HS算法使用和声记忆考虑率、音调调整率和即兴次数。 同理，其他算法如 ES、EP、DE、SFL、ACO、FF、CSO、AIA、GSA、BBO、FPA、ALO、IWO 等，也需要对各自的算法特定参数进行调优。 算法特定参数的适当调整是影响上述算法性能的一个非常关键的因素。 算法特定参数的不当调整要么会增加计算量，要么会产生局部最优解。 考虑到这一事实，Rao 等人。 (2011) 介绍了基于教学的优化 (TLBO) 算法，该算法不需要任何特定于算法的参数。 TLBO 算法只需要通用的控制参数，如种群大小和

J.E.Dennis的这本书很经典，适合数学、物理、计算机等专业的研究者

无约束最优化问题 求解无约束最优化问题的的基本思想 *无约束最优化问题的基本算法 返回

博客文章代码。 通用遗传算法，高效

最小二乘法求解最优化问题 A solution is obtained by a Fletcher version of the Levenberg-Maquardt algoritm for minimization of a sum of squares of equation residuals.

matlab中存档算法代码L-BFGS-B 大规模约束优化软件 是用于边界约束优化的有限内存准牛顿代码，即，用于仅约束形式为l <= x <= u 。 它适用于难以获得有关Hessian矩阵的信息的问题，或适用于大型密集问题。 L-BFGS-B也可以用于不受约束的问题，在这种情况下，其执行方式与其先前的算法（Harwell例程VA15）相似。 该算法在Fortran 77中实现。 作者 理查德·伯德 相关刊物 RH Byrd，P.Lu，J.Nocedal和C.Zhu。 （1995），SIAM科学与统计计算杂志，第1卷。 16号5，第1190-1208页 C. Zhu，RH Byrd和J. Nocedal。 （1997），ACM Transactions on Mathematical Software，第一卷。 23号4，第550-560页 JL莫拉莱斯（JL Morales）和J. Nocedal。 （2011），ACM Transactions on Mathematical Software，第一卷。 38，Num。 1个 RH Byrd，J。Nocedal和RB Schnabe

受生物神经系统和人工神经网络 (ANN) 的启发，提出了一种新的元启发式优化算法来解决复杂的优化问题。 所提出的方法称为神经网络算法 (NNA)，它是基于 ANN 的独特结构开发的。 NNA 受益于 ANN 及其运算符的复杂结构，以生成新的候选解决方案。

2017春季运筹学与最优化方法第五章无约束最优化方法.rar

基于粒子群优化算法的约束布局优化.pdf