功能: 使用无梯度优化算法进行优化问题求解(非线性方程组求解, 非线性拟合, 非线性规划...)

原理: 会内置一些文献当中较好的算法, 其中主要以自己发表的算法为主。

说明: 
1. 随机优化算法只需要定义目标函数即可进行求解。
2. 由于没有使用梯度信息, 因此在局部精细求解上, 收敛速度没有梯度优化算法快。
3. 由于没有使用梯度信息，因此计算效率会更高, 随机优化算法适合多峰问题求解。其全局求解能力比梯度算法更强。
4. 对于优化问题，建议使用随机优化算法先寻找一个初值, 然后再结合梯度算法进行求解。
5. 实际求解中, 可多运行几次求解。

【启发式优化】窗口参数含义
【变量个数】： 表示优化变量的个数
【变量上限】：表示优化变量的数值上限，这个参数设置为数值时，表示所有变量的上限均为此值。如果每个变量上限不一致，可以在主程序窗口的【矩阵运算】里将上限存储在一个变量里，然后设置为此变量名称即可。
【变量下限】：表示优化变量的数值下限，这个参数设置为数值时，表示所有变量的下限均为此值。如果每个变量下限不一致，可以在主程序窗口的【矩阵运算】里将下限存储在一个变量里，然后设置为此变量名称即可。
【变量初值】：表示优化变量初始值，可以为数值(每个维度设置为此值)或者矩阵变量(单独设置每个维度的初值)，如果不设置则程序自动初始化。
【种群数量】：随机化的种群数。
【终止目标】：优化中，如果目标函数值小于此值时，停止迭代。
【迭代次数】：优化中最大迭代次数。
【运行次数】：尝试运行几次本程序。
【局部终止】：迭代多少次一直没有更新时，就开启锚点迭代。如果不想启用锚点功能,将此参数设置为一个较大的值。
【锚点终止】：当锚点迭代多少次没有更新时，就退出本次优化。
【求解算法】：设置的求解算法类型。
【保存变量】：优化结束后，将优化的变量保存为的变量名称。这个最终可以在【矩阵运算】窗口查看。
【保存误差】：优化结束后，将优化的最小目标误差保存为的变量名称。这个最终可以在【矩阵运算】窗口查看。
【开启数量】：同时开启几个线程单独跑此优化，注意线程之间不互相传递数据，相当于同时开启了多个优化器在跑数据。

【计算】：开启程序计算。
【停止】：停止计算。
【继续】：停止计算后，以原有值，继续计算。
【重置并继续】：停止计算后，可重新初始化值再进行计算。
【保存】：保存当前工程。
【加载】：加载之前保存的工程。

注意：在代码窗口一定要定义目标函数【TargetFun】

算法:
【Auto】：自研启发式求解框架，此算法求解速度较慢，对于比较难的问题，可以尝试使用此算法求解。
【LG】  ：自研启发式优化算法，具有较快的求解速率.
【LG2】 ：自研启发式优化算法，具有较快的求解速率.
【RUN】 ：基于龙格库塔法的求解算法, 具体可参看文献[1], 此算法适合低维度求解。
【GTO】 ：一种仿大猩猩的求解算法, 具体可参看文献[2], 此算法适合低维度求解。
【SC_Fast】 ：自研启发式优化算法，适合低维度、中维度、高维度问题求解, 计算速度快。对于凸问题求解更快。
【SC_Slow】 ：自研启发式优化算法，适合低维度问题求解, 计算速度慢, 对于一些难以求解的问题, 可尝试此算法。对于凸问题求解更快。
【SWO】：一种仿蜘蛛黄蜂求解算法，具体可参看文献p[3].
【SWO2】：一种仿蜘蛛黄蜂求解算法，此算法与SWO在变量更新上使用了不同策略，具体可参看文献p[3].
【ISWO】：自研一种结合插值网络模型的改进型SWO算法[4]
【INS】：自研插值网络求解器[4]

参考:
[1] Chen H , Ahmadianfar I , Heidari A A , et al. RUN beyond the metaphor: An efficient optimization algorithm based on Runge Kutta method[J]. Expert Systems with Application, 2021(181-Nov.).

[2] Abdollahzadeh B ,  Gharehchopogh F S ,  Mirjalili S . Artificial gorilla troops optimizer: A new nature-inspired metaheuristic algorithm for global optimization problems[J]. International Journal of Intelligent Systems.

[3] Abdel-Basset M, Mohamed R, Jameel M, et al. Spider wasp optimizer: A novel meta-heuristic optimization algorithm[J]. Artificial Intelligence Review, 2023: 1-64.

[4] {启发式优化求解之插值网络迭代<http://www.mathsword.com/interpsolver/>}