1、北京思易特科技有限公司北京思易特科技有限公司北京思易特科技有限公司北京思易特科技有限公司优化方法优化方法优化方法优化方法优化方法优化方法优化方法优化方法Optimization Isight 培训培训培训培训培训培训培训培训2 大纲大纲大纲大纲大纲大纲大纲大纲参数的概念 优化算法概述数值优化算法 全局优化算法多目标优化算法3 优化概念优化概念优化概念优化概念YOU CANTR, BTSAY INSIDETHE FCG. N. VanderplatsTHE PHYSICAL PROBLEMBET ICANFIND HETOP F THIL! 目 标：找寻最高点 设计变量：经度和纬度 约 束：围栏
2、范围内4 优化概念：逐步改进的过程优化概念：逐步改进的过程优化概念：逐步改进的过程优化概念：逐步改进的过程X0S1X1 X2S3G. N. VanderplatsTHE OPTIMIZATION PROCESS2在围栏设定的范围内探索搜寻的方向以接近最终目标 按照一定的方向搜寻，直至达到最高点 重复收敛5 参数的概念参数的概念参数的概念参数的概念参数的概念参数的概念参数的概念参数的概念优化问题用参数来表征 设计变量 设计中可以改变的输入参数约束 设置有约束范围的输出参数目标变量 表征优化目标的输出参数在整个优化过程中，每一个设计方案都是用参数来表征的 初始点的各参数值（设计变量、约束、目标变量
3、）最优点的各参数值（设计变量、约束、目标变量）6 定义参数定义参数定义参数定义参数定义参数定义参数定义参数定义参数数据类型 Real:1.0, 3.1459; 6.7e8Integr: , , 12, Discret: coper, stel, 1.25, 2.5, 2.875, 2, 4, 8变量的概念 输入参数，一般为优化问题的设计变量 潜在的变量： Isight中的参数，但是设为常值目标的概念 优化的过程中需要最大化或最小化的性能参数 一般为输出参数，但输入参数也可设为目标变量7 约束的概念（ Constraints）设计变量的变化范围 输出参数的限值辅助参数的概念（ Auxilary
4、Parmetrs）在迭代探索过程中并不是独立的参数，也不是需要考察的性能参数定义参数定义参数定义参数定义参数定义参数定义参数定义参数定义参数8 Isight 已使用参数已使用参数已使用参数已使用参数已使用参数已使用参数已使用参数已使用参数ObjectiveIsight在优化过程中依此判断下一步如何迭代 Feasibilty通过与以前的方案相比，评价该方案的可行性 1379Task Proces Staus标征 Simcd执行是否成功默认 +)f()f()f()f( 1)(k(k(2)(1) xxxx)(xf *x )1(x,.,., )()3()2( kxxx )(kx)(xf其中： 为搜索方
5、向 为搜索步长)(ks)(ka24 搜索方向和步长搜索方向和步长搜索方向和步长搜索方向和步长搜索方向和步长搜索方向和步长搜索方向和步长搜索方向和步长 (k)(k)(k)1)(k Sxx +=+ 为搜索方向向量， 是一个正实数（称为步长）。当 与 确定以后，由 就可以唯一确定 ，这样就可以确定逼近极小点的一个序列，通常称它为极小化序列。从而也就确定了一个算法， 而各种不同数值算法的差别就在于选取方向 和步长 的方法不同，特别是选取 的方法不同。)(ks )(ka )(ks )(ka)(kx )1(+kx)(ks )(ka )(ks25 Step1：确定搜索方向：确定搜索方向：确定搜索方向：确定搜
6、索方向：确定搜索方向：确定搜索方向：确定搜索方向：确定搜索方向求多个变量函数的无约束极小值的一些基本下降算法： 最速下降法（梯度法）牛顿法阻尼牛顿法 共轭方向法了解这些算法有两方面的意义：这些算法为我们提供了一些简单而直接的求解方案 更重要的是他们为求解无约束极值问题的难度和收敛速度提供了可供进行比较的标 准，为建立更有效的算法奠定了基础26 Step2：一维搜索：一维搜索：一维搜索：一维搜索：一维搜索：一维搜索：一维搜索：一维搜索 确定搜索步长确定搜索步长确定搜索步长确定搜索步长确定搜索步长确定搜索步长确定搜索步长确定搜索步长在迭代过程中，与确定搜索方向同等重要的是搜索步长的确定 在不少算法
7、中，步长是由式 来确定的，这 种确定步长的方法称为精确一维搜索或简称一维搜索。 )(m in)()()0()( kkkkk sxfsxf +=+ 27 Step3： ：停止准则停止准则停止准则停止准则停止准则停止准则停止准则停止准则停止准则（保证是局部极值点） 点距准则：相邻两迭代点间距离充分小函数下降量准则：相邻两迭代点对应的目标函数值下降量充分小梯度准则：当迭代点处的目标函数的梯度充分小 缺点：有可能把驻点当作最优点输出K-T条件满足最大迭代步数或运行时间达到需进一步再判断是否是全局最优点 需进一步再判断是否是全局最优点28 算法选讲：算法选讲：算法选讲：算法选讲：算法选讲：算法选讲：算法
8、选讲：算法选讲：Hoke-Jevs直接搜索法直接搜索法直接搜索法直接搜索法直接搜索法直接搜索法直接搜索法直接搜索法实际问题中，所遇到的目标函数往往比较复杂，有的甚至难以写出其明显的 解析表达式，因此，它们的导数很难求得，甚至根本无法求得。这时候就必 须采用不用导数的方法，即求多变量函数极值的直接搜索法。Hoke-Jevs直接搜索法是一种简单而且容易实现的实用算法，由和 e在 1961年提出。这种方法由两类 “移动 ”构成：一类称为探测搜索 ，其目的是探求下降的有利方向；另一类称为 模式搜索 ，其目的是沿着有利方向进行加速，所以，也称为步长加速法或模式搜索法。特点：对于 变量数目较少 的无约束最
9、优化问题，这是一种程序简单而又比较有效的方法。如果初值选得好的话，是一个十分可靠的方法， 精度较高不需要使用导数， 目标函数不需要是可微的不需要连续的目标函数由于没有利用函数的分析性质，其 收敛速度一般是比较慢 的29 算法选讲：序列二次规划法算法选讲：序列二次规划法算法选讲：序列二次规划法算法选讲：序列二次规划法算法选讲：序列二次规划法算法选讲：序列二次规划法算法选讲：序列二次规划法算法选讲：序列二次规划法NLPQL特点： 用来解决带有约束的非线性数学规划问题并假设目标函数和约束条件是连续可微的这个技术 最主要的优点是容易和一个非常健壮的算法一起使用数学收敛性和数值表现在其适用场合的假定下优
10、于其他的数学规划算法适用场合： 优化问题不是很大；函数和梯度可以用非常高的精度来评估；平滑和容易缩放的优化问题； 没有能被开发的深一层的模型结构（问题的数学模型）。30 算法选讲：广义简约梯度法算法选讲：广义简约梯度法算法选讲：广义简约梯度法算法选讲：广义简约梯度法算法选讲：广义简约梯度法算法选讲：广义简约梯度法算法选讲：广义简约梯度法算法选讲：广义简约梯度法LSGR2这种技术使用广义既约梯度法解决约束非线性优化问题。 1970年以来的计算实例说明，在非线性约束优化算法的比较性研究中，既约梯度法是比较优秀的重要算法之一。这种方法使用一种搜索方向，在这个方向上对于一些小偏移所有约束都仍然 起作用。同时这种方法通过消去某些变量在降维空间中的运算，能够较快的 确定最优解，可用来 求解大型的问题。广义既约梯度法有如下特性： 适合于非线性的设计空间不适合不连续的设计空间在初始设计点周围遍寻局部空间 依照起作用的约束来优化设计直接处理不等式和等式约束计算较为复杂
