1、无约束最优化,数学建模与数学实验,无约束最优化问题,例 选址问题：某市燃气公司计划要建一个煤气供应站，该站向城市中固定位置的个用户供货。对于选定的坐标系而言，已知第个用户的位置为( , ), =,。如果只考虑直线距离，问如何确定这个煤气站的位置，才能使总的运输距离最短？,一元函数求极值的方法,驻点法二分法牛顿切线法割线法,二元函数求极值的方法,梯度黑塞(Hesse)矩阵多元函数的泰勒展开正定矩阵、负定矩阵、半定矩阵、不定矩阵利用黑塞矩阵判断驻点的性质,搜索算法,选定初始点 ，=假定已经得到 按照一定的规则选取 + ，判断是否满足结束条件： + 是否为近似最优解如果 + 是近似最优解，迭代完成；
2、否则令=+，回到步骤2。,下降算法,利用梯度的性质选择搜索方向使得( + )，令=.,(2) 计算 ( ).,(3) 检验是否满足收敛性的判别准则： ( ) ，令=.,(2) 求 ( )和 .,(3) 检验是否满足收敛性的判别准则： ( ) ( )。,广义牛顿法(阻尼牛顿法)：,(4) 从 出发，沿 = ( )方向进行一维搜索：, + =( + ),(5) 令 + = + ， =+. 返回(2).,牛顿法的收敛速度虽然较快，但要求黑塞矩阵可逆，要计算二阶导数和逆矩阵，就加大了计算机的计算量和存储量.,拟牛顿法,为克服牛顿法的缺点，同时保持较快收敛速度的优点，利用第步和第+步得到的 , + ,(
3、 ),( + ) 构造一个正定矩阵 + 近似代替 ( + ) ,或用 + 近似近似代替 + ，将牛顿方向改为： + + = + , + = + + ,从而得到下降方向.,返回,MATLAB优化工具箱简介,1.MATLAB求解优化问题的主要函数,2.优化函数的输入变量,使用优化函数或优化工具箱中其他优化函数时, 输入变量见下表:,3.优化函数的输出变量见下表:,4控制参数选项的设置,(3) MaxIter: 允许进行迭代的最大次数,取值为正整数.,选项中常用的几个参数的名称、含义、取值如下:,(1) Display: 显示水平.取值为off时,不显示输出; 取值为iter时,显示每次迭代的信息;
4、取值为final时,显示最终结果.默认值为final.,(2) MaxFunEvals: 允许进行函数评价的最大次数,取值为正整数.,例：opts=optimset(Display, iter, TolFun,1e-8)该语句创建一个称为选择的优化选项结构,其中显示参数设为iter, TolFun参数设为1e-8.,控制参数选项可以通过函数optimset创建或修改.命令的格式如下：,(1) options=optimset(optimfun) 创建一个含有所有参数名,并与优化函数optimfun相关的默认值的选项结构.,（2）options=optimset(param1,value1,pa
5、ram2,value2,.) 创建一个名称为选项的优化选项参数,其中指定的参数具有指定值,所有未指定的参数取默认值.,(3)options=optimset(oldops,param1,value1,.) 创建名称为oldops的参数的拷贝,用指定的参数值修改oldops中相应的参数.,用MATLAB解无约束优化问题,其中等式(3)、(4)、(5)的右边可选用(1)或(2)的等式右边. 函数fminbnd的算法基于黄金分割法和二次插值法，它要求目标函数必须是连续函数，并可能只给出局部最优解.,常用格式如下：(1) x = fminbnd(fun,x1,x2)(2) x = fminbnd(fu
6、n,x1,x2,options)(3)x,fval = fminbnd()(4)x,fval,exitflag= fminbnd()(5)x,fval,exitflag,output= fminbnd(),MATLAB(wliti1),主程序为wliti1.m: f=2*exp(-x).*sin(x); fplot(f,0,8); %作图语句 xmin,ymin=fminbnd (f,0,8) f1=-2*exp(-x).*sin (x); xmax,ymax=fminbnd (f1,0,8),例2 有边长为3m的正方形铁板，在四个角剪去相等的正方形以制成方形无盖水槽，问如何剪法使水槽的容积最
7、大？,解,先编写M文件fun0.m如下: function f=fun0(x) f=-(3-2*x).2*x;,主程序为wliti2.m: x,fval=fminbnd(fun0,0,1.5); xmax=x fmax=-fval,运算结果为: xmax = 0.5000,fmax =2.0000.即剪掉的正方形的边长为0.5m时水槽的容积最大,最大容积为2m3.,MATLAB(wliti2),命令格式为:（1）x= fminunc(fun,X0)；或x=fminsearch(fun,X0)（2）x= fminunc（fun,X0 ，options）； 或x=fminsearch（fun,X0
8、 ，options）（3）x，fval= fminunc（.）； 或x，fval= fminsearch（.）（4）x，fval，exitflag= fminunc（.）； 或x，fval，exitflag= fminsearch（5）x，fval，exitflag，output= fminunc（.）； 或x，fval，exitflag，output= fminsearch（.）,2.多元函数无约束优化问题,标准型为：min,3 fminunc为中型优化算法的步长一维搜索提供了两种算法，由选项中参数LineSearchType控制： LineSearchType=quadcubic (缺省值
9、)，混合的二次和三次多项式插值； LineSearchType=cubicpoly，三次多项式插,使用fminunc和 fminsearch可能会得到局部最优解.,fminsearch是用单纯形法寻优.fminunc算法见以下几点说明：,1 fminunc为无约束优化提供了大型优化和中型优化算法.由选项中的参数LargeScale控制：LargeScale=on (默认值),使用大型算法LargeScale=off (默认值),使用中型算法,2 fminunc为中型优化算法的搜索方向提供了4种算法，由 选项中的参数HessUpdate控制： HessUpdate=bfgs（默认值），拟牛顿法的
10、BFGS公式；HessUpdate=dfp，拟牛顿法的DFP公式；HessUpdate=steepdesc，最速下降法,例3 min,MATLAB(wliti3),1.编写M文件 fun1.m:function f = fun1 (x)f = exp(x(1)*(4*x(1)2+2*x(2)2+4*x(1)*x(2)+2*x(2)+1); 2.输入M文件wliti3.m如下: x0 = -1, 1; x=fminunc(fun1,x0); y=fun1(x),3.运行结果: x= 0.5000 -1.0000 y = 1.3029e-10,MATLAB (wliti31),MATLAB (wl
11、iti32),3.用fminsearch函数求解,MATLAB (wliti41),输入命令: f=100*(x(2)-x(1)2)2+(1-x(1)2;x,fval,exitflag,output=fminsearch(f,-1.2 2),运行结果: x =1.0000 1.0000fval =1.9151e-010exitflag = 1output= iterations: 108 funcCount: 202 algorthm: Nelder-Mead simplex direct search ,4.用fminunc 函数,MATLAB (wliti44),(1)建立M文件fun2.
12、m function f=fun2(x) f=100*(x(2)-x(1)2)2+(1-x(1)2,(2)主程序wliti44.m,Rosenbrock函数不同算法的计算结果,可以看出，最速下降法的结果最差.因为最速下降法特别不适合于从一狭长通道到达最优解的情况.,例5 产销量的最佳安排 某厂生产一种产品有甲、乙两个牌号，讨论在产销平衡的情况下如何确定各自的产量，使总利润最大.所谓产销平衡指工厂的产量等于市场上的销量.,基本假设,1价格与销量成线性关系,2成本与产量成负指数关系,模型建立,若根据大量的统计数据,求出系数b1=100,a11=1,a12=0.1,b2=280,a21=0.2,a2
13、2=2,r1=30,1=0.015,c1=20, r2=100,2=0.02,c2=30,则问题转化为无约束优化问题：求甲,乙两个牌号的产量x1，x2，使总利润z最大.,为简化模型,先忽略成本,并令a12=0,a21=0,问题转化求z1 = ( b1 - a11x1 ) x1 + ( b2 - a22x2 ) x2的极值.显然其解为x1 = b1/2a11 = 50, x2 = b2/2a22 = 70,我们把它作为原问题的初始值.,总利润为： z(x1,x2)=(p1-q1)x1+(p2-q2)x2,模型求解,1.建立M文件fun.m: function f = fun (x) y1=(100-x(1)- 0.1*x(2)-(30*exp(-0.015*x(1)+20)*x(1); y2=(280-0.2*x(1)- 2*x(2)-(100*exp(-0.02*x(2)+30)*x(2); f=-y1-y2;,2.输入命令: x0=50,70; x=fminunc(fun,x0), z=fun (x),3.计算结果: x=23.9025, 62.4977, z=6.4135e+003 即甲的产量为23.9025,乙的产量为62.4977,最大利润为6413.5.,MATLAB(wliti5),返回,
