最优化设计-课后习题答案

《最优化设计-课后习题答案》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、最优化方法-习题解答张彦斌计算机学院2014年10月20日Contents1第第第一一一章章章最最最优优优化化化理理理论论论基基基础础础-P13习习习题题题1(1)、、、2(3)(4)、、、3、、、412第第第二二二章章章线线线搜搜搜索索索算算算法法法-P27习习习题题题2、、、4、、、643第第第三三三章章章最最最速速速下下下降降降法法法和和和牛牛牛顿顿顿法法法P41习习习题题题1，，，2，，，374第第第四四四章章章共共共轭轭轭梯梯梯度度度法法法P51习习习题题题1，，，3，，，6(1)105第第第五五五章章章拟拟拟牛牛牛顿顿顿法法法P73-2126第第第六六六章章章信信信赖赖赖

2、域域域方方方法法法P86-8147第第第七七七章章章非非非线线线性性性最最最小小小二二二乘乘乘问问问题题题P98-1，，，2，，，6188第第第八八八章章章最最最优优优性性性条条条件件件P112-1，，，2,5,6239第第第九九九章章章罚罚罚函函函数数数法法法P132，，，1-(1)、、、2-(1)、、、3-(3),62610第第第十十十一一一章章章二二二次次次规规规划划划习习习题题题11P178-1（（（1））），，，5291第第第一一一章章章最最最优优优化化化理理理论论论基基基础础础-P13习习习题题题1(1)、、、2(3)(4)、、、3、、、41.验证下列各集合是凸集:(1)

3、S={(x1,x2)

4、2x1+x2≥1,x1−2x2≥1};需要验证：根据凸集的定义，对任意的x(x1,x2),y(y1,y2)∈S及任意的实数λ∈[0,1],都有λx+(1−λ)y∈S.即,(λx1+(1−λ)y1,λx2+(1−λ)y2)∈S证：由x(x1,x2),y(y1,y2)∈S得到，{2x1+x2≥1,x1−2x2≥1(1)2y1+y2≥1,y1−2y2≥11把(1)中的两个式子对应的左右两部分分别乘以λ和1−λ,然后再相加，即得λ(2x1+x2)+(1−λ)(2y1+y2)≥1,(2)λ(x1−2x2)+(1−λ)(y1−2y2)≥1合并同类项，2(λx1+(1−λ)y

5、1)+(λx2+(1−λ)y2)≥1,(3)(λx1+(1−λ)y1)−2(λx2+(1−λ)y2)≥1证毕.2.判断下列函数为凸（凹）函数或严格凸（凹）函数：(3)f(x)=x2−2xx+x2+2x+3x112212首先二阶导数连续可微，根据定理1.5，f在凸集上是（I）凸函数的充分必要条件是∇2f(x)对一切x为半正定；（II）严格凸函数的充分条件是∇2f(x)对一切x为正定。()22−2∇f(x)=(4)−22半正定矩阵（4）41−3∇2f(x)=120(5)−304正定矩阵3.证明f(x)=1xTGx+bTx为严格凸函数当且仅当Hesse矩阵G正定。2证明：根据严格凸

6、函数定义证明。对任意x̸=y,及任意实数λ∈(0,1)都有f(λx+(1−λ)y)<λf(x)+(1−λ)f(y).充分性：Hesse矩阵G正定=》严格凸函数.f(λx+(1−λ)y)=1(λx+(1−λ)y)TG(λx+(1−λ)y)+bT(λx+(1−λ)y)2λf(x)+(1−λ)f(y)=λ(1xTGx+bTx)+(1−λ)(1yTGy+bTy)22λf(x)+(1−λ)f(y)−f(λx+(1−λ)y)=λ(1xTGx)+(1−λ)(1yTGy)−22[1(λx)TG(λx)+1(1−λ)yTG(1−λ)y+1λxTG(1−λ)y+1(1−λ)yTGλx]2222=1λxT

7、G(1−λ)x+1(1−λ)yTGλy−1λxTG(1−λ)y−1(1−λ)yTGλx22222=1λxTG(1−λ)(x−y)+1(1−λ)yTGλ(y−x)22=1λ(1−λ)(x−y)TG(x−y)>0G正定保障了严格不等式成立。2反之，必要性：严格凸函数=》Hesse矩阵G正定.类似，当对任意x̸=y,及任意实数λ∈(0,1)都有f(λx+(1−λ)y)<λf(x)+(1−λ)f(y).λf(x)+(1−λ)f(y)−f(λx+(1−λ)y)=λ(1xTGx)+(1−λ)(1yTGy)−22[1(λx)TG(λx)+1(1−λ)yTG(1−λ)y+1λxTG(1−λ)y+1(

8、1−λ)yTGλx]2222=1λxTG(1−λ)x+1(1−λ)yTGλy−1λxTG(1−λ)y−1(1−λ)yTGλx2222=1λxTG(1−λ)(x−y)+1(1−λ)yTGλ(y−x)22=1λ(1−λ)(x−y)TG(x−y)>024.若对任意x∈ℜn及实数θ>0都有f(θx)=θf(x),证明f(x)在ℜn上为凸函数的充要条件是∀x,y∈ℜn,f(x+y)≤f(x)+f(y)证明：根据严格凸函数定义证明。定义：对任意x̸=y,及任意实数λ∈