黑塞矩阵

黑塞矩阵

二阶偏导数构成的方阵
黑塞矩阵(Hessian Matrix)是一个多元函数的二阶偏导数构成的方阵,描述了函数的局部曲率。黑塞矩阵最早于19世纪由德国数学家Ludwig Otto Hesse提出,并以他的名字命名。黑塞矩阵常用于牛顿法解决优化问题,利用黑塞矩阵可判定多元函数的极值问题。在工程实际问题的优化设计中,所列的目标函数往往很复杂,为了使问题简化,常将目标函数在某点邻域展开成泰勒多项式来逼近原函数,此时函数在某点泰勒展开式的矩阵形式中会涉及到黑塞矩阵。
  • 中文名:黑塞矩阵
  • 外文名:Hessian Matrix
  • 所属学科:
  • 别名:海森矩阵
  • 提出时间:19世纪
  • 提出者:德国数学家Ludwig Otto Hesse
  • 特点:黑塞矩阵为对称阵
  • 应用学科:线性代数、运筹学、多元函数微分学

定义

在工程实际问题的优化设计中,所列的目标函数往往很复杂,为了使问题简化,常常将目标函数在某点邻域展开成泰勒多项式来逼近原函数。

二元函数的黑塞矩阵

由高等数学知识可知,若一元函数  点的某个邻域内具有任意阶导数,则 在 点处的泰勒展开式为: ,其中  。

二元函数 在 点处的泰勒展开式为:

其中

将上述展开式写成矩阵形式,则有:

即:

其中:

 是 在 点处的黑塞矩阵。它是由函数 在 点处的二阶偏导数所组成的方阵。

多元函数的黑塞矩阵

将二元函数的泰勒展开式推广到多元函数,则 在 点处的泰勒展开式的矩阵形式为:

其中:

,它是 在 点处的梯度。

黑塞矩阵是由目标函数 在点处的二阶偏导数组成的 阶对称矩阵。

对称性

如果函数 在 区域内二阶连续可导,那么 黑塞矩阵  内为对称矩阵。

原因:如果函数 的二阶偏导数连续,则二阶偏导数的求导顺序没有区别,即

则对于矩阵 ,有 ,所以 为对称矩阵。

应用

定理

设n多元实函数 在点 的邻域内有二阶连续偏导

并且

则有如下结果:

(1)当A正定矩阵时, 在 处是极小值;

(2)当A负定矩阵时,  处是极大值;

(3)当A不定矩阵时, 不是极值点。

(4)当A为半正定矩阵或半负定矩阵时, 是“可疑”极值点,尚需要利用其他方法来判定。

实例

求三元函数的极值

解:因为,故该三元函数的驻点是.

又因为,,,,,

故有:

因为A是正定矩阵,故是极小值点,且极小值

相关词条

相关搜索

其它词条