技术积累

Appearance

5. 特征值的估计和广义逆矩阵 ​

bash
https://www.bilibili.com/read/cv4109469

5.0 考试重点+例子 ​

重点内容

  • 特征值的估计
  • 谱半径的估计
  • 求广义逆（A-，A+（极小最小二乘解），1-2广义逆，1-3广义逆（最小范数解），1-4广义逆（最小二乘解））

5.0.1 求广义逆 ​

设

求的所有减号逆

求线性方程组的最小范数解，其中

image-20211230175850256

image-20211230175903906

5.0.2 求最小范数求解,最小二乘解 ​

image-20211230180045226

image-20211230180102802

5.0.3 求广义逆 ​

image-20211230180245886

image-20211230180301004

image-20211230180331260

5.0.4 圆盘定理 ​

求一些简单的

5.1 广义逆矩阵 ​

有很多广义逆矩阵

上面有四条性质

  • 满足第一条性质就是(广义逆)
  • 满足第一条和第四条就是自反广义逆
  • 满足四条性质就是伪逆矩阵

5.1.1 广义逆 ​

1) 定义 ​

设是数域上的一个矩阵，则矩阵方程

总是有解，如果,并且存在可逆矩阵使得

则矩阵方程的通解为

其中分别是任意矩阵

定义

设是一个矩阵，矩阵方程的通解称为的广义逆矩阵，

简称为的广义逆，我们用记号表示的广义逆

2) 广义逆矩阵计算⭐ ​

image-20211226145016325

image-20211226145119364

image-20211226145154961

广义逆的另一种求解方式

任给,有奇异值分解，，其中是酉矩阵，是对角矩阵

通解为任取

3) 广义逆矩阵性质 ​

  • 与是幂等矩阵，且
  • 若,则,且唯一
  • 设,且,则

特殊的广义逆

设,若存在矩阵或使得

或

称为或是的左逆(或右逆)

注意点：若有左逆，则列满秩，若有右逆，则行满秩

若，且是满秩的，则

定理

设,则

的充要条件是

的充要条件是

推论

  • 如果列满秩，则左逆存在，且跟的广义逆相同
  • 如果行满秩，则右逆存在，且跟的广义逆相同

5.1.2 自反广义逆 ​

1) 自反广义逆概念 ​

设,使得

成立的称为的自反广义逆，记作

例子

设都是的广义逆矩阵，则

是的自反广义逆矩阵

证明

充要条件

设是的广义逆矩阵，则是的自反广义逆矩阵的充要条件是

2) 自反广义逆计算 ​

求解自反广义逆矩阵

任给,有奇异值分解，，其中是酉矩阵，是对角矩阵

则的自反广义逆矩阵的一般解为

通解为任意

--

5.1.3 伪逆矩阵⭐ ​

M-P矩阵(穆尔-彭罗斯广义逆矩阵)

1) 伪逆矩阵概念 ​

设,若,且同时满足

则称是的伪逆矩阵，上述条件称为Penrose-Moore方程

定理

的伪逆矩阵是唯一的。

推论

若,则

例子

image-20211226154823381

一般来说，比如

显然

但是

2) 伪逆矩阵的性质 ​

3) 伪逆矩阵的意义 ​

从线性方程组的解来对伪逆矩阵进一步的认知和了解

对于元线性方程组其解有三种情况，解唯一，无穷解，其中。解唯一不讨论

(1) 线性方程有无穷解时，必有,行满秩。线性方程的个数小于等于变量的个数，因此有无穷解，但是要找到一个到原点最近距离的点则是唯一的，即

(2) 线性方程组无解时，必有。因为不在的空间中，此时只能在的列空间找到唯一一个之间的欧式距离最小的,可以使得范数最小化的解。

可以看出，欧式空间的范数在伪逆的求解中起到度量误差和度量长度的限制作用，伪逆矩阵是在满足几何约束的的条件下的最优解，这也是伪逆矩阵的意义所在。例如在最小能量系统中，可使用伪逆可求得问题的最优解。

5.1.4 伪逆矩阵求法⭐ ​

1) 求法1-奇异值求解 ​

如果,有奇异值分解,

，其中是酉矩阵，是对角矩阵

则的伪广义逆矩阵的一般解为

通解为任意

2) 求法2满秩分解 ​

设是的一个满秩分解，则

是的伪逆矩阵

例子

image-20211226155558964

image-20211226155626770

3) 求法3-低阶矩阵求法(行满秩，列满秩)-直接求 ​

满足，但不满足的矩阵称为的左逆矩阵

同理，，但是不满足的矩阵称为的右逆矩阵

当时，列满秩，矩阵,有左逆矩阵

当时，行满秩，矩阵有右逆矩阵

当,的秩为时，对的奇异值分级，的伪逆矩阵

换一种说法

  • 若,则,此时
  • 若,则,此时

5.2 广义逆矩阵在线性方程组的应用 ​

5.2.1 相关概念 ​

1) 相容概念 ​

设,非齐次线性方程组有解时，称它是相容的，否则称它是不相容的

定理

设则下面命题是等价的

  • 是相容的
  • ,即可以由的列向量线性表示
  • ,任取的广义逆矩阵

定理

设，对于相容方程组，

  • 当,方程组有唯一的解
  • 当,方程组解不唯一

设,非齐次线性方程组有解的充要条件是存在的广义逆矩阵使得

定理

设非齐次线性方程组有解，则它的一般解为,其中是的任意一个广义逆。

定理

设,则矩阵方程有解的充要条件是

存在与的广义逆矩阵和使得成立

定理

设,矩阵方程有解的情况下，方程的通解为

其中是任意给定的广义逆，为任意矩阵

推论1

设,则矩阵方程有解的充要条件是存在的广义逆矩阵使得

成立，在有解的情况下，矩阵方程的通解为

推论二

设,则非齐次线性方程组在有解的情况下，方程组的通解为

5.2.2 最小范数解(最小模解)⭐ ​

参考链接

bash
https://www.jianshu.com/p/609fa0cce409

称相容方程组的所有解中模(2-范数)最小的解是的最小模解

是相容线性方程组的最小模解

设是矩阵的一个广义逆矩阵，并且,那么对任给的维列向量,

只要方程组有解，则就是它的最小范数解

这个问题的解称为的最小范数解，这是一个凸优化问题。

5.2.3 最小二乘解⭐ ​

1) 最小二乘解的概念 ​

设，非齐次线性方程组无解时，

如果满足对任意都有

则称是方程组的一个最小二乘解

矩阵分析引论上的内容--看不出真假

设是矩阵的一个广义逆矩阵，并且,

那么对任给的维列向量,一定是的最小二乘解

定理

设,对于不相容的方程组

  • 当有唯一最小二乘解
  • 当的最小二乘解不唯一

定义

若是不相容方程组的最小二乘解，如果对于任一个最小二乘解都有不等式

则称是最佳最小二乘解

2) 最小二乘法求非齐次线性方程组 ​

最小二乘估计，旨在求解误差平方和最小的非零解。这里直接抛出线性最小二乘法的公式：

该公式针对非齐次线性方程组，可直接对求逆，再右乘得到的最小二乘解。当然此处是否可逆取决于该方阵是否是满秩矩阵，即要求满秩，如果不是满秩矩阵，说明约束不够，仍无法得到可靠的最小二乘近似

3) 最小二乘法求齐次线性方程组 ​

然而，对于齐次线性方程组的情况，由于向量，我们无法直接通过线性最小二乘公式求解的非零解。那么是否就无解了呢，当然不是，我们通常有两种做法：

方法一：对矩阵做SVD分解，分解后的最后一列向量即为的最小二乘解

方法二: 求解的特征向量和特征值，最小特征值对应的特征向量即为的最小二乘解

例子

image-20211228174928310

5.3 特征值的估计 ​

设为一给定的复数矩阵，则可以表示成一个厄米特矩阵与一个反厄米特矩阵之和。

定理

若阶复数矩阵的特征值上集合(A的谱)为,则又不等式

等号当且只当为正规矩阵时成立

推论

存在酉矩阵即上三角矩阵,使得

推论1

若如前所设，则有

，可得

推论2

设是阶实矩阵，则

image-20211230174608222

5.4 圆盘定理 ​

bash
https://zhuanlan.zhihu.com/p/31463121

5.4.1 行，列盖尔圆盘 ​

设为任一阶复数矩阵，则的特征值都在复数平面上的个圆盘

的并集内，这里的

。

img

例子

image-20211230174633690

定理

的全部特征子都在它的个盖尔圆的并集中

若实矩阵的n个盖儿圆相互独立，则的特征值全为实数

若的连通部分由k个盖儿圆构成，则此部分恰有的k个特征值

、image-20220108152518575

5.4.2 定理二 ​

img

image-20211230174724550

5.5 谱半径的估计 ​

首先我们知道谱半径是复数域上的阶方阵，又是的全部特征值，则

定理

复数域上的任一阶方阵的谱半径都不超过的范数

这里为任一方阵范数。

推论

若为阶正规矩阵，则