2. 内积空间
2.0 考试重点+例题
https://www.bilibili.com/read/cv3995642重点内容
内积空间的判定/证明
柯西-许瓦兹不等式
施密特正交化（求标准正交基）
正交变换的判定/证明
方程组的最小二乘解
复数矩阵的对角化
一些其他概念/定义：对角行矩阵，实对称矩阵，实反对称矩阵，厄米特矩阵，反厄米特矩阵，正交矩阵，酉矩阵。
2.0.1 求矩阵的特征值和矩阵的迹
这个就不举例了
一个矩阵中主对角线(从左上方至右下方的对角线)上各元素的总和被称为的迹
2.0.2 矩阵的秩的关系
2.0.3 求最小二乘解
求到的最小距离
2.0.4 酉矩阵的特征值
2.1 内积空间的相关概念
欧式空间与酉空间通称为内积空间
2.1.1 欧式空间⭐
设是实数域上的维空间，对于中的任意两个向量按照某一确定法则对应着一个实数，这个实数称为与的内积。记为,并且要求内积满足下列运算条件：
- ，当且仅当时
这里是中的任意向量，为任意实数，这样我们称带有这样内积的维线性空间为欧式空间
例子
在中，对于
若规定
容易验证是上的一个内积，从而成为一个欧式空间
2.1.2 酉空间⭐
设是复数域上的维空间，对于中的任意两个向量按照某一确定法则对应着一个实数，这个实数称为与的内积。记为,并且要求内积满足下列运算条件：
- ，当且仅当时
定义
设是维酉空间，为其一组基底，对于中的任意两个向量
那么与的内积为
酉空间的内积定义可以简写为
2.1.3 厄米特矩阵⭐
前期数学准备
设,用表示以中元素的共轭复数为元素组成的矩阵，记为
称为的复共轭转置矩阵
性质如下
- ,如果可逆
1) 厄米特矩阵和反厄米特矩阵
如果,如果 ，那么我们称A为Hermite(厄米特)矩阵
如果,那么称为反Hermite(厄米特)矩阵
Hermite矩阵如下图所示
举例，判断下列矩阵是-矩阵
2) 厄米特矩阵相关性质
任意都可以表示为一个矩阵和一个反阵之和
2.1.4 度量概念
设为欧式空间，向量的长度定义为非负数，
例子
定义
设为欧式空间，两个非零向量的夹角定义为
于是有
2.1.5 柯西许瓦兹不等式⭐
设是内积空间，是中任两向量，则有
等号当且仅当线性相关时成立
向量长度具有如下性质
- ,当且仅当时，
2.2 正交基和子空间的正交关系
在空间中，如果，则称与正交，记为
长度为1的向量称为单位向量，对于任何一个非零的向量，向量总是单位向量，称此过程为单位化
2.2.1 正交基相关概念
设为一组不含有零向量的向量组，如果内的任意两个向量彼此正交，则称其为正交向量组
如果一个正交向量组中任何一个向量组都是单位向量，则称此向量组为标准正交向量组
在维内积空间中，由个正交向量组组成的基底称为正交基底，
由个标准的正交向量组成的基底称为标准正交基底
定理
向量组为正交向量组的充分必要条件是
向量组为标准正交向量组的充分必要条件是
2.2.2 Schmidt正交化(2步)⭐
正交向量组合向量组的关系
正交的向量组是一个线性无关的向量组，反之，由一个线性无关的向量组出发，可以构造一个正交向量组。甚至是一个标准正交向量组
Schmidt正交化与单位化过程：
设为维内积空间中个线性无关的向量，利用这个线性无关的向量，利用这个向量可以构造与之等价的一个标准正交向量组，而且的一个标准正交基
1) 正交化
2) 单位化
显然，是一组标准的正交向量组
例子
2.3 正交(酉)变换⭐
2.3.1 酉矩阵和正交矩阵
酉矩阵
设为一个阶复矩阵，如果满足
则称为酉矩阵，一般记作
是酉矩阵的充要条件是的每个特征值的模
正交矩阵
设为一个阶实矩阵，如果其满足
则称为正交矩阵，一般记作
例子
前三个都是正交矩阵
第四个为酉矩阵
总结
设，那么
这里当时，，当时，
性质
定理
设，是一个酉矩阵(正交矩阵)的充分必要条件为的个列(或行)向量组是标准正交向量组
2.3.2 酉相似
设给定，若果存在一个酉矩阵,使得，我们称和酉相似。
如果可以取为实数，那我们就说和实正交相似。
如果与一个对角矩阵酉相似，我们称可以酉对角化。
如果与一个对角矩阵实正交相似，我们称可以实正交对角化
2.3.3 正交变换的判定
设是内积空间的线性变换，若能保持中向量内积不变，即对任何，都有
则线性变换称为的一个正交变换。(即变换后，内积不变)
2.4 正规矩阵
2.4.1 正规矩阵概念
设,且，那么我们称矩阵为一个正规矩阵
设,且，那么我们称矩阵为一个实正规矩阵
例子
为实正规矩阵
矩阵，反矩阵，正交矩阵，酉矩阵，对角矩阵都是正规矩阵
2.4.2 正规矩阵性质
- 设是一个正规矩阵，则与酉相似的矩阵一定是正规矩阵
- 设是一个正规矩阵且又是三角矩阵，则必为对角矩阵
设是一个正规矩阵
- A是厄米特的充要条件是：的特征值全为实数
- 是反厄米特矩阵的充要条件是:A的特征值为零或纯虚数
- A是酉矩阵的充要条件是的特征值的模长为1
2.4.3 正规矩阵的结构定理
根据第三章的舒尔定理，可以证明
矩阵,为正规矩阵的充要条件是:存在酉矩阵，使得酉相似与对角形矩阵
其中是的特征值
推论，可以出判断题
- n阶正规矩阵有n个线性无关的特征向量(必要不充分)
- 可对角化的矩阵不一定可酉对角化
- 正规矩阵属于不同特征值的特征向量彼此正交
2.5 最小二乘⭐
根据我们在本科学的知识点，求
当时，我们才有解？？
但是大多数实际情况，是无解的情况，
使得最小
下面直接给答案
、例子
解如下
2.6 正交投影变换(书上没有-不用看)
2.6.1 幂等矩阵
设，如果满足则称是一个幂等矩阵
性质
都是幂等矩阵
的充分必要条件是
,
R(A)指的是A的值域,N(A)是其零空间
如果,则有
可知，整理为
因此，即可得
幂等矩阵的结构定理
设是一个秩为的阶矩阵，那么为一个幂等矩阵的充分必要条件是存在使得
设是一个阶幂等矩阵，则有
幂矩阵与投影变换
设是维酉空间的两个子空间，且，则对于中任一向量均可唯一的表示为
则称是沿到的投影，是沿到的投影
由上式确定的线性变换
称为沿到的投影变换
定理
设是一个阶幂等矩阵，则线性变换
是沿着到的投影变换
提示：,其中
定理
设是维酉空间上的线性变换，则下列命题等价
- 是上的投影变换
- 的矩阵表示满足
2.6.2 概念
正交补
正交投影变换
设是一个阶幂等的矩阵，则线性变换
是到的正交投影变换
正交投影是指像空间U和零空间W相互正交子空间的投影。
2.6.3 总结
为什么投影变换和正交投影变换的区别是幂等矩阵是否是Hermite矩阵？
投影变换的充要条件是A^2=A， 正交投影变换的充要条件是A^2=A，且A是Hermite矩阵。