《linear algebra done wrong》上正交投影矩阵的公式是怎么推导出来的？
《Linear Algebra Done Wrong》一书中第七章讨论了正交投影矩阵。该矩阵可以将向量投影到一个子空间上，同时保持向量在该子空间上的长度不变。下面是该书中对于正交投影矩阵的推导过程：
假设W是一个n维向量空间的子空间，P是一个线性变换，将向量v投影到W上。那么，P的矩阵表示应该满足以下条件：
-
对于任意向量v\in W，Pv=v，即v在W上的投影等于自身。
-
对于任意向量u\in W^\perp，Pu=0，即u在W上的投影为零。
考虑一个基于W的正交基\{w_1,\cdots,w_k\}和W^\perp的正交基\{w_{k+1},\cdots,w_n\}。那么，P的矩阵表示应该满足以下条件：
-
对于任意向量v\in W，Pv=\sum_{i=1}^k\langle v,w_i\rangle w_i，即v在W上的投影是基向量的线性组合。
-
对于任意向量u\in W^\perp，Pu=\sum_{i=k+1}^n\langle u,w_i\rangle w_i，即u在W的正交补上的投影是基向量的线性组合。
我们可以将P的矩阵表示写成P=[w_1,\cdots,w_k|w_{k+1},\cdots,w_n]M的形式，其中[w_1,\cdots,w_k|w_{k+1},\cdots,w_n]是由W和W^\perp的基向量组成的矩阵，M是一个n\times n的矩阵。根据上面的条件，我们可以得到以下等式：
将P=[w_1,\cdots,w_k|w_{k+1},\cdots,w_n]M代入上述等式，我们可以得到以下等式：
根据正交基的性质，我们可以得到以下等式：
也就是说，M的第一部分是一个单位矩阵，第二部分是一个零矩阵。因此，M的矩阵表示为：
其中I_k是k\times k的单位矩阵。将M代入P=[w_1,\cdots,w_k|w_{k+1},\cdots,w_n]M，我们可以得到：
这就是正交投影矩阵的公式。
