Gram 矩阵及其主要性质

自闭症网瘾萝莉.ら 提交于 2020-02-07 00:03:33

Gram 矩阵

假设 AA 是一个 m×nm\times n 阶矩阵,

  1. 列向量 Gram 矩阵
    AA 由列向量 αi\mathbf{\alpha}_i 表示, 即
    A=[α1α2αn]A=\begin{bmatrix}\mathbf{\alpha}_1 & \mathbf{\alpha}_2 &\cdots & \mathbf{\alpha}_n \end{bmatrix}

G=ATA=[α1Tα2TαnT][α1α2αn]=[α1Tα1α1Tα2α1Tαnα2Tα1α2Tα2α2TαnαnTα1αnTα2αnTαn] \begin{aligned} G &= \, A^{\mathsf T}A \\[3pt] &= \begin{bmatrix} \mathbf{\alpha}_1^{\mathsf T} \\ \mathbf{\alpha}_2^{\mathsf T} \\ \vdots \\ \mathbf{\alpha}_n^{\mathsf T} \end{bmatrix} \begin{bmatrix} \mathbf{\alpha}_1 & \mathbf{\alpha}_2 & \cdots & \mathbf{\alpha}_n \end{bmatrix} \\[3pt] & = \begin{bmatrix} \mathbf{\alpha}_1^{\mathsf T}\mathbf{\alpha}_1 & \mathbf{\alpha}_1^{\mathsf T}\mathbf{\alpha}_2 & \cdots & \mathbf{\alpha}_1^{\mathsf T}\mathbf{\alpha}_n \\ \mathbf{\alpha}_2^{\mathsf T}\mathbf{\alpha}_1 & \mathbf{\alpha}_2^{\mathsf T}\mathbf{\alpha}_2 & \cdots &\mathbf{\alpha}_2^{\mathsf T}\mathbf{\alpha}_n \\ \vdots & \vdots & & \vdots \\ \mathbf{\alpha}_n^{\mathsf T}\mathbf{\alpha}_1 & \mathbf{\alpha}_n^{\mathsf T}\mathbf{\alpha}_2 & \cdots & \mathbf{\alpha}_n^{\mathsf T}\mathbf{\alpha}_n \end{bmatrix} \end{aligned}

  1. 行向量 Gram 矩阵
    AA 由行向量 βiT\mathbf{\beta}_i^{\mathsf T} 表示, 即
    A=[β1Tβ2TβmT]A=\begin{bmatrix}\mathbf{\beta}_1^{\mathsf T} \\ \mathbf{\beta}_2^{\mathsf T} \\ \vdots \\ \mathbf{\beta}_m^{\mathsf T} \end{bmatrix}

G=AAT=[β1Tβ2TβmT][β1β2βm]=[β1Tβ1β1Tβ2β1Tβmβ2Tβ1β2Tβ2β2TβmβmTβ1βmTβ2βmTβm] \begin{aligned} G &= \, AA^{\mathsf T} \\[3pt] &= \begin{bmatrix}\mathbf{\beta}_1^{\mathsf T} \\ \mathbf{\beta}_2^{\mathsf T} \\ \vdots \\ \mathbf{\beta}_m^{\mathsf T} \end{bmatrix} \begin{bmatrix} \mathbf{\beta}_1 & \mathbf{\beta}_2 & \cdots & \mathbf{\beta}_m \end{bmatrix} \\[3pt] & = \begin{bmatrix} \mathbf{\beta}_1^{\mathsf T}\mathbf{\beta}_1 & \mathbf{\beta}_1^{\mathsf T}\mathbf{\beta}_2 & \cdots & \mathbf{\beta}_1^{\mathsf T}\mathbf{\beta}_m \\ \mathbf{\beta}_2^{\mathsf T}\mathbf{\beta}_1 & \mathbf{\beta}_2^{\mathsf T}\mathbf{\beta}_2 & \cdots &\mathbf{\beta}_2^{\mathsf T}\mathbf{\beta}_m \\ \vdots & \vdots & & \vdots \\ \mathbf{\beta}_m^{\mathsf T}\mathbf{\beta}_1 & \mathbf{\beta}_m^{\mathsf T}\mathbf{\beta}_2 & \cdots & \mathbf{\beta}_m^{\mathsf T}\mathbf{\beta}_m \end{bmatrix} \end{aligned}

6 大性质

下面只考虑列向量 Gram 矩阵

(1) G=ATAG = \, A^{\mathsf T}A 是对称矩阵

GT=(ATA)T=ATA=G G^{\mathsf T } = \, (A^{\mathsf T}A)^{\mathsf T} = \, A^{\mathsf T}A = G


(2) 对于实矩阵 AA rank(ATA)=rank(A)\mathrm{rank} (A^{\mathsf T}A) = \mathrm{rank} (A)

证明 {Ax=0ATAx=0\begin{cases} A\mathsf{x} = 0 \\ A^{\mathsf T}A\mathbf{x} = 0 \end{cases} 同解即可.

证明过程详见经典例题(第3小问)

(3) 若 ATA=0A^{\mathsf T}A=0, 则 A=0A = 0

由上面性质
rank(ATA)=rank(A)=rank (0)=0\begin{aligned} \mathrm{rank} (A^{\mathsf T}A) &= \mathrm{rank} (A) \\ &= \mathrm{rank} \ (0) = 0 \end{aligned}


(4) 对于实矩阵 AA, 则 ATAA^{\mathsf T}A 是半正定矩阵
xTATAx=(Ax)TAx0 \mathbf{x}^{\mathsf T}A^{\mathsf T}A\mathbf{x} = (A\mathbf{x})^{\mathsf T}A\mathbf{x} \geq 0


(5) 对于任意 nn 阶实对称半正定矩阵 MM, 存在矩阵 AA 使得 M=ATAM=A^{\mathsf T}A 成立.

因为矩阵 MM 实对称, 所以 MM 可以正交对角化, 即M=QΛQTM = Q\Lambda Q^{\mathsf T} 又因为矩阵 MM 半正定, 所以其特征值 $\lambda_i \geq 0 $, 所以可记 Λ1/2=diag(λ1,,λn)\Lambda^{1/2} = \mathrm{diag} ( \sqrt{\lambda_1}, \dots, \sqrt{\lambda_n})KaTeX parse error: Expected 'EOF', got '}' at position 29: …2}Q^\{\mathsf T}̲ 则可得
M=QΛQT=(Λ1/2QT)TΛ1/2QT=ATA\begin{aligned} M &= Q\Lambda Q^{\mathsf T} \\ &= (\Lambda^{1/2}Q^{\mathsf T})^{\mathsf T}\Lambda^{1/2}Q^{\mathsf T} \\ &= A^{\mathsf T}A \end{aligned}


(6) 若 A=[α1α2αn]A=\begin{bmatrix}\mathbf{\alpha}_1 & \mathbf{\alpha}_2 &\cdots & \mathbf{\alpha}_n \end{bmatrix} 列满秩, 则 ATAA^{\mathsf T}A 正定

  • 由性质 (2), 知 rank(ATA)=rank(A)=n\mathrm{rank} (A^{\mathsf T}A) = \mathrm{rank} (A) = n
  • 因为 Ax=0A\mathbf{x}=0 只有零解, 结合性质 (4), 对于非零 xRn\mathbf{x}\in \mathbb{R}^n
    xTATAx=(Ax)TAx>0 \mathbf{x}^{\mathsf T}A^{\mathsf T}A\mathbf{x} = (A\mathbf{x})^{\mathsf T}A\mathbf{x} > 0

原文链接
[1] matnoble.me/posts/gram
[2] 关注我吧

标签
易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!