定義

對於 $n \times n$ 矩陣 $A$，如果滿足：

$$A^T = A$$

則稱 $A$ 為對稱矩陣

例子

$$ A = \begin{bmatrix} 2 & 1 \\ 1 & 3 \end{bmatrix} $$ $$ B = \begin{bmatrix} 1 & 2 & 3 \\ 2 & 4 & 5 \\ 3 & 5 & 6 \end{bmatrix} $$ 任何對角矩陣都是對稱的： $$ C = \begin{bmatrix} 1 & 0 & 0 \\ 0 & 2 & 0 \\ 0 & 0 & 3 \end{bmatrix} $$

背景：特徵值與特徵向量

對一個 $n \times n$ 矩陣 $A$，如果存在非零向量 $\mathbf{v}$ 和實數（或複數） $\lambda$，使得：

$$
A\mathbf{v} = \lambda \mathbf{v}
$$

其中：

• $\lambda$：特徵值 (eigenvalue)
• $\mathbf{v}$：特徵向量 (eigenvector)

代數重數（Algebraic Multiplicity）

定義

某個特徵值 $\lambda$ 的 代數重數 是：

$\lambda$ 在特徵多項式中的根出現的次數

特徵多項式

$$
p(\lambda) = \det(A - \lambda I)
$$

如果：

$$
p(\lambda) = (\lambda_1 - \lambda)^{m_1} (\lambda_2 - \lambda)^{m_2} \cdots (\lambda_k - \lambda)^{m_k}
$$

那麼每個 $m_i$ 就是對應特徵值 $\lambda_i$ 的 代數重數

定義

對一個 $m \times n$ 的矩陣 $A$，我們定義它的 零空間(Null space) 為：

$$
\text{Null}(A) = {\mathbf{v} \in V : A\mathbf{v} = \mathbf{0}}
$$

也就是所有能讓 $A\mathbf{v}=0$ 的向量集合

什麼是 Span？

線性生成空間(Span) 是線性代數中一個核心概念，它描述了給定向量集合能夠「生成」的所有可能向量的集合

定義

設 $S = {\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k}$ 是向量空間 $V$ 中的一個向量集合，則 $S$ 的 span 定義為：

$$\text{span}(S) = \text{span}\{\mathbf{v}_1, \mathbf{v}_2, \ldots, \mathbf{v}_k\} = \{c_1\mathbf{v}_1 + c_2\mathbf{v}_2 + \cdots + c_k\mathbf{v}_k : c_1, c_2, \ldots, c_k \in \mathbb{R}\}$$

換句話說，$\text{span}(S)$ 是所有 $S$ 中向量的線性組合所構成的集合

定義

對於 $n \times n$ 矩陣 $A$，如果存在 可逆矩陣 $P$ 和 對角矩陣 $D$，使得：

$$A = P D P^{-1}$$

則稱矩陣 $A$ 是 可對角化的(diagonalizable)，這個過程稱為 對角化(diagonalization)

定義

對於 $n \times n$ 實矩陣 $Q$，如果滿足：

$$Q^T Q = Q Q^T = I$$

其中 $I$ 是 $n \times n$ 單位矩陣，則稱 $Q$ 為正交矩陣

例子

$$ Q_1 = \begin{bmatrix} \cos\theta & -\sin\theta \\ \sin\theta & \cos\theta \end{bmatrix} $$ $$ Q_2 = \begin{bmatrix} 1 & 0 \\ 0 & -1 \end{bmatrix} $$ $$ Q_3 = \begin{bmatrix} \frac{1}{\sqrt{2}} & \frac{1}{\sqrt{2}} \\ -\frac{1}{\sqrt{2}} & \frac{1}{\sqrt{2}} \end{bmatrix} $$

定義

對於矩陣 $A$，其轉置矩陣表示為 $A^T$，其中：

$$A_{ij}^T = A_{ji}$$

換句話說，原矩陣的第 $i$ 行第 $j$ 列元素，在轉置矩陣中變成第 $j$ 行第 $i$ 列元素

例子

$$\begin{bmatrix} 1 & 2 \\ 3 & 4 \end{bmatrix}^T = \begin{bmatrix} 1 & 3 \\ 2 & 4 \end{bmatrix}$$ $$\begin{bmatrix} 1 & 2 \\ 3 & 4 \\ 5 & 6 \end{bmatrix}^T = \begin{bmatrix} 1 & 3 & 5 \\ 2 & 4 & 6 \end{bmatrix}$$

定義

在矩陣中，軸元(pivot) 是指每列中的第一個非零元素

考慮以下矩陣：

$$A = \begin{bmatrix} 2 & 1 & 3 \\ 0 & 4 & 1 \\ 0 & 0 & 5 \end{bmatrix}$$

在這個矩陣中：

• 第 1 列的軸元是 $a_{11} = 2$（位置 (1,1)）
• 第 2 列的軸元是 $a_{22} = 4$（位置 (2,2)）
• 第 3 列的軸元是 $a_{33} = 5$（位置 (3,3)）

因此對於矩陣 $A$ 來說有三個軸元分別是 $2, 4, 5$

前言

特徵向量(Eigenvector) 與 特徵值(Eigenvalue) 是線性代數中最基礎的概念，這篇文章複習這兩者的計算方式

定義

給定一個 $n \times n$ 的方陣 $A$，如果存在一個非零向量 $\mathbf{x}$，使得：

$$A\mathbf{x} = \lambda \mathbf{x}$$

其中 $\lambda$ 是一個純量，則稱：

• $\mathbf{x}$ 為矩陣 $A$ 的 特徵向量
• $\lambda$ 為矩陣 $A$ 的 特徵值

定義

一個方陣 $A$ 如果 行列式為 0：

$$
\det(A) = 0
$$

那麼這個矩陣就是 奇異矩陣 (Singular matrix)

反之，如果 $\det(A) \neq 0$，則稱為 非奇異矩陣 (invertible matrix)