| Bottom | Home | Article | Bookshelf | Keyword | Author | Oxymoron |

$\pmatrix
{1&0&0
\\0&1&0
\\0&0&1}$

Note of Linear Algebra

Cat: SCI
Pub: 2012
#2021

compiled by Kanzo Kobayashi

20z24u
Title

Note of Linear Algebra

線形代数学メモ

Index
  1. Preface:
  2. Mapping, etc.:
  3. Unseen worlds:
  4. Cofactor matrix:
  5. Determinant:
  6. Permutation:
  7. Eigenvalue and Eigenvector:
  1. 序文:
  2. 写像ほか:
  3. 連立方程式:
  4. 余因子行列:
  5. 行列式:
  6. 置換:
  7. 固有値と固有ベクトル:
Tag
; Antisymmetry; Associative law; Augmented matrix; Automorphism; Cavalieri's principle; Cayley-Hamilton; Coefficient matrix; Cofactor; Commutative; Cramer's rule; Degree of freedom; Determinant; Diagonal sum; Diagonalization; Echelon form; Eigenpolynominal; Eigenvalue ; Elementary matrix; Endomorphism; Even/Odd permutation; Extensional definition; Homogeneous; Identity matrix; Intensional definition; Inverse matrix; Invertible matrix; Kronecker delta; Laplace expansion; Linear independence; Linearity; Linear mapping; Multilinearity; Multiplication; ; Necessary & sufficient condition; Permutation; Rank; Regular matrix; Row reduction; Scalar multiplication; Simultaneous equations; Skew-symmetry; Solvability; Square matrix; Submatrix; Symmetry; Trace; Transformation matrix; Transposed matrix; Uniqueness; Upper triangular;
Original resume
Remarks

>Top 0. Preface:

  • まず数学世界を俯瞰することが重要。線形代数と微分積分は、数学分野の基礎的な2分野である.
    • 代数が主に扱う分野は四則演算、数論は素数論、群は対称性、体は演算、環は線形性を記述する。
    • 解析学は微分積分・関数論、幾何学は、微分幾何(量的分析)と位相幾何(質的相違)である。
    • 線形代数は、定数関数に次ぐ線形関数で諸現象を理解上で重要である。

0. 序文:

  • $\mathbb{Z}$: <G. Zahl, Zahlen; number
  • 数学基礎論(群論)で数学の構造を明らかにした上に、線形世界(線形代数)と微小世界(微積) で解析しようとしている。

>Top 1. Mapping, etc.:

  • 集合Xから集合Yへの写像(mapping):
    • $ f:\;x\in X\mapsto f(x)\in Y$
    • スカラー倍 (scalar multiplication):
      • $(x_1,\cdots, x_n)+(y_1,\cdots, y_n):=(x_1+y_1,\cdots, x_n+y_n)$
        $ r(x_1,\cdots, x_n):=(rx_1,\cdots, rx_n)$
    • 線形写像 (linear mappimg): 線形性 linearity
      1. ${}^\forall x,y\in \mathbb{R}^nQ$に対して$f(x+y)=f(x)+f(y)$
      2. ${}^\forall x\in\mathbb{R}^nおよび$r\in\mathbb{R}$に対し$f(r(x)=rf(x)$
        [比例関数]
    • ベクトル回転 (=回転行列 rotation matrix):
      二次元空間では、原点中心の反時計回り$\theta$の回転行列は
      $A(\theta)=\pmatrix{\cos\theta&-\sin\theta\\\sin\theta&\cos\theta}$
      • $\alpha+\beta$の個別連続回転=$(\alpha+\beta)$の一括回転
      • $A_{\alpha+\beta}=\pmatrix{\cos(\alpha+\beta)&-\sin(\alpha+\beta)\\
        \sin(\alpha+\beta)&\cos(\alpha+\beta)}$
      • $A_{\alpha}A_{\beta}=\pmatrix{\cos\alpha&
        -\sin\alpha\\\sin\alpha&\cos\alpha}
        \pmatrix{\cos\beta&-\sin\beta\\\sin\beta&\cos\beta}\\
        =\pmatrix{\cos\alpha\cos\beta-\sin\alpha\sin\beta&-\cos\alpha\sin\beta-\sin\alpha\cos\beta\\\sin\alpha\cos\beta+\cos\alpha\sin\beta&
        -\sin\alpha\sin\beta+\cos\alpha\cos\beta}$
      • ${}^tR=R^{-1},\;$ det $R=1$
    • >Top 単位行列 (unit/identity matrix)
      • $E_4=\pmatrix{1&0&0&0\\0&1&0&0\\0&0&1&0\\0&0&0&1}$
    • 代数構造 (algebraic structure):
      • 体 (field): 四則計算が成立 (例:$\mathbb{R}, \mathbb{C}, \mathbb{Q})$;
        • $ \mathbb{Z}$は体ではない (整数同士の割り算は整数にならない)
      • 環 (ring): 零元、単位元が定義
      • 群 (group): 対称性 (symmetry)を記述
    • >Top Kronecker delta:
      • $\delta_{ij}:=\cases{1\; (i=j)\\0\; (i≠j)}$
        • 単位行列 $E=[\delta_{ij}]$
    • 上三角行列 (Upper triangular matrix)
      • $A=\pmatrix{2&*&*\\0&4&*\\0&0&6}$
      • $A^n=\pmatrix{2^n&*&*\\0&4^n&*\\0&0&6^n}$
    • >Top 転置行列 (transposed matrix):
      • $A=\pmatrix{a_{11}&a_{12}\\a_{21}&a_{22}}$
      • ${}^tA=\pmatrix{a_{11}&a_{21}\\a_{12}&a_{22}}$
      • ${}^t[a_{ij}]_{i=1,...,n,\ j=1,...,n}=[a_{ji}]_{j=1,...,m,\ i=1,...,n}$ [sizeが異なる]
      • ${}^t(A+B)={}^tA+{}^tB$
      • ${}^t(AB)={}^tB{}^tA$
        • $\because\; {}^t(AB)={}^t[a_{ij}b_{jk}]={}^t[c_{ik}]=[c_{ki}]
          =[a_{kj}b_{ji}] $
        • 一方$ {}^tB {}^tA= {}^t[b_{jk}]{}^t[a_{ij}]=[b_{kj}][a_{ji}]=[c_{ki}]
          =[a_{kj}b_{ji}] ...\Box$
      • $(A^t)^{-1}=(A^{-1})^t$
      • ${}^t(cA)=c{}^tA$
      • det (${}^tA)$=det $A$
      • 内積 $\langle Ax,y\rangle=\langle x,{}^tAy\rangle$
      • $({}^tA)^{-1}={}^t(A^{-1})$
      • ${}^t(A{}^tA)={}^t({}^tA){}^tA=A{}^tA$
    • >Top 行列の積 (multiplication):
      • $A=\pmatrix{a_1\\\vdots\\a_m},\;B=\pmatrix{b_1&\cdots&b_n}$
      • $AB=\pmatrix{a_1\\\vdots\\a_m}\pmatrix{b_1&\cdots&b_n}
        =\pmatrix{a_1b_1&\cdots&a_1b_n\\\vdots&\ddots&\vdots\\
        a_mb_1&\cdots&a_mb_n} $
    • >Top 対角化 (Diagonalization):
      • n次正方行列$A$に対し、適当な正則行列$P$が存在して
        $P^{-1}AP=\pmatrix{\lambda_1&&\large{0}\\&\ddots&
        \\\large{0}&&\lambda_n}$ のような対角行列ができるとき、行列$A$は対角化可能といい、このときの行列$P$を変換行列(transformation matrix, 対角化行列)という。
      • n次正方行列$A$に対し、対角成分の和$\displaystyle\sum_{k=1}^na_{kk}=$tr $A$ [trace]
      • $(P^{-1}AP)^n=\underbrace{(P^{-1}AP)(P^{-1}AP)\cdots(P^{-1}AP)}
        _{n\ \text{times}}=P^{-1}A^nP$
        $\;→A^n=P(P^{-1}A^nP)P^{-1}=$ [対角成分のみn乗]
        • $P$は正則行列:
          $c_1x_1+c_2x_2+\cdots+c_nx_n
          =\pmatrix{x_1&x_2&\cdots&x_n}\pmatrix{c_1\\c_2\\\vdots\\c_n}
          =\mathbb{0}\;$ [n元連立方程式]
          ここでrank(P)<nとすると$P$は逆行列を持たないので、$c_1=c_2+\cdots=C_n=0$という自明な解以外の解を持つ。これは$x_1,\cdots,x_n$が一次独立であることに矛盾
          →rank(P)=nであり、$P$は正則行列である。 [rank(P)≤nゆえ]
        • $P^{-1}AP$は対角行列:
          $P^{-1}AP=P^{-1}A(x_1, x_2,\cdots, x_n)=P^{-1}(Ax_1, Ax_2,\cdots, Ax_n)$
          $=P^{-1}(\lambda_1x_1, \lambda_2x_2,\cdots, \lambda_nx_n)$
          $=P^{-1}(x_1, x_2,\cdots, x_n)\pmatrix{\lambda_1&&\large{0}
          \\&\ddots&\\\large{0}&&\lambda_n}$
          →$P=((x_1, x_2,\cdots, x_n)$なので、$P^{-1}AP$は対角行列...$\Box$
      • 定理:
        n次正方行列$A$の相異なる固有値$\lambda_1, \lambda_2,\cdots, \lambda_k$
        に対する固有ベクトル$x_1, x_3,\cdots, x_k$は一次独立である ($1≤k≤n$)
        • 証明:
          k=1のとき成立は明らか。
          k=nのとき成立を仮定する。
          このとき、$c_1x_1+c_2x_2+\cdots+c_mx_m+c_{m+1}x_{m+1}=0$ ...(*)
          を考える。(*)の両辺に左から$A$を掛けると
          $c_1\lambda_1x_1+c_2\lambda_2x_2+\cdots+c_m\lambda_mx_m
          +c_{m+1}\lambda_{m+1}x_{m+1}=0 $ ...(*1)
          また(*)の両辺に$\lambda_{m+1}$を掛けると
          $c_1\lambda_{m+1}x_1+c_2\lambda_{m+1}x_2+\cdots
          +c_m\lambda_{m+1}x_m
          +c_{m+1}\lambda_{m+1}x_{m+1}=0 $ ...(*2)
          ここで(*1)-(*2)とすると、
          $c_1(\lambda_1-\lambda_{m+1})x_1+c_2(\lambda_2-\lambda_{m+1})x_2+\cdots+c_m(\lambda_m-\lambda_{m+1})x_m=0$
          ここで$x_1, x_2,\cdots,x_n$は一次独立であるから
          $C_i(\lambda_i-\lambda_{m+1}=0\; (i=1,2,\cdots,m)$
          ここで$\lambda_i-\lambda_{m+1}≠0\;(i=1,2,\cdots,m)$であるので
          $c_1=c_2=\cdots=c_m=0$
          これを(*)に代入すると $c_{m+1}x_{m+1}=0\;→c_{m+1}=0$
          →以上より$x_1, x_2,\cdots,x_{m+1}$は一次独立
        • 固有方程式が重根を保つ場合は、対角化可能な場合と、不可能な場合がある。

1. 写像ほか:

  • algebra: <Ar. al+jabr, reunite; science of restroing what is missing and equating like with like (Al-Khawrismi
  • commute: have a commutative (=exchanged) relation; 交換法則
  • associative law: 結合法則
  • distributive law: 分配法則
  • addition theorem: 加法定理
  • >Top commutative: 可換 <commute, change one obligation for another <L. com-+mutare, change どの2つの元も掛ける順番によらない (可換群 commutative group)
  • transpose: <L. trans-+poser, to place
  • matrix: 行列; 矩阵jǔzhèn
  • row reductrion=Gaussian elimination: 掃き出し法
  • echelon form:行階段形、梯形 <F. ladder
  • >Top endomorphism: 自己準同型
  • automorphism, Aut(X): 自己同型群; 条件は、閉性/結合法則/単位元/逆元が成立すること
  • $:=$ 左辺(新たな概念)=右辺で定義
  • $\Box$:= qed, quod erat demonstrandum
  • 行列の略記: $A=[a_{ij}]_{i,j=1,...,n}$
  • Linear Maps: are mapping between vector spaces; there preserve the vector-space structure.
    • A bijective linear map between two vector spaces is an isomorphism.
  • Linearly independent:
    if the only way to express the zero vector as a linear combination of elements of $S$ is to take zero for every coefficient $a_i$.

  • 線形性の例
    1. 一次関数:
      $f(ax+by)=af(x)+bf(y)$
    2. シグマ記号:
      $\displaystyle\sum_{k=1}^n$
    3. 微分
      $\frac{d}{dt}$
    4. 積分
      $\int_p^q$
    5. ベクトル内積
      $\mathbb{p}・(a\mathbb{x}+b\mathbb{y})$
    6. 一次変換:
      $A(a\mathbb{x}+b\mathbb{y}$
    7. 極限:
      $\displaystyle\lim_{t→\alpha}$
    8. 期待値:
      $E(aX+bY)$
    9. 行列trace:
      $tr(aX+bY)$

  • $\sum$計算公式:
  1. $\displaystyle\sum_{i=1}^na_i
    =\displaystyle\sum_{i=k+1}
    ^{n+k}a_{i-k}$
  2. $\displaystyle\sum_{i=1}^m
    \displaystyle\sum_{j=1}^na_{ij}
    =\displaystyle\sum_{j=1}^n
    \displaystyle\sum_{i=1}^ma_{ij}$
  3. $\displaystyle\sum_{i=1}^m
    \displaystyle\sum_{j=1}^na_ja_j
    =\displaystyle\sum_{i=1}^ma_i
    \displaystyle\sum_{j=1}^nb_j$
  4. $(\displaystyle\sum_{i=1}^na_i^2)
    (\displaystyle\sum_{i=1}^nb_i)^2)$
    $=(\displaystyle\sum_{i=1}^na_ib_i)^2
    +\displaystyle\sum_{i≤i<j≤n}(a_ib_j-a_jb_i)^2$
    [Lagrange identity]

>Top 2. Simultaneous Equations:

  • 連立方程式 (simultaneous (linear) equations):
    • $\cases{a_{11}x_1+a_{1n}x_n=b_1\\\;\;\vdots
      \\a_{m1}x_1+a_{mn}x_m=b_m}$
    • 拡大行列 (augmented matrix):
      $[A|b]:=\left(\begin{array}{ccc|c}a_{11}&\cdots&a_{1n}&b_1
      \\\vdots&\vdots&\vdots&\vdots\\a_{m1}&\cdots&a_{mn}&b_m \end{array}\right)$
    • 係数行列 (coefficinet matrix): 連立方程式の係数を要素とする行列
    • >Top 掃き出し法 (ガウス・ジョルダンの消去法, row reduction; Gauss-Jordan elimination)
      1. 2つの行の入れ替え
      2. 定数(≠0)倍
      3. ある行に定数倍を加える
      4. 主成分(最も左の成分)を1にして、主成分含む列の成分は主成分以外は0
      5. 行階段形(echelon form)に変形
    • >Top 可逆行列 (invertible matrix =regular =non-singular):
      • $AB=E=BA$
      • Aの逆行列$A^{-1}=B, C$があるとする。
        $B=BE=B(AA^{-1})=B(AC)=(BA)C=EC=C$ [逆行列は唯一]
      • $A^{-1}=B$とすると、$(A^{-1})^{-1}=B^{-1}=A$
      • 可逆行列$A$について、$A^{p+q}=A^pA^q$
      • $(AB)^{-1}=B^{-1}A^{-1}$
      • det $A^{-1}$=(det $A)^{-1}$
    • >Top 簡略化の一意性 (uniqueness):
      1. 零ベクトルでない行の主成分が1 [主成分=ある行で0でない最初の成分]
      2. 各行の先頭の0が増えていく。[主成分$a_{ik_i}\;→a_{jk_j}\; (j>i →k_j>k_i)$]
      3. 主成分を含む列ベクトルの他成分は全て0
    • 解の自由度 (degree of freedom):
      1. 係数行列$A$が(m×n)行列とすると、解の自由度は n-rank($A$)
      2. 逆に、解の自由度が0ならば、解は1つしか存在しない。
      3. n変数の連立一次方程式$Ax=b$が唯一の解をもつ必要十分条件は
        rank($A$)=rank([$A|b$])=$n$

  • >Top 行列の階数 (rank):
    行列$A$の簡略化を$B$とすると、$B$の
    1. 零ベクトルでない行の数 [$A$の階数:rank($A$)]
    2. 主成分の数
    3. 主成分を含む列の数; [$B$の各行の主成分は全て異なる列に属する]
      • (m,n)$A\;→ rank(A)≤m$ かつ $rank(A)≤n$
    • 連立一次方程式と階数:
      (m,n)$A$行列とする。連立方程式$Ax=b$において以下が成り立つ。
      1. $Ax=b$の解が存在するための必要十分条件(necessary & sufficient condition)は
        rank[$A|b$]=rank$A$
      2. $Ax=b$の解が存在するとき、解の任意定数の数は $n$-rank$A$である。
      3. $Ax=b$の解が唯一であるための必要十分条件は rnk$[A|b]$=rank$A$=n
    • $Ax=0$は同次式(=斉次式)(homogeneous)方程式という
      方程式$Ax=b$の1つの解を$a$とすると、以下が成り立つ。
      1. $Ax=0$の任意の解に対し、$a+z$は、$Ax=b$の解である。
      2. $Ax=b$の任意の解$y$は、$Ax=0$とある解$z$とすると $y=a+z$と表せる
      • 同次方程式の解全体$H$とすれば、$Ax=b$の解全体$W$は$H$を$a$方向に
        平行移動した集合に一致する。

  • >Top 基本行列 (Elementary matrix): =(n, n)型正則行列(regular matrix); (m,n)型行列Aに対し
    • $P_{i, j}$ : 単位行列のi行目とj行目を取り替えた行列
      • 左から掛けるとi行とj行が交換; 右からだとi列とj列交換
    • $Q_{i, c}$: 単位行列の(i, i)成分をcにした行列
      • 左から掛けるとi行がc倍; 右からだとi列がc倍
    • $R_{i, j, c}$: 単位行列の(i, j)成分をcにした行列; $(1≤i≠j≤n, c≠0)$
      • $R_{i, j, c}=\pmatrix{1&&&&&&\\&\ddots&&&&&\\&&1&&c&&\\&&&\ddots&& &\\&&&&1&&\\&&&&&\ddots&\\&&&&&&1}$
      • 左から掛けるとi行にj行のc倍が加わる; 右からだとj列にi 列のc倍が加わる
    • 基本行列の逆行列は基本行列:
      • $Q_{i, c}^{-1}=Q_{i, c^{-1}}$の場合:
        • Proof: $Q_{i, c^{-1}}Q_{i, c}=E$ [$i$行目を$i^{-1}$倍すること]
          また $Q_{i, c}Q_{i, c^{-1}}=E$ [$i$行目の$i^{-1}$をi倍すること]
          $\;→ Q_{i, c}^{-1}=Q_{i, c^{-1}}...\Box$
      • 同様に $P_{i, j}^{-1}=P_{i, j},\;R_{i, j, c}^{-1}=R_{i, j, -c}$
      • $k$回の行列基本変形によるBへの変形:
        • $X_kX_{k-1}\cdots X_2X_1A=B$
          \;→PA=B\; [P=X_kX_{k-1}\cdotsX_2X_1]
        • $X_1^{-1}X_2^{-1}\cdots X_{k-1}^{-1}X_k^{-1}B
          =P^{-1}PA=EA=A$\;[Pは可逆]

  • 逆行列の求め方:
    • A=n次正方行列とする。行列[A|E_n]を簡略化し[E_n|B]にすれば、B=A^{-1}となる。
    • 掃き出し法:
      1. ある行を定数倍
      2. 2つの行を交換
      3. ある行の定数倍を別の行に加える
    • $A=\pmatrix{a&b\\c&d}\;→A^{-1}=\frac{1}{ad-bc}\pmatrix{d&-b\\-c&a}$

  • >Top クラメルの公式 (Cramer's rule):
    • 2次正方行列 (square matrix):
      方程式が唯一の解をもつ=$A$が可逆=$|A|≠0$の場合
      $A:=\pmatrix{a&b\\c&d},\;\pmatrix{a&b\\c&d}\pmatrix{x_1\\x_2}
      =\pmatrix{y_1\\y_2}$
      $\left(\begin{array}{cc|c}a&b&y_1\\c&d&y_2\\\end{array}\right)$
      →$\left(\begin{array}{cc|c}1&0&\frac{y_1d-y_2b}{|A|}
      \\c&d&y_2\\\end{array}\right)$
      →$\left(\begin{array}{cc|c}1&\frac{b}{a}&\frac{y_1}{a}
      \\0&1&\frac{y_2a-y_1c}{|A|}\\\end{array}\right)$
      • $\;→x_1=\frac{\pmatrix{y_1&b\\y_2&d}}{|A|}
        ,\;x_2=\frac{\pmatrix{a&y_1\\c&y_2}}{|A|}$
    • 3次正方行列:
      $A=\pmatrix{a_{11}&a_{12}&a_{13}\\a_{21}&a_{22}&a_{23}
      \\a_{31}&a_{32}&a_{33} }$
      $Ax=y$の解は
      • $x_1=\frac{\pmatrix{y_1&a_{12}&a_{13}\\y_2&a_{22}&a_{23}
        \\y_3&a_{32}&a_{33}}}{|A|},\;
        x_2=\frac{\pmatrix{a_{11}&y_1&a_{13}\\a_{21}&y_2&a_{23}
        \\a_{31}&y_3&a_{33}}}{|A|},\;
        x_3=\frac{\pmatrix{a_{11}&a_{12}&y_1\\a_{21}&a_{22}&y_2
        \\a_{31}&a_{32}&y_3}}{|A|}$
    • n次正方行列:
      $Ax=y$の解は一意に決まる。
      • $x_1=\frac{|A_1|}{|A|},\;x_2=\frac{|A_2|}{|A|},\cdots,x_n=\frac{|A_n|}{|A|}$
        ここで$A_i$ は、$A$の第$i$列を$y_i$で置き換えたn次正方行列

2. 連立方程式:

  • cofactor: 余因子
  • row reduction method: 掃き出し法
  • 正則行列=可逆行列 Invertible matrix:
    n×n square matrix $A$
    is called invertible (also nonsingular), if there exists an n×n square matrix B such that $AB=BA=E_n$, where $E_n$ denotes the n×n identity matrix and the multiplication used is ordinary matrix multiplication.
  • If this is the case, then the matrix $B$ is uniquely determined by $A$ that satisfied the prior equation for a given invertible matrix $A$.
  • The set of n×n invertible matrices together with the operation of matrix multiplication form a group, the general linear group of degree $n$, denoted $GL_n(R)$.

>Top 3. Cofactor Matrix:

  • 定義:
    • (n,n)行列$A$の行列式$|A|$の$n$個の$A$の(n-1,n-1)小行列の和としてのスカラー$A_{ij}$である。
      [余因子展開, cofactor expansion, =Laplace expansion]
      $A_{ij}=(-1)^{i+j}M_{ij}$ [$M_{ij}$は$A$の(i,j)小行列submatrix]
    • (3,3)行列$A=\pmatrix{a_{11}&a_{12}&a_{13}\\a_{21}&a_{22}&a_{23}
      \\a_{31}&a_{32}&a_{33}}$に対して
      • 余因子行列$\tilde{A}=\pmatrix{\Delta_{11}&\Delta_{21}&\Delta_{31}
        \\\Delta_{12}&\Delta_{22}&\Delta_{32}
        \\\Delta_{13}&\Delta_{23}&\Delta_{33}},\;$余因子の符号は$(-1)^{i+j}$
    • >Top 逆行列 (inverse matrix)の公式:
      • $|A|≠0$ならば、$A^{-1}=\frac{1}{|A|}\tilde{A}$
    • ¶例:
      $A=\pmatrix{1&0&-3\\0&1&0\\2&1&-5}$
      • 余因子はそれぞれ
        $\Delta_{11}=(-1)^{1+1}\begin{vmatrix}1&0\\1&-5\end{vmatrix},\;
        \Delta_{21}=(-1)^{2+1}\begin{vmatrix}0&-3\\1&-5\end{vmatrix},\;
        \Delta_{31}=(-1)^{3+1}\begin{vmatrix}0&-3\\1&0\end{vmatrix}$
        $\Delta_{12}=(-1)^{1+2}\begin{vmatrix}0&0\\2&-5\end{vmatrix},\;
        \Delta_{22}=(-1)^{2+2}\begin{vmatrix}1&-3\\2&-5\end{vmatrix},\;
        \Delta_{32}=(-1)^{3+2}\begin{vmatrix}1&-3\\0&0\end{vmatrix}$
        $\Delta_{13}=(-1)^{1+3}\begin{vmatrix}1&0\;\\2&1\end{vmatrix},\;\;
        \Delta_{23}=(-1)^{2+3}\begin{vmatrix}1&0\; \\2&1\end{vmatrix},\;\;
        \Delta_{33}=(-1)^{3+3}\begin{vmatrix}1&0\; \\0&1\end{vmatrix}$
        • $\;→A^{-1}=\pmatrix{-5&-3&3\\0&1&0\\-2&-1&1}$

3. 余因子行列::

  • cofactor/adjugate: 余因子
  • Cofactor expansion:
    is an expression for the determinant $|B|$ of an n×n matrix $B$ that is a weighted sum of the determinants of $n$ sub-matrices of $B$, each size
    (n-1)×(n-1).

>Top 4. Determinant:

  • 行列式 (determinant)の定義: 正方行列に対して定義されるスカラー量
    1. 歴史的には、 行列が表す一次方程式の可解性(solvability)を判定する指標
    2. 幾何的には、線形変換に対して線形空間の拡大率(magnification)。
  • >Top 定義:
    • $|A|=\sum_{\sigma}\text{sgn}(\sigma)a_{1\sigma(1)}a_{2\sigma(2)}\cdots a_{n\sigma(n)}$
      [$\sigma$は$(1\ 2\ \cdots\ n)$についての1つの置換; sgn($\sigma$)は偶置換+1, 奇置換-1]
      • 元の総数は$n!$
    • ¶(3,3)行列$A=[a_{ij}]_{i,j=1...3}$
      $|A|=\sum_{\sigma}\text{sgn}\pmatrix{1&2&3\\\sigma(1)&\sigma(2)&\sigma(3)}
      a_{1\sigma(1)}a_{2\sigma(2)}a_{3\sigma(3)} $
      $=\text{sgn}\pmatrix{1&2&3\\1&2&3}a_{11}a_{22}a_{33}
      +\text{sgn}\pmatrix{1&2&3\\2&3&1}a_{12}a_{23}a_{31}
      +\text{sgn}\pmatrix{1&2&3\\3&1&2}a_{13}a_{21}a_{32}$
      $+\text{sgn}\pmatrix{1&2&3\\1&3&2}a_{11}a_{23}a_{32}
      +\text{sgn}\pmatrix{1&2&3\\3&2&1}a_{13}a_{22}a_{31}
      +\text{sgn}\pmatrix{1&2&3\\2&1&3}a_{12}a_{21}a_{33}$
      $=a_{11}a_{22}a_{33}+a_{12}a_{23}a_{31}+a_{13}a_{32}a_{21}
      -a_{11}a_{23}a_{32}-a_{13}a_{22}a_{31}-a_{12}a_{21}a_{33}$
  • >Top 行列式の性質:
    • 行列式の各項は、sgn$(\sigma)a_{1\sigma(1)}a_{2\sigma(2)}\cdots a_{n\sigma(n)}$
    • $i$行の成分は$a_{i\sigma(i)}、j$列の成分は$\sigma(k)=j$となる$a_{k\sigma(k)}$
    • $|{}^tA|=|A|$
    • $|kA(n☓n)|=k^n|A|$
    • 三角行列 (triangle matrix)
      $\begin{vmatrix}a_{11}&*&*\\0&a_{22}&*\\0&0&a_{33}\end{vmatrix}$
    • $|AB|=|A|×|B|$
      • $|A^n|=|A|^n$
    • 多重線形成 (multilinearity):
      • 一つの行(または列)をr倍すると、行列式もr倍になる。
    • 歪対称性 skew-symmetry (=反対称性 antisymmetry)
      • 行(あるいは列)の入替えを行うと-1倍される。
      • 互いに等しい行(あるいは列)があれば、その図形はn-1次元に潰れる [n次元体積は0]
    • カヴァリエリの原理 (Cavalieri's principle):
      • 平面上の図形$A, B$が、平行な2直線$L, L'$ に挟まれているとする。 このとき$L$と平行な任意の直線$L''$に対して、$L''$と$A, B$と交わる線分が等しい場合、$A, B$の面積は等しい。
      • これはn次元に拡張される。
        \mathbb{R}^n上の図形$A, B$が平行な2つの超平面(hyperplane)$L, L'$に挟まれており、$L$と変更な任意の超平面$L''$に対して、$L''$と$A, B$との交わりからなるn-1次元体積が等しい場合、$A, B$のn次元体積は等しい。
      • 体積の厳密化は測度論(measure theory);→ルベーグ(Lebesgue)積分、リーマン(Riemann)積分

4. 行列式:

  • determinant: 歴史的には行列式の方が連立方程式の解法として先に生まれ、行列matrix は、線形写像の数値化演算として別の概念として定義された。和訳も混乱を招く。
  • even permutation: 偶置換
  • Determinant:
    $S_n$ is the group of all permutaiton s of $n$ elements, $\sigma$ is a peermutaion , and $(-1)^{\sigma}$ the parity of the permutation.
  • Invertible if and only if the determinant is invertible.

>Top 5. Permutation:

  • 置換の定義:
    • $X_n$から$X_n$自身への写像$\sigma:\;X_n→X_n$において$\sigma(1),\cdots,\sigma(n)$の中に重複がないとき$\sigma$を$X_n$上の置換という。[1対1写像, one to one mapping]
    • 表示:
      • $\sigma=\pmatrix{1&2&\cdots&n\\k_1&k_2d&\cdots&k_n}$
      • $\sigma(i)=i$ (動かない元)は省略可 (恒等置換 identity permutation)
      • 逆置換 inverseを$\sigma^{-1}$で表す。$(\sigma^{-1})^{-1}=\sigma$; $\sigma^0:=id$ [指数法則]
      • 置換の積: $\sigma\tau:=\sigma\circ\tau$もまた置換 (積置換, product permutation)
        • 結合律 associative lawが成り立つ: $(\sigma\tau)\upsilon)=\sigma(\tau\upsilon)$
      • 任意の置換→循環置換→互換の積→sgn$\;\sigma$符号
        • 偶置換 even permutation=1; 奇置換 odd permutation=-1 [parity]
        • 置換の総数は $n!$個
        • ¶ $\pmatrix{1&2&3&4&5&6&7\\4&1&6&2&7&5&3}=(1,4,2)(3,6,5,7)
          =(1,2)(1,4)(3,7)(3,5)(3,6)$ [互換は右から左]
  • >Top 集合の表現:
    • 外延的定義 extensional definition:
      • 言葉(記号)の示す具体的な対象を例示する
      • 例: 芸術とは、演劇・音楽・絵画・彫刻・文学など具体的に列挙する。
    • 内包的定義 intensional definition:
      • 対象に共通な性質で定義する。
      • 例:芸術とは、様々な方法で自己表現を行い、美的な価値を創出する人間活動
    • 実際には、内包的定義では抽象的でイメージがわきにくく、一方、外延的定義だけでは網羅性に欠けるので、内包的定義で、厳密性・網羅性を説明しつつ、外面的定義で適切な例示を併用する。
    • 言葉の定義を厳密に追求することで、考え方の背景まで認識でき、さらに定義を精緻に追求することにつながる。

5. 置換:

  • permutation: 順列、置換
  • Permutation:
    A permutation of a set $S$ is defined as a bijection from $S$ to itself. That is, it is a function from $S$ to $S$ fro which every element occurs exactly once as an image value. Each element $s$ is replace by the corresponding $f(s)$.

 

>Top 6. Eigenvalue and Eigenvector:

  • 行列に対する固有値・固有ベクトル:
  • 定義:
    • (n,n)の正方行列$A$とする。スカラー$\lambda$ (実数または複素数)に対し、$Ax=\lambda x$ (固有関係式)を満たす$0$でないベクトル$x\in \mathbb{R}^n$が
      存在するとき、$x$を$A$の固有ベクトル、$\lambda$を固有値と呼ぶ。
    • >Top 注:
      1. 正方行列に対して定義する。
      2. $0$は、任意のスカラー$\lambda$に対し固有方程式を満たすが、固有ベクトルではない。
      3. 固有値は、一般には複数あるが、dim\;$V$個以下である。
      4. 一つの固有値に属する固有ベクトルは1つとは限らない。
      5. $V_{\lambda}=\{x\in C^n|Ax=\lambda x\}$を行列$A$の固有値$\lambda$の固有空間という。(固有空間は、固有ベクトル全体+$0$を加えた集合)
      6. 固有ベクトルの一次独立性 (linear independence):
        線形写像$f:V\;→V$の相異なる固有値$\lambda_1,\lambda_2,\cdots,\lambda_r$に対して固有値$\lambda_i$に属する固有ベクトルと$x_i$とする。このとき$\{x_1,x_2,\cdots,x_r\}$は一次独立である。
    • >Top ¶以下の固有値を求める。
      • $A=\pmatrix{2&1&1\\1&2&1\\1&1&2}$
      • この固有多項式(eigenpolynominal) det($A-\lambda I)=
        \begin{vmatrix}2-\lambda&1&1\\1&2-\lambda&1\\1&1&2-\lambda
        \end{vmatrix}$
        $=(2-\lambda)^3+2-3(2-\lambda)
        =-\lambda^3+6\lambda^2-9\lambda+4=-(\lambda-1)^2(\lambda-4)$
      • $\;→\lambda=1$ (重根), 4
    • >Top 固有値とトレース(tr$\;A$, trace); 対角成分の和(=固有和)
        • tr$A$=\lambda_{1}+\cdots+\lambda_{n}=a_{11}+a_{22}+\cdots+a_{nn}$
        • $\lambda_{1}\lambda_{2}\cdots\lambda_{n}=|A|$
      • 固有多項式$\phi(t)=|A-tE|=\begin{vmatrix}a_{11}-t&\cdots&a_{1n}
        \\\vdots&\ddots&\vdots\\a_{n1}&\cdots&a_{nn}-t\end{vmatrix}$ [行列の成分表現*]
      • 一方、$A$の固有値を$\lambda_1\sim\lambda_n$とすると
        $\phi(t)=(-1)^n(t-\lambda_1)(t-\lambda_2)\cdots(t-\lambda_n) $ [行列の固有値表現**]
      • *と**を比較すると
        • $t^n$の係数:
          $(-1)^n(a_{11}-t)(a_{22}-t)\cdots(a_{nn}-t)$
        • $t^{n-1}$の係数:
          $(-1)^{n-1}(a_{11}+a_{22}-t+\cdots+a_{nn})=(-1)^{n-1}\text{tr}A$ [対角和=固有和diagonal sum]
        • 定数項: $|A|=\lambda_1\lambda_2\cdots\lambda_3$ [行列式=固有値の積]
    • >Top ケーリー・ハミルトンの定理 (Cayley-Hamilton theorem):
      • 二次の場合:
        $A=\pmatrix{a&b\\c&d}$とする。
        固有多項式 det$(A-\lambda E)=\lambda^2-(a+d)\lambda+(ad-bc)$
        $\lambda$の部分に行列$A$を代入すると零行列になる。
        →$A^2-(a+d)A+(ad-bc)E=0\;→A^2-(tr\;A)A+(det A)E=0$
        • 証明:
          $A^2=\pmatrix{a&b\\c&d}\pmatrix{a&b\\c&d}
          =\pmatrix{a^2+bc&ab+bd\\ac+cd&bc+d^2}$
          $-(a+d)A=\pmatrix{-a^2-ad&-ab-bd\\-ac-cd&-ad-d^2}$
          $(adーbc)E=\pmatrix{ad-bc&0\\0&ad-bc}$\;→合計は零行列...$\Box$
      • 三次の場合;
        $A^3-(tr A)A^2+cA-(det A)E=0$
        $c=a_{11}a_{22}-a_{12}a_{21}+a_{22}a_{33}-a_{23}a_{32}
        +a_{11}a_{33}-a_{13}a_{31}$ [$c$は$A$の二次の主小行列式の和]

6. 固有値と固有ベクトル:

  • eigen: <proper
  • Eigenvalues and Eigenvector:
    If $f$ is a linear endomorphism of a vector space $V$ over a field $F$, an eigenvector of $f$ is a nonzero vector $v$ of $V$ such that $f(v)=av$ for some scalar $a$ in $F$.
  • This scalar $a$ is an eigenvalue of $f$
Comment
  • Linear Algera is hard to express by LaTex, but it would be a good practice of learning LaTex.
  • 線形代数は、LaTex表記が厳しいがよい勉強になる。

| Top | Home | Article | Bookshelf | Keyword | Author | Oxymoron |