Pseudoinverze matice

Moore–Penroseovou pseudoinverzí matice ${\displaystyle \mathbf {A} }$ nazveme matici, která je jednoznačným řešením soustavy čtyř (nelineárních) rovnic

(1) ${\displaystyle \mathbf {A} \mathbf {X} \mathbf {A} =\mathbf {A} ,}$

(2) ${\displaystyle \mathbf {X} \mathbf {A} \mathbf {X} =\mathbf {X} ,}$

(3) ${\displaystyle (\mathbf {A} \mathbf {X} )^{T}=\mathbf {A} \mathbf {X} ,}$

(4) ${\displaystyle (\mathbf {X} \mathbf {A} )^{T}=\mathbf {X} \mathbf {A} ,}$

tzv. Moore–Penroseových podmínek. Moore–Penroseovu pseudoinverzi značíme ${\displaystyle \mathbf {A} ^{+}}$. (Všimněme si, že pro čtvercovou regulární matici a její inverzi jsou všechny podmínky splněny triviálně.)

Nechť ${\displaystyle \mathbf {A} \in \mathbb {R} ^{m\times n}}$, ${\displaystyle \mathrm {rank} (\mathbf {A} )=r}$. Uvažujme singulární rozklad

${\displaystyle \mathbf {A} =\mathbf {U} \mathbf {\Sigma } \mathbf {V} ^{T}=[\mathbf {U} _{r}|\mathbf {U} _{0}]\left[{\begin{array}{c|c}\mathbf {\Sigma } _{r}&0\\\hline 0&0\end{array}}\right][\mathbf {V} _{r}|\mathbf {V} _{0}]^{T}=\mathbf {U} _{r}\mathbf {\Sigma } _{r}\mathbf {V} _{r}^{T},}$

kde

${\displaystyle \mathbf {U} ^{-1}=\mathbf {U} ^{T},\;\mathbf {V} ^{-1}=\mathbf {V} ^{T},\;\mathbf {\Sigma } _{r}=\mathrm {diag} (\sigma _{1},\ldots ,\sigma _{r}),\;\sigma _{1}\geq \ldots \geq \sigma _{r}>0,}$

pak

${\displaystyle \mathbf {A} ^{+}=\mathbf {V} _{r}\mathbf {\Sigma } _{r}^{-1}\mathbf {U} _{r}^{T}.}$

Snadno ověříme, že takto zvolená matice splňuje všechny čtyři podmínky.

Chápeme-li původní matici jako lineární zobrazení ${\displaystyle \mathbb {R} ^{n}\longrightarrow \mathbb {R} ^{m}}$ a provedeme-li jeho restrikci na ${\displaystyle [{\mathcal {N}}(\mathbf {A} )]^{\perp }\equiv {\mathcal {R}}(\mathbf {V} _{r})\longrightarrow {\mathcal {R}}(\mathbf {A} )\equiv {\mathcal {R}}(\mathbf {U} _{r})}$, kde je bijektivní, pak Moore–Penroseova pseudoinverze reprezentuje jeho inverzi.

Má-li matice ${\displaystyle \mathbf {A} }$ lineárně nezávislé sloupce, pak ${\displaystyle \mathbf {A} ^{T}\mathbf {A} }$ je regulární a

${\displaystyle \mathbf {A} ^{+}=(\mathbf {A} ^{T}\mathbf {A} )^{-1}\mathbf {A} ^{T},}$

má-li naopak lineárně nezávislé řádky, pak ${\displaystyle \mathbf {A} \mathbf {A} ^{T}}$ je regulární a

${\displaystyle \mathbf {A} ^{+}=\mathbf {A} ^{T}(\mathbf {A} \mathbf {A} ^{T})^{-1}.}$

Zřejmě, je-li matice regulární (speciálně má lineárně nezávislé řádky i sloupce), pak

${\displaystyle \mathbf {A} ^{+}=\mathbf {A} ^{-1}.}$

Uvažujme lineární aproximační problém

${\displaystyle \mathbf {A} \mathbf {X} \approx \mathbf {B} ,\qquad {\text{kde}}\qquad \mathbf {A} \in \mathbb {R} ^{m\times n},\;\mathrm {rank} (\mathbf {A} )=r,\;\mathbf {X} \in \mathbb {R} ^{n\times d},\;\mathbf {B} \in \mathbb {R} ^{m\times d},}$

pak

${\displaystyle \mathbf {X} _{LS}\equiv \mathbf {A} ^{+}\mathbf {B} }$

je řešení ve smyslu nejmenších čtverců, má-li matice ${\displaystyle \mathbf {A} }$ lineárně závislé sloupce, pak je to navíc řešení minimální v normě. Tedy,

${\displaystyle \min _{\mathbf {X} }\|\mathbf {B} -\mathbf {A} \mathbf {X} \|_{F}=\|\mathbf {B} -\mathbf {A} \mathbf {X} _{LS}\|_{F},}$

navíc ${\displaystyle \mathbf {X} _{LS}}$ má minimální normu mezi všemi ${\displaystyle \mathbf {X} }$, které výraz vlevo minimalizují.

Zobecněná inverzní matice, dle předchozí konvence (1k,2,5)-inverze, je tzv. Drazinova inverze. Podmínky (1k), (2) a (5) jsou ekvivalentní podmínkám

${\displaystyle \mathbf {A} ^{k+1}\mathbf {X} =\mathbf {A} ^{k},\quad \mathbf {A} \mathbf {X} =\mathbf {X} \mathbf {A} ,\quad \mathbf {A} \mathbf {X} ^{2}=\mathbf {X} .}$

Drazinova inverze pro ${\displaystyle k=1}$, tedy (1,2,5)-inverze, se nazývá grupová inverze a značí se ${\displaystyle \mathbf {A} ^{\#}}$.

Je-li čtvercová singulární matice ${\displaystyle \mathbf {A} }$ diagonalizovatelná, tj. ${\displaystyle \mathbf {A} =\mathbf {P} \mathbf {\Lambda } \mathbf {P} ^{-1}}$, kde ${\displaystyle \mathbf {\Lambda } =\mathrm {diag} (\lambda _{1},\ldots ,\lambda _{r},0,\ldots ,0)}$ je diagonální s vlastními čísly na diagonále. Zobecněnou inverzi můžeme definovat pomocí vztahu

${\displaystyle \mathbf {X} =\mathbf {P} \mathbf {\Lambda } ^{+}\mathbf {P} ^{-1},\qquad {\text{kde}}\qquad \mathbf {\Lambda } ^{+}=\mathrm {diag} \left({\frac {1}{\lambda _{1}}},\ldots {\frac {1}{\lambda _{r}}},0,\ldots ,0\right).}$

Tato inverze zřejmě splňuje podmínky (1), (2), (5), je tedy grupovou inverzí, a nazývá se spektrální inverze.

Je-li navíc matice ${\displaystyle \mathbf {A} }$ normální, tj. ${\displaystyle \mathbf {A} ^{T}\mathbf {A} =\mathbf {A} \mathbf {A} ^{T}}$, ${\displaystyle \mathbf {P} ^{-1}=\mathbf {P} ^{T}}$ pak její spektrální inverze a Moore–Penroseova pseudoinverze splývají.