Analýza hlavných komponentov

Uvažujme p-rozmerný náhodný vektor ${\displaystyle {\mathbf {X} }=(X_{1},\cdots ,X_{p})^{T}}$, ktorého kovariančnú maticu označme ${\displaystyle {\mathbf {\Sigma } }}$ (táto matica je štvorcová typu ${\displaystyle p\times p}$ a kladne semidefinitná). Podľa Jordanovej spektrálnej dekompozičnej vety o symetrických maticiach vieme, že každú symetrickú štvorcovú maticu môžeme zapísať v nasledovnom tvare:

${\displaystyle {\mathbf {\Sigma } }={\mathbf {U} }{\mathbf {A} }{\mathbf {U} }^{T}=\sum _{j=1}^{p}\alpha _{j}u_{j}u_{j}^{T}}$

Kde:

• matica ${\displaystyle {\mathbf {A} }=diag(\alpha _{1},\cdots ,\alpha _{p})}$ je diagonálna matica, ktorej prvky sú vlastné čísla matice ${\displaystyle {\mathbf {\Sigma } }}$.

• matica ${\displaystyle {\mathbf {U} }=(u_{1},\cdots ,u_{p})}$ je ortogonálna matica, ktorej stĺpce sú vlastné vektory normy 1 matice ${\displaystyle {\mathbf {\Sigma } }}$. Tieto vektory ${\displaystyle u_{1},\cdots ,u_{p}}$ tvoria ortonormálny systém vlastných vektorov matice ${\displaystyle {\mathbf {\Sigma } }}$.

• ${\displaystyle \alpha _{j}}$ je vlastné číslo prislúchajúce vlastnému vektoru ${\displaystyle u_{j}}$. Môžeme predpokladať, že pre tieto vlastné čísla platí: ${\displaystyle \alpha _{1}\geq \cdots \geq \alpha _{p}}$.

Strednú hodnotu vektora ${\displaystyle {\mathbf {X} }}$ označme ${\displaystyle \mu }$. Potom náhodný vektor ${\displaystyle {\mathbf {Z} }}$, ktorý je definovaný nasledujúcim vzťahom:

${\displaystyle {\mathbf {Z} }=U^{T}({\mathbf {X} }-\mu )}$

nazývame vektorom hlavných komponentov náhodného vektora ${\displaystyle {\mathbf {X} }}$.

Pre strednu hodnotu a kovariančnú maticu vektora ${\displaystyle {\mathbf {Z} }}$ platí nasledovné:

• ${\displaystyle E({\mathbf {Z} })=0}$
• ${\displaystyle D({\mathbf {Z} })=diag(\alpha _{1},\alpha _{2},\cdots ,\alpha _{p})}$

Zložky vektora sú nekorelované a pre disperzie týchto zložiek platí, že: ${\displaystyle D(Z_{1})\geq D(Z_{2})\geq \cdots \geq D(Z_{p})}$. Jednotlivé zložky vektora ${\displaystyle {\mathbf {Z} }}$ sa nazývajú hlavné komponenty, teda pre ${\displaystyle k=1,\cdots ,p}$ je náhodná premenná tvaru:

${\displaystyle Z_{k}=u_{k}^{T}({\mathbf {X} }-\mu )}$

k-ty hlavný komponent náhodného vektora ${\displaystyle {\mathbf {X} }}$.

Základné vlastnosti hlavných komponentov sú nasledovné:

• ${\displaystyle E(Z_{j})=0}$ pre ${\displaystyle j=1,\cdots ,p}$

• ${\displaystyle D(Z_{j})=\alpha _{j}}$ pre ${\displaystyle j=1,\cdots ,p}$

• ${\displaystyle cov(Z_{i},Z_{j})=0}$ pre ${\displaystyle i\neq j}$

• ${\displaystyle cov(X_{k};Z_{l})=u_{k,l}\alpha _{l}}$

• pre koeficient korelácie platí, že: ${\displaystyle \rho (X_{k};Z_{l})=u_{kl}{\frac {\sqrt {\alpha _{l}}}{\sigma _{k}}}}$

Kde ${\displaystyle k,l\in \{1,\cdots ,p\}}$ a ${\displaystyle u_{kl}=(u_{l})_{k}}$ je k, l-ty prvok matice ${\displaystyle U}$ a ${\displaystyle \sigma _{k}={\sqrt {D(X_{k})}}}$.

Prvý hlavný komponent ${\displaystyle Z_{1}}$ náhodného vektora ${\displaystyle X}$ má najväčšiu disperziu spomedzi všetkých normovaných lineárnych kombinácií prvkov vektora ${\displaystyle X}$. Matematicky môžeme túto vlastnosť zapísať nasledovne:

${\displaystyle D(Z_{1})\geq D(c^{T}{\mathbf {X} })}$

kde ${\displaystyle c}$ je ľubovoľný p-rozmerný vektor normy 1.

Pre druhý a každý ďalší hlavný komponent, teda pre ${\displaystyle i\geq 2}$, má i-ty hlavný komponent ${\displaystyle Z_{i}}$ náhodného vektora ${\displaystyle {\mathbf {X} }}$ najväčšiu disperziu spomedzi všetkých tých normovaných lineárnych kombinácií prvkov vektora ${\displaystyle {\mathbf {X} }}$, ktoré sú nekorelované s hlavnými komponentmi ${\displaystyle Z_{1},\cdots ,Z_{i-1}}$.

Hlavné komponenty sú závislé od mierky, v ktorej sa vyskytujú jednotlivé premenné. Teda máme štatistický súbor, ktorý obsahuje rôzne premenné, pričom niektoré sú merané napríklad v metroch, iné v kilometroch, a ďalšie napríklad v sekundách. Hlavné komponenty sa v tomto prípade zmenia. Preto sa v praxi niekedy pristupuje k tzv. štandardizácii premenných, čo znamená, že sa na odhady vektorov hlavných komponentov namiesto výberovej kovariančnej matici používa výberová korelačná matica. Po aplikovaní tejto metódy dostaneme vektory výberových hlavných komponentov, ktoré nezávisia od mierky.

Z teoretického pohľadu je však najvhodnejšie použiť metódu analýzy hlavných komponentov v takých prípadoch, kedy sú jednotlivé premenné skúmaného štatistického súboru rovnakého charakteru (teda boli zmerané v rovnakých jednotkách).

• Commons ponúka multimediálne súbory na tému Analýza hlavných komponentov

• LAMOŠ, František; POTOCKÝ, Rastislav. Pravdepodobnsoť a matematická štatistika - Štatistické analýzy. Bratislava : Univerzita Komenského v Bratislave, Vydavateľstvo UK, 1998. 344 s. ISBN 80-223-1262-2. Kapitola Analýza hlavných komponentov.
• HARMAN, Radoslav. Mnohorozmerné štatistické analýzy [online]. Katedra aplikovanej matematiky a štatistiky UK v BA, 2013-03-06, [cit. 2013-10-20]. Dostupné online.
• ANDREJIOVÁ, Miriam; OLEXA, Jozef. Analýza spotreby prenosných batérií na Slovensku prostredníctvom metódy hlavných komponentov. Forum Statisticum Slovacum (Slovenská štatistická a demografická spoločnosť), roč. 2011, čís. 5. Dostupné online [cit. 2013-10-20].
• Tento článok je čiastočný alebo úplný preklad článku Principal component analysis na anglickej Wikipédii.