Strassenův algoritmus

Volker Strassen publikoval svůj algoritmus v roce 1969. Přestože je jeho algoritmus jen mírně rychlejší než standardní multiplikační algoritmus, svou publikací jako první upozornil na to, že tento standardní algoritmus se složitostí ${\displaystyle \Theta ({n}^{3})}$ není optimální. Jeho práce iniciovala další výzkum v této oblasti, který vyprodukoval například Winogradův algoritmus (který stejně jako Strassen používá 7 binárních násobení, ale 15 binárních sčítání místo 18) publikovaný roku 1980, nebo složitější Coppersmith–Winogradův algoritmus publikovaný roku 1987.

Nechť ${\displaystyle \mathbf {A} }$ a ${\displaystyle \mathbf {B} }$ jsou čtvercové matice nad okruhem ${\displaystyle R}$, a nechť ${\displaystyle \mathbf {C} }$ je jejich součin, tj.

${\displaystyle \mathbf {C} =\mathbf {A} \mathbf {B} \qquad \mathbf {A} ,\mathbf {B} ,\mathbf {C} \in R^{2^{n}\times 2^{n}}}$

Pokud nejsou matice ${\displaystyle \mathbf {A} }$ a ${\displaystyle \mathbf {B} }$ řádu ${\displaystyle 2^{n}}$, matice se patřičně zvětší a chybějící sloupce a řádky se doplní nulami.

Matice ${\displaystyle \mathbf {A} }$, ${\displaystyle \mathbf {B} }$ a ${\displaystyle \mathbf {C} }$ rozdělíme na bloky (podmatice) stejného řádu

${\displaystyle \mathbf {A} ={\begin{bmatrix}\mathbf {A} _{1,1}&\mathbf {A} _{1,2}\\\mathbf {A} _{2,1}&\mathbf {A} _{2,2}\end{bmatrix}}{\mbox{ , }}\mathbf {B} ={\begin{bmatrix}\mathbf {B} _{1,1}&\mathbf {B} _{1,2}\\\mathbf {B} _{2,1}&\mathbf {B} _{2,2}\end{bmatrix}}{\mbox{ , }}\mathbf {C} ={\begin{bmatrix}\mathbf {C} _{1,1}&\mathbf {C} _{1,2}\\\mathbf {C} _{2,1}&\mathbf {C} _{2,2}\end{bmatrix}}}$

${\displaystyle \mathbf {A} _{i,j},\mathbf {B} _{i,j},\mathbf {C} _{i,j}\in R^{2^{n-1}\times 2^{n-1}}}$

${\displaystyle \mathbf {C} _{1,1}=\mathbf {A} _{1,1}\mathbf {B} _{1,1}+\mathbf {A} _{1,2}\mathbf {B} _{2,1}}$

${\displaystyle \mathbf {C} _{1,2}=\mathbf {A} _{1,1}\mathbf {B} _{1,2}+\mathbf {A} _{1,2}\mathbf {B} _{2,2}}$

${\displaystyle \mathbf {C} _{2,1}=\mathbf {A} _{2,1}\mathbf {B} _{1,1}+\mathbf {A} _{2,2}\mathbf {B} _{2,1}}$

${\displaystyle \mathbf {C} _{2,2}=\mathbf {A} _{2,1}\mathbf {B} _{1,2}+\mathbf {A} _{2,2}\mathbf {B} _{2,2}}$

Prosté rozdělení součinu do bloků počet operací v okruhu ${\displaystyle R}$ neovlivní. Konkrétně vidíme, že pro výpočet všech čtyř bloků ${\displaystyle \mathbf {C} _{i,j}}$ je třeba spočítat osm maticových součinů řádu ${\displaystyle 2^{n-1}}$.

Definujeme-li nové matice

${\displaystyle \mathbf {M} _{1}=(\mathbf {A} _{1,1}+\mathbf {A} _{2,2})(\mathbf {B} _{1,1}+\mathbf {B} _{2,2})}$

${\displaystyle \mathbf {M} _{2}=(\mathbf {A} _{2,1}+\mathbf {A} _{2,2})\mathbf {B} _{1,1}}$

${\displaystyle \mathbf {M} _{3}=\mathbf {A} _{1,1}(\mathbf {B} _{1,2}-\mathbf {B} _{2,2})}$

${\displaystyle \mathbf {M} _{4}=\mathbf {A} _{2,2}(\mathbf {B} _{2,1}-\mathbf {B} _{1,1})}$

${\displaystyle \mathbf {M} _{5}=(\mathbf {A} _{1,1}+\mathbf {A} _{1,2})\mathbf {B} _{2,2}}$

${\displaystyle \mathbf {M} _{6}=(\mathbf {A} _{2,1}-\mathbf {A} _{1,1})(\mathbf {B} _{1,1}+\mathbf {B} _{1,2})}$

${\displaystyle \mathbf {M} _{7}=(\mathbf {A} _{1,2}-\mathbf {A} _{2,2})(\mathbf {B} _{2,1}+\mathbf {B} _{2,2})}$

můžeme bloky ${\displaystyle \mathbf {C} _{i,j}}$ vyjádřit následujícím způsobem

${\displaystyle \mathbf {C} _{1,1}=\mathbf {M} _{1}+\mathbf {M} _{4}-\mathbf {M} _{5}+\mathbf {M} _{7}}$

${\displaystyle \mathbf {C} _{1,2}=\mathbf {M} _{3}+\mathbf {M} _{5}}$

${\displaystyle \mathbf {C} _{2,1}=\mathbf {M} _{2}+\mathbf {M} _{4}}$

${\displaystyle \mathbf {C} _{2,2}=\mathbf {M} _{1}-\mathbf {M} _{2}+\mathbf {M} _{3}+\mathbf {M} _{6}}$

Vidíme, že nyní pro výpočet všech čtyř bloků ${\displaystyle \mathbf {C} _{i,j}}$ (samozřejmě včetně sedmi matic ${\displaystyle \mathbf {M} _{l}}$) stačilo spočítat pouze sedm maticových součinů řádu ${\displaystyle 2^{n-1}}$.

Na jednotlivé maticové součiny přitom lze aplikovat stejný postup rekurzivně, dokud se nedostaneme na úroveň matic řádu 1, tedy na čísla.

Praktická implementace Strassenova algoritmu používá pro matice nižších řádů standardní multiplikační postup, pro které je efektivnější. Dělicí hranice, kdy se Strassenův stává efektivnější než standardní algoritmus, záleží na konkrétní implementaci a hardware.

Standardní multiplikační algoritmus potřebuje

${\displaystyle n^{3}=n^{\log _{2}8}}$

násobení v okruhu R. Ignorujeme sčítání matic, protože sčítání je pro vyšší řády matice mnohem rychlejší než násobení (s rostoucím řádem matic tento rozdíl dále roste).

Se Strassenovým algoritmem tak můžeme snížit počet násobení na

${\displaystyle n^{\log _{2}7}\approx n^{2,807}}$.

Nižší počet násobení však získáváme za cenu snížené numerické stability.