Optimalizace hejnem částic

Na počátku máme hejno ${\displaystyle S}$ částic, částice jsou náhodně rozmístěny v prohledávacím prostoru. Velikost hejna ${\displaystyle S}$ se obvykle volí ${\displaystyle S=\lfloor 10+2{\sqrt {D}}\rfloor }$, kde ${\displaystyle D}$ značí dimenzi prohledávacího prostoru. Každá částice ${\displaystyle i}$ si pamatuje svoji nejlepší polohu ${\displaystyle p^{i}}$(tj. bod, kde částice dosáhla maximální resp. minimální hodnoty účelové funkce). Dále se používá průběžné globální optimum částicemi v okolí částice ${\displaystyle i}$: ${\displaystyle g^{i}}$. Částici přiřazujeme její polohu ${\displaystyle x_{t}^{i}\in \mathbb {R} ^{D}}$ a rychlost ${\displaystyle v_{t}^{i}\in \mathbb {R} ^{D}}$ v čase ${\displaystyle t}$. Počáteční ${\displaystyle x_{0}^{i}}$ a ${\displaystyle v_{0}^{i}}$ volíme více méně náhodně. Předpokládá se ještě znalost omezení prohledávacího prostoru, prohledávacím prostorem je obvykle buď hyperkrychle nebo D-dimenzionální kvádr.

Algoritmus při svém běhu iteruje jeden výpočtový krok, který je jádrem celého PSO. Výpočtový krok se iteruje buď po danou dobu (konstantně-krát), nebo dokud není nalezeno přijatelné optimum (nejedná se tedy o skutečné optimum, ale o přibližné řešení). V průběhu algoritmu mohou částice opustit vyhledávací prostor. V závislosti na naší volbě pak lze pozici částic uvnitř prostoru vynutit, nebo naopak částice nechat, ale přiřadit jim například nulovou hodnotu účelové funkce.

Zásadní vlastností částic je jejich sociální chování, čímž se myslí komunikace mezi částicemi o jimi nalezených hodnotách účelové funkce. Každá částice se však nedorozumívá s každou, ale pouze se svým vybraným okolím. Okolí ${\displaystyle L^{i}}$ je zde pouze topologický pojem a vůbec nesouvisí s pozicemi částic v prostoru (tak tomu je až v různých modifikacích PSO). Na počátku se každá částice ${\displaystyle i}$ o každé jiné částici ${\displaystyle j}$ rozhodne s pravděpodobností ${\displaystyle p}$, zda bude od částice ${\displaystyle j}$ přebírat informace. Tedy zda ${\displaystyle j\in L^{i}}$. Toto okolí se však po každém kroku může změnit. Volíme si, zda chceme reinicializovat všechna spojení částic po každé úspěšné, nebo každé neúspěšné iteraci. Iteraci považujeme za úspěšnou, pokud se nám podařilo zlepšit doposud nejlepší známé řešení.

• ${\displaystyle f}$ – účelová funkce, kterou se snažíme maximalizovat
• ${\displaystyle c}$ – první kognitivní/konfidenční koeficient, doporučená hodnota: ${\displaystyle {0.5+\log(2)}{\dot {=}}1.193}$
• ${\displaystyle w}$ – druhý kognitivní/konfidenční koeficient, doporučená hodnota: ${\displaystyle {1 \over {2\cdot \log(2)}}{\dot {=}}0.721}$
• ${\displaystyle U(a,b)}$ – náhodné číslo z rovnoměrného rozdělení na intervalu od ${\displaystyle a}$ včetně do ${\displaystyle b}$ včetně.
• ${\displaystyle min_{d},max_{d}}$ – omezení prohledávacího prostoru v dimenzi ${\displaystyle d}$

• pro každou částici ${\displaystyle i\in \{1,\dots ,S\}}$
  1. ${\displaystyle \forall d\in \{1,\dots D\}:(x_{0}^{i})_{d}:=U(min_{d},max_{d})}$ – náhodně rozmístíme částice v prostoru
  2. ${\displaystyle \forall d\in \{1,\dots D\}:(v_{0}^{i})_{d}:={1 \over 2}\cdot [U(min_{d},max_{d})-(x_{0}^{i})_{d}]}$ – přidělíme jim vektory rychlosti
  3. ${\displaystyle p^{i}:=x^{i}}$ – a řekneme, že předchozí nejlepší pozice je ta aktuální
  4. ${\displaystyle L^{i}:=\{\}}$
  5. pro každou částici ${\displaystyle j\in \{1,\dots ,i-1,i+1,\dots ,S\}}$
     • Pokud je ${\displaystyle U(0,1)\leq p}$ potom ${\displaystyle L^{i}:=L^{i}\cup \{j\}}$

Takto lze popsat výpočetní krok algoritmu v čase ${\displaystyle t\in \{1,\dots T\}}$, kde ${\displaystyle T}$ může být buď konstanta, nebo naopak není předem známo, protože algoritmus se nezastaví, dokud nenalezne uspokojivé řešení. Na konci každého kroku lze nejlepší řešení určit jako nejúspěšnější z řešení částic ${\displaystyle \forall i:p^{i}}$.

1. pro každou částici ${\displaystyle i\in \{1,\dots S\}}$
   1. spočítej globální optimum ze svého okolí
      • ${\displaystyle g^{i}=0}$
      • pro každé ${\displaystyle j\in L^{i}}$
        • pokud je ${\displaystyle f(p^{j})>f(g^{i})}$ potom ${\displaystyle g^{i}:=p^{j}}$
   2. pokud je ${\displaystyle f(g^{i})>f(p^{i})}$ potom
      • ${\displaystyle v_{t}^{i}:=w\cdot v_{t-1}+U(0,c)\cdot (p^{i}-x_{t}^{i})+U(0,c)\cdot (g^{i}-x_{t}^{i})}$
   3. jinak
      • ${\displaystyle v_{t}^{i}:=w\cdot v_{t-1}+U(0,c)\cdot (p^{i}-x_{t}^{i})}$
   4. aktualizujeme polohu částice
      • ${\displaystyle x_{t}^{i}:=x_{t-1}^{i}+v_{t}^{i}}$
      • Chceme-li vynutit omezení prohledávacího prostoru
        • Pro každé ${\displaystyle d\in \{1,\cdots ,D\}}$
          • Je-li ${\displaystyle (x_{t}^{i})_{d}<min_{d}}$ provedeme
            • ${\displaystyle (x_{t}^{i})_{d}=min_{d}}$
            • ${\displaystyle (v_{t}^{i})_{d}=0}$
          • Je-li ${\displaystyle (x_{t}^{i})_{d}>max_{d}}$ provedeme
            • ${\displaystyle (x_{t}^{i})_{d}=max_{d}}$
            • ${\displaystyle (v_{t}^{i})_{d}=0}$
2. nakonec aktualizujeme informaci o nejlepší předchozí poloze
   • pro každou částici ${\displaystyle i\in \{1,\dots S\}}$
     • pokud je ${\displaystyle f(x_{t}^{i})>f(p^{i})}$ potom ${\displaystyle p^{i}:=x_{t}^{i}}$
3. V závislosti na (ne)úspěšnosti kroku znovu vytvoříme ${\displaystyle L^{i}}$ pro každou částici ${\displaystyle i}$ podobně jako v Inicializace algoritmu v kroku 5

Technika optimalizace hejnem je meta-heuristika procházení prohledávacím prostorem. Metoda neprochází celý prohledávací prostor a v souvislosti s tím nás často zajímá takzvaný poměr explorace k exploataci. Explorace, neboli prozkoumávání, je tendence částic procházet nové dosud nenavštívené části prohledávacího prostoru. Toho se využívá, aby algoritmus nesklouzl do lokálního optima, neboli předčasně nekonvergoval. Naproti tomu přemíra explorace může vést k tomu, že se dostaneme do blízkosti optimálního řešení, nikdy však nezačneme zkoumat blízké okolí tohoto bodu a v důsledku zbytečně nenalezneme skutečné optimum. Částice tedy musí být schopny provádět i lokální prohledávání, ač to je samo o sobě na počátku nežádoucí. Clerc se ve svém článku zabývá explorací a exploatací v případě PSO[3].

Nejprve je potřeba upřesnit, co je exploatace. Vezmeme-li v úvahu body, které již částice navštívili, a nějaké jejich okolí, pak exploatací nazveme pohyb částice v prostoru, který odpovídá sjednocení těchto okolí. Řekněme, že za okolí bodu budeme považovat všechny body, které leží do vzdálenosti ${\displaystyle M}$. Můžeme použít například Eukleidovskou metriku. Explorací nazveme pohyb částice mimo toto sjednocení všech okolí navštívených bodů. Nazývejme sjednocená všech okolí navštívených bodů jako exploatační oblast.

Clerc ukazuje, že s rostoucí dimenzí prohledávacího prostoru klesá podíl velikosti exploatační oblasti vzhledem k velikosti celého prohledávacího prostoru. S tím nutně klesá i pravděpodobnost, že se částice posune do této exploatační oblasti. Pokud je tedy dimenze prohledávacího prostoru dostatečně velká, je míra exploatace skoro nulová. Autor upozorňuje, že je nutné dbát velké opatrnosti v případě tvrzení o "vyvážené míře explorace a exploatace", neboť často nemají opodstatnění.

Některé úpravy pouze přidávají koeficienty. Hlavní rovnice algoritmu
${\displaystyle v_{t}^{i}:=w\cdot v_{t-1}+U(0,c)\cdot (p^{i}-x_{t}^{i})+U(0,c)\cdot (g^{i}-x_{t}^{i})}$
v SPSO 2007 se od staršího konceptu PSO například liší koeficientem ${\displaystyle w}$, který také bývá nazýván inerciální vahou.[2] Často se uvádí dva koeficienty ${\displaystyle c_{1},c_{2}}$ místo jednoho, pak vypadá hlavní rovnice takto:
${\displaystyle v_{t}^{i}:=w\cdot v_{t-1}+U(0,c_{1})\cdot (p^{i}-x_{t}^{i})+U(0,c_{2})*(g^{i}-x_{t}^{i})}$.

Eberhart a Shi navrhli variantu, kde se ${\displaystyle w}$ s rostoucím časem lineárně zmenšuje, cílem je zajistit lepší konvergenci.[7]

Další variantu navrhli Clerc a Kennedy[8] přidáním takzvaného zkracujícího faktoru (z originálu: constriction factor) ${\displaystyle \mathrm {X} }$:
${\displaystyle v_{t}^{i}:=\mathrm {X} [v_{t-1}+U(0,c_{1})\cdot (p^{i}-x_{t}^{i})+U(0,c_{2})\cdot (g^{i}-x_{t}^{i})]}$, kde ${\displaystyle \mathrm {X} ={2\kappa \over 2-\Phi -{\sqrt {\Phi ^{2}-4\Phi }}}}$.
Přitom ${\displaystyle \Phi =c_{1}+c_{2}}$ a vyžaduje se omezení ${\displaystyle \Phi >4}$. Naproti tomu ${\displaystyle \kappa }$ je libovolná konstanta z intervalu ${\displaystyle <0;1>}$. Zkracující faktor i faktor inerciální váhy se mnohdy kombinují.

Hojná skupina variant PSO používá různé topologie mezi částicemi. Záměrem je dosáhnout možnosti aplikovat PSO na úlohy vyžadující multimodální optimalizaci, nebo prosté zlepšení konvergence. Někdy se rozděluje celé hejno (swarm) do menších podhejn (subswarm). Hlavní hejno pak mívá jinou topologii než jakou používají podhejna.

Model gbest vychází ze zkráceniny global best, tedy globálního optima. V tomto modelu komunikuje každá částice s každou. Tato topologie však obvykle trpí problémem s předčasnou konvergencí.

Název tohoto modelu pochází ze zkráceniny local best, tedy lokálního optima. Graf, který popisuje komunikaci mezi částicemi (tj. vrcholy jsou částice a hrany představují fakt, že částice komunikuje s jinou částicí) odpovídá kružnici. V tomto modelu se informace o globálním optimu šíří nejpomaleji. Pokud tedy je globálních optim více, mají částice topologicky vzdálenější více času konvergovat ke svému optimu.

V tomto modelu odpovídá graf popisující komunikaci čtvercové mřížce. Každá částice tedy komunikuje se 4 svými sousedy. Typicky se von Neumannův model aplikuje na hlavní hejno a na jednotlivá podhejna se pak používá topologie lbest nebo gbest.

Nikování (z anglického Niching) vychází názvem z terminologie týkající se přírody (nika), kde se rozděluje hejno částic do jednotlivých menších populací. Tato technika se snaží zabránit konvergence celé populace ke globálnímu maximu. Jedná se o jednu z nejranějších metod používaných k multimodální optimalizaci genetických algoritmů, není však známo mnoho jejích aplikací na PSO.

Název lze volně přeložit jako Niková optimalizace hejnem částic. Metoda používá sledování vývoje účelové funkce pro každou částici. Pokud se hodnota této funkce po nějakou dobu nemění. Je částice zařazena do vlastní niky, budeme ji říkat zakládající částice. Spolu s ní je do niky zařazen její nejbližší soused (použije se eukleidovská metrika). Každé nice se spočítá její poloměr ${\displaystyle r}$, který odpovídá vzdálenosti mezi dvěma jejími nejvzdálenějšími členy. Tato vzdálenost se používá při absorbování nových částic a spojování nik. Pokud se nějaká částice dostane do vzdálenosti menší nebo rovné ${\displaystyle r}$ od zakládající částice niky, bude do niky přidána. Pokud se přiblíží k sobě dvě niky, tedy vzdálenost jejich zakládajících částic klesne pod součet poloměrů nik, budou tyto niky spojeny. Pokud nějaká nika dosáhla optima, může její poloměr klesnout k nule. Pak se jako její poloměr považuje malá prahová hodnota${\displaystyle \mu }$.

NichePSO nevyžaduje znalost počtu optim účelové funkce, ani žádnou informaci o velikosti niky. Potřebuje však parametr, který určuje po jaké době částice zakládá vlastní niku. Zároveň je nutné určit prahovou hodnotu${\displaystyle \mu }$.

Používání druhů v rámci genetických algoritmů poprvé představil Li a kolektiv[9] Tato metoda vybírá silné jedince (podle jejich hodnoty účelové funkce) a používá je jako semena (z anglického seeds) vlastních skupin nazývaných druhy. Všechny částice, které jsou od vybraného semena do nějaké vzdálenosti ${\displaystyle r}$ jsou pak přiřazeny k vybranému semenu, patří s ním do jednoho druhu.

Li v roce 2004 aplikoval druhy i v PSO.[10] Hlavní myšlenkou je, že v rámci každého druhu nahradí semeno globální optimum ${\displaystyle g}$ pro ostatní částice. Lze tedy na tento algoritmus nazírat jako na modifikaci SPSO 2007, kde se před každým iteračním krokem nejprve přepočtou okolí ${\displaystyle L^{i}}$ podle následujícího postupu:

1. ${\displaystyle \forall i:L^{i}:=\{\}}$
2. Setřídíme částice do posloupnosti ${\displaystyle z_{1},z_{2},\dots z_{S}}$, kde platí ${\displaystyle f(x_{z_{1}})\geq f(x_{z_{2}})\geq \dots \geq f(x_{z_{S}})}$ (stejně jako výše, je ${\displaystyle f}$ účelová funkce a ${\displaystyle x_{i}}$ poloha částice ${\displaystyle i}$ v prohledávacím prostoru; hodnotu účelové funkce se snažíme maximalizovat).
3. Buď ${\displaystyle Druhy:=\{\}}$ množina druhů
4. Dokud existuje ${\displaystyle i}$ takové, že částice ${\displaystyle z_{i}}$ nepatří do žádného druhu, opakuj:
   1. Vezmi nejmenší ${\displaystyle i}$ takové, že částice ${\displaystyle z_{i}}$ nepatří do žádného druhu
   2. Buď ${\displaystyle M}$ množina všech částic ${\displaystyle z_{j}}$ takových, že ${\displaystyle z_{j}}$ nepatří do žádného druhu a platí ${\displaystyle \|x_{z_{i}}-x_{z_{j}}\|<r}$. Speciálně tedy ${\displaystyle z_{i}\in M}$
   3. ${\displaystyle Druhy:=Druhy\cup \{M\}}$, všechny částice z ${\displaystyle M}$ tedy nyní patří do jednoho druhu
   4. ${\displaystyle \forall z_{j}\in M:L^{z_{j}}:=M\setminus \{z_{j}\}}$

Uvedené modifikace nelze v žádném případě považovat za úplný výčet. Tento obor se neustále vyvíjí a vzniká množství nových poznatků. Níže uvedené modifikace, které byly zařazeny pod tento nadpis lze pak považovat za příklady dalších technik.

Za jednoduchou úpravu můžeme považovat přidání mutace do výpočtu PSO, kterou navrhl Esquivel a Coello Coello[11]. Mutace původně patří k operátorům genetických algoritmů, zde se konkrétně používá mutace pracující geny reprezentovanými reálnými čísly. V závislosti na aktuálním čase ${\displaystyle t}$ jsou s určitou pravděpodobností mutovány některé složky polohových vektorů částic. S rostoucím časem klesá střední hodnota takové změny.

Hybridních technik opět existuje více. Popíšeme zde techniku jednu, která kombinuje PSO s diferenční evolucí, jak ji navrhl Pant a kolektiv.[12] Tento algoritmus pracuje ve dvou fázích. V první fázi je dopočten mutant každé částice stejně jako to provádí diferenční evoluce. Pokud je tento mutant úspěšnější než původní částice, nahradí tuto částici. V opačném případě se s částicí naloží jako v běžném PSO.