Simulované žíhání

V každém kroku simulovaná žíhací heuristika bere v úvahu některý sousední stav současného stavu a spojenec se rozhoduje mezi přesunem systému do stavu ve stavu "s“. Tyto pravděpodobnostní nakonec vedou systém k přechodu do stavu s nižší energií. Tento krok se obvykle opakuje, dokud systém nedosáhne stavu, který je pro aplikaci dostatečně dobrý, nebo dokud není vyčerpán daný výpočetní rozpočet.

Optimalizace řešení zahrnuje problému hodnocení stavů sousedů, což jsou nové stavy produkované konzervativní změnou daného stavu. Například v problému obchodního cestujícího je každý stav obvykle definován jako permutace měst, která mají být navštívena, a sousedé jakéhokoli stavu jsou množinou permutací vytvořených prohozením jakýchkoli dvou z těchto měst. Dobře definovaný způsob, jakým jsou stavy prohazovány, aby vytvářely sousední stavy, se nazývá "tah“ a různé pohyby poskytují různé sady sousedních stavů. Tyto kroky obvykle vedou k minimálním změnám posledního stavu, ve snaze o postupné vylepšování řešení iterativním vylepšováním jeho částí (například městská spojení v problému obchodního cestujícího).

Jednoduché heuristické typy jako gradientní algoritmus, které se pohybují hledáním lepšího souseda za lepším sousedem a zastaví se, když dosáhnou řešení, které nemá lepší sousedy, nemohou zaručit, že povedou k některému ze stávajících lepší řešení jejich výsledkem může být jednoduše jen lokální optimum, zatímco nejlepším řešením by bylo globální optimum, které by se mohlo lišit. Metaheuristiky používají sousedy řešení jako způsob, jak prozkoumat prostor řešení, a přestože dávají přednost lepším sousedům, přijímají také horší sousedy, aby se vyhnuli uvíznutí v místních optimech; mohou najít globální optimum, pokud běží dostatečně dlouho.

Pravděpodobnost uskutečnění změny stavu z aktuálního stavu ${\displaystyle s}$ do kandidátního nového stavu ${\displaystyle s_{\mathrm {new} }}$ je určena potvrzením pravděpodobnostní funkce ${\displaystyle P(e,e_{\mathrm {new} },T)}$, která závisí na energiích ${\displaystyle e=E(s)}$ a ${\displaystyle e_{\mathrm {new} }=E(s_{\mathrm {new} })}$ obou stavů a na globálním časově proměnném parametru ${\displaystyle T}$, který se nazývá "teplota“. Stavy s menší energií jsou lepší než stavy s vyšší energií. Pravděpodobnostní funkce ${\displaystyle P}$ musí být kladná, i když ${\displaystyle e_{\mathrm {new} }}$ je větší než ${\displaystyle e}$. Tato funkce brání tomu, aby se metoda zasekla na místním minimu, které je horší než globální.

Když má ${\displaystyle T}$ tendenci k nule, pravděpodobnost ${\displaystyle P(e,e_{\mathrm {new} },T)}$ musí mít tendenci k nule pokud ${\displaystyle e_{\mathrm {new} }>e}$ a v opačném případě na kladnou hodnotu. U dostatečně malých hodnot ${\displaystyle T}$ pak systém bude stále více upřednostňovat pohyby, které vedou "z kopce“ (tj. K nižším energetickým hodnotám), a vyhnout se těm, které jdou "do kopce“. U ${\displaystyle T=0}$ se postup redukuje na Hladový algoritmus, který dělá pouze přechody z kopce.

V původním popisu simulovaného žíhání byla pravděpodobnost ${\displaystyle P(e,e_{\mathrm {new} },T)}$ rovna 1, když ${\displaystyle e_{\mathrm {new} }<e}$ ,neboli procedůra se vždy, pokud mohla, pohnula z kopce, bez ohledu na teplotu. Mnoho popisů a implementací simulovaného žíhání stále bere tuto podmínku jako součást definice metody. Tato podmínka není pro fungování metody nezbytná.

Funkce ${\displaystyle P}$ se obvykle volí tak, aby se pravděpodobnost přijetí tahu snížila, když rozdíl ${\displaystyle e_{\mathrm {new} }-e}$ se zvyšuje, neboli malé pohyby do kopce jsou pravděpodobnější než velké. Tento požadavek však není nezbytně nutný, pokud jsou splněny výše uvedené požadavky.

Vzhledem k těmto vlastnostem hraje teplota ${\displaystyle T}$ rozhodující roli při řízení vývoje stavu systému s ohledem na jeho citlivost na variace energií systému. Přesněji řečeno, u velkého ${\displaystyle s}$ je vývoj ${\displaystyle s}$ citlivý na hrubší variace energie, zatímco je citlivý na jemnější variace energie, když ${\displaystyle T}$ je malý.

Rychlé

Pomalé

Příklad ilustrující vliv plánu chlazení na výkon simulovaného žíhání. Problémem je změnit uspořádání pixelů v obrazu tak, aby se minimalizovala určitá funkce potenciální energie, což způsobí, že podobné barvy přitahují na krátkou vzdálenost a odpuzují na mírně větší vzdálenost . Elementární pohyby vymění dva sousední pixely. Tyto snímky byly získány s rychlým plánem chlazení (vlevo) a plánem pomalého chlazení (vpravo), čímž byly získány výsledky podobné amorfním a kristalickým strukturám.

Název a inspirace algoritmu vyžadují zajímavou vlastnost související s kolísáním teploty, která má být vložena do provozních charakteristik algoritmu. To vyžaduje postupné snižování teploty v průběhu simulace. Algoritmus začíná zpočátku ${\displaystyle T}$ nastaveným na vysokou hodnotu (nebo nekonečno) a poté se v každém kroku snižuje po nějakém "žíhacím plánu“, který může uživatel určit, ale musí končít na ${\displaystyle T=0}$ na konci přiděleného časového rozpočtu. Tímto způsobem se očekává, že se systém bude pohybovat zpočátku směrem k široké oblasti vyhledávacího prostoru obsahující dobré řešení, ignorující malé rysy energetické funkce; pak směřovat k nízkoenergetickým regionům, které se zužují a zužují; a nakonec se pohybovat z kopce podle heuristiky gradientního sestupu.

Pro jakýkoli daný konečný problém se pravděpodobnost, že simulovaný algoritmus žíhání končí řešením globalní optimum, blíží 1, protože se rozvrh žíhání prodlužuje. [1] This theoretical result, however, is not particularly helpful, since the time required to ensure a significant probability of success will usually exceed the time required for a řešení hrubou silou of the prostorů řešení.

Simulované žíhání lze modelovat jako náhodný průchod po vyhledávacím grafu, jehož vrcholy jsou všechny možné stavy a jejichž hrany jsou kandidátní pohyby. Základním požadavkem na funkci Neighbor() je, že musí na tomto grafu poskytovat dostatečně krátkou cestu od počátečního stavu do jakéhokoli stavu, který může být globálním optimem průměr hledání graf musí být malý. Ve výše uvedeném příkladu obchodního cestujícího má například vyhledávací prostor pro ${\displaystyle n=20}$ měst ${\displaystyle n!=2432902008176640000}$ (2,4 kvintilionu) stavů; počet sousedů každého vrcholu je ${\displaystyle \sum _{k=1}^{n-1}k={\frac {n(n-1)}{2}}=190}$ hran a průměr grafu je ${\displaystyle n-1}$.

Pro zkoumání chování simulovaného žíhání u konkrétního problému může být užitečné vzít v úvahu "pravděpodobnosti přechodu“, které vyplývají z různých konstrukčních možností provedených při implementaci algoritmu. Pro každou hranu ${\displaystyle (s,s')}$ vyhledávacího grafu je pravděpodobnost přechodu definována jako pravděpodobnost, že se simulovaný žíhací algoritmus přesune do stavu ${\displaystyle s'}$, když je jeho aktuální stav ${\displaystyle s}$. Tato pravděpodobnost závisí na aktuální teplotě zadané funkcí teplota(), na pořadí, ve kterém se pohyby kandidátů generují pomocí funkce Neighbor(), a na funkci pravděpodobnosti přijetí P(). (Všimněte si, že pravděpodobnost přechodu není "jednoduše“ ${\displaystyle P(e,e',T)}$, protože kandidáti jsou testováni sériově.)

Specifikace Neighbor(), P() a temperature() je částečně nadbytečná. V praxi je běžné použít pro mnoho problémů stejnou funkci přijetí P() a upravit další dvě funkce podle konkrétního problému.

Metoda formulovaná Kirkpatrick et al. Byla funkce pravděpodobnosti přijetí <(e,e',T) definována jako 1, pokud ${\displaystyle e'<e}$ a ${\displaystyle \exp(-(e'-e)/T)}$ jinak. Tento vzorec byl povrchně ospravedlněn analogií s přechody fyzikálního systému; odpovídá Metropolisův–Hastingsův algoritmus, v případě, že ${\displaystyle T=1}$ a návrhové rozdělení Metropolis–Hastings je symetrické. Tato pravděpodobnost přijetí se však často používá pro simulované žíhání, i když funkce Neighbor(), která je analogická distribuci návrhů v Metropolis–Hastings, není symetrická nebo vůbec není pravděpodobná. Výsledkem je, že pravděpodobnosti přechodu algoritmu simulovaného žíhání neodpovídají přechodům analogického fyzikálního systému a dlouhodobé rozdělení stavů při konstantní teplotě nemusí být nijak podobné distribuci termodynamické rovnováhy ve stavech fyzikálního systému při jakékoli teplotě. Většina popisů simulovaného žíhání nicméně předpokládá původní akceptační funkci, která je pravděpodobně zakódována v mnoha implementacích SA.

Roku 1990, Moscato and Fontanari [2] and independently Dueck and Scheuer,[3] navrhl, aby deterministická aktualizace (tj. ta, která není založena na pravidlu pravděpodobnosti přijetí), mohla urychlit proces optimalizace, aniž by to mělo dopad na konečnou kvalitu. Moscato a Fontanari docházejí k závěru z pozorování analogie křivky "měrného tepla“ žíhání "aktualizace prahové hodnoty“ pocházející z jejich studie, že „stochasticita aktualizace Metropolis v simulovaném žíhacím algoritmu nehraje při hledání blízké -optimální minima ". Místo toho navrhli, že „vyhlazení prostředí nákladové funkce při vysoké teplotě a postupné definování minim během procesu chlazení jsou základními ingrediencemi pro úspěch simulovaného žíhání.“ Metoda se následně popularizovala pod označením "akceptování prahu“ kvůli Dueckově a Scheuerově označení. V roce 2001 Franz, Hoffmann a Salamon ukázali, že deterministická aktualizační strategie je skutečně optimální v rámci velké třídy algoritmů, které simulují náhodnou procházku po prostředí nákladů a energie. [4]

Při výběru kandidátního generátoru Neighbor() je třeba vzít v úvahu, že po několika iteracích simulovaného žíhacího algoritmu se očekává, že aktuální stav bude mít mnohem nižší energii než náhodný stav. Obecně by tedy měl být generátor vychýlen směrem k kandidátským pohybům, kde je pravděpodobné, že energie cílového stavu ${\displaystyle s'}$ bude podobná energii aktuálního stavu. Tento heuristický (což je hlavní princip [[[Metropolis–Hastingsův algoritmus]])] má tendenci vylučovat "velmi dobré“ pohyby kandidátů i "velmi špatné“; první možnost je však obvykle mnohem méně častá než druhá, takže heuristika má obecně dobrou učínnost.

U výše uvedeného problému obchodního cestujícího se například očekává, že výměna dvou „po sobě jdoucích“ měst v průchodu s nízkou energií bude mít mírný vliv na jeho energii (délku); vzhledem k tomu, že výměna dvou "libovolných“ měst je mnohem pravděpodobnější, že prodlouží jejich délku, než ji zkrátí. Očekává se tedy, že sousední generátor prohožení bude fungovat lépe než generátor libovolného prohození, i když by tento mohl poskytnout poněkud kratší cestu k optimálnímu (s prohozením ${\displaystyle n-1}$ namísto ${\displaystyle n(n-1)/2}$).

Přesnější výrok heuristiky je, že je třeba vyzkoušet první kandidátské stavy ${\displaystyle s'}$, pro které je ${\displaystyle P(E(s),E(s'),T)}$. Pro "standardní“ akceptační funkci ${\displaystyle P}$ výše to znamená, že ${\displaystyle E(s')-E(s)}$ je v řádu ${\displaystyle T}$ nebo méně. Ve výše uvedeném příkladu obchodního cestujícího by tedy bylo možné použít funkci Neighbor(), která prohodí dvě náhodná města, kde pravděpodobnost výběru dvojice měst zmizí, jak se jejich vzdálenost zvětší za ${\displaystyle T}$.

Při výběru kandidátního generátoru Neighbor() je také nutné pokusit se snížit počet "hlubokých“ místních minimálních stavů(nebo sad spojených stavů), které mají mnohem nižší energii než všechny sousední stavy. Takové "uzavřené údolí“ energetické funkce mohou zachytit simulovaný žíhací algoritmus s vysokou pravděpodobností (zhruba úměrný počtu stavů v údolí) a po velmi dlouhou dobu (zhruba exponenciální na energetický rozdíl mezi okolnímy stavy a dnem údolí).

Je zpravidla nemožné navrhnout generátor kandidátů, který splní tento cíl a také upřednostní kandidáty s podobnou energií. Na druhou stranu lze často výrazně zlepšit účinnost simulovaného žíhání pomocí relativně jednoduchých změn v generátoru. Například v problému obchodního cestujícího není těžké vytvořit dva průchody ${\displaystyle A}$, ${\displaystyle B}$ s téměř stejnou délkou tak, že (1) ${\displaystyle A}$ je optimální, (2) každá sekvence prohození párů stavů, která převádí ${\displaystyle A}$ na ${\displaystyle B}$, prochází průchody, které jsou mnohem delší než obě, a (3) ${\displaystyle A}$ lze převést na ${\displaystyle B}$ převrácením (obrácením pořadí) sady po sobě jdoucích stavů. V tomto příkladu leží ${\displaystyle A}$ a ${\displaystyle B}$ v různých "údolí“, pokud generátor provádí pouze náhodné výměny párů; ale budou ve stejném údolí, pokud generátor provede náhodné převrácení segmentu.

Fyzikální analogie, která se používá k ospravedlnění simulovaného žíhání, předpokládá, že rychlost ochlazování je dostatečně nízká na to, aby rozdělení pravděpodobnosti současného stavu bylo vždy blízko termodynamické rovnováze. Bohužel relaxační doba, po které musí člověk po změně teploty čekat na obnovení rovnováhy silně závisí na „topografii“ energetické funkce a na aktuální teplotě. V simulovaném žíhacím algoritmu závisí doba relaxace také na kandidátním generátoru, a to velmi komplikovaným způsobem. Všimněte si, že všechny tyto parametry jsou obvykle poskytovány jako černá skříňka simulovanému žíhacímu algoritmu. Ideální rychlost chlazení proto nelze určit předem a měla by být empiricky upravena pro každý problém. Algoritmus Adaptivní simulované žíhání řeší tento problém připojením plánu chlazení k postupu hledání. Další adaptivní přístup jako termodynamické simulované žíhání, [5] automaticky upravuje teplotu v každém kroku na základě rozdílu energie mezi těmito dvěma stavy podle zákonů termodynamiky.