Statistický strojový překlad

Myšlenka statistického strojového překladu vychází z teorie informací. Dokument je přeložen podle funkce rozdělení pravděpodobnosti ${\displaystyle p(e|f)}$, takže řetězec ${\displaystyle e}$v cílovém jazyce (například v angličtině) je překlad řetězce ${\displaystyle f}$ve zdrojovém jazyce (například francouzsky).

Problém modelování rozdělení pravděpodobnosti ${\displaystyle p(e|f)}$ byl zpracován několika způsoby. Jedním z nich, který je vhodný pro počítačové zpracování, he aplikace Bayesovy věty, tedy ${\displaystyle p(e|f)\propto p(f|e)p(e)}$, kde překladový model ${\displaystyle p(f|e)}$vyjadřuje pravděpodobnost že zdrojový řetězec je překladem cílového řetězce a jazykový model ${\displaystyle p(e)}$ vyjadřuje pravděpodobnost získání tohoto cílového řetězce. Toto rozložení je přitažlivé, jelikož rozděluje původní problém do dvou menších. Nalezení nejlepšího překladu ${\displaystyle {\tilde {e}}}$je pak řešeno vybráním toho, který má nejvyšší pravděpodobnost:

${\displaystyle {\tilde {e}}=arg\max _{e\in e^{*}}p(e|f)=arg\max _{e\in e^{*}}p(f|e)p(e)}$.

K důsledné implementaci tohoto procesu je nutné provést důkladné prohledání všech řetězců ${\displaystyle e^{*}}$ve vstupním jazyce. Efektivitu tohoto hledání připravuje dekodér strojového překladu, který použije vstupní řetězec, heuristiku a další metody k omezení prohledávaného zároveň se zachováním dostatečné kvality. Tento kompromis mezi časovou efektivitou a kvalitou se vyskytuje také u rozpoznávání řeči.

Protože překladové systémy nejsou schopny ukládat všechny původní řetězce a jejich překlady, je dokument obvykle přeložen po jednotlivých větách, ale ani to nestačí. Jazykové modely jsou obvykle nahrazoványvyhlazenými n- gramovými modely, a podobné přístupy jsou použity u překladatelských modelů, ale objevují se další problémy kvůli např. různým délkám vět a pořadí slov v různých jazycích.

Modely statistického překladu byly původně založeny na slovech (modely 1-5 z IBM skrytých Markovových modelů Stephana Vogela[3] a model 6 Franze-Josepha Ocha[4]), ale se zavedením frázových modelů došlo k výrazným pokrokům.[5][6] Nedávné práce zahrnovaly syntaktické nebo kvazi-syntaktické struktury.[7][8]

• Efektivnější využití lidských a datových zdrojů
  • Existuje mnoho paralelních korpusů ve strojově čitelném formátu a ještě více jednojazyčných dat.
  • Obecně nejsou systémy SMT přizpůsobeny žádné konkrétní dvojici jazyků.
  • Překladové systémy založené na pravidlech vyžadují manuální sestavení jazykových pravidel, což může být nákladné, a navíc se výsledky často nedají zevšeobecnit do dalších jazyků.
• Plynulejší překlady díky použití jazykového modelu

• Vytváření korpusu může být nákladné.
• Konkrétní chyby je těžké předvídat a opravit.
• Výsledky mohou mít zdánlivou plynulost, která maskuje problémy s překladem.[9]
• Statistický strojový překlad obvykle funguje hůř pro jazykové páry s výrazně odlišným slovosledem.
• Přínosy získané při překladu mezi západoevropskými jazyky nejsou reprezentativní pro výsledky pro jiné jazykové páry, a to kvůli menším korpusům a větším gramatickým rozdílům.

Pro tuto metodu strojového překladu je základní jednotkou překladu slovo v přirozeném jazyce. Počet slov v přeložených větách se obvykle liší kvůli existenci složených slov, morfologie a idiomů. Poměr délek sekvencí přeložených slov se nazývá plodnost, která říká kolik cizích slov každé rodné slovo produkuje. Teorie informací předpokládá, že každé zahrnuje stejný koncept, ale v praxi to tak není. Například, anglické slovo corner může být ve španělštině buď Rincón nebo Esquina, v závislosti na tom, zda se jedná o vnitřní nebo vnější úhel.

Základní podoba této metody nedokáže překládat mezi jazyky s různou plodností. Je možné ji jednoduše upravit aby snesla vysokou plodnost, například mapování jediného slova na více možných překladů, ale zpětně to není možné. Například, pokud bychom překládali z angličtiny do francouzštiny, každé slovo v angličtině může vyprodukovat několik francouzských slov - a někdy i jen jedno, nebo žádné. Ale neexistuje způsob jak spojit dvě anglická slova tak, aby vyprodukovala jediné slovo francouzské.

Příkladem překladového systému založeného na slovech je volně dostupný balíček GIZA ++ (GPLed), který zahrnuje trénovací program pro modely IBM a HMM model a model 6.[4]

Slovně založený překlad se dnes již moc nepoužívá; frázové systémy jsou častější. Většina systémů založených na frázích stále používají GIZA++ k seřazení korpusu. Řazení je používáno k přípravě frází a dedukci syntaktických pravidel.[10] A odpovídající slova v bi-textu jsou stále aktivně diskutovaným problémem. Kvůli trvalé převaze GIZA++ lze dnes najít několik implementací online.[11]

V případě překladů založených ve frázích je cílem zabránit problémům překladů založených na slovech překladem celých sekvencí slov, jejichž délky se mohou lišit. Sekvence slov se nazývají bloky nebo fráze, ale obvykle se nejedná o lingvisticky motivované fráze, jen o frazémy získané pomocí statistických metod z korpusů. Ukázalo se, že omezení frází na ty lingvistické (syntakticky motivované skupiny slov) snižuje kvalitu překladu.[12]

Vybrané fráze jsou dále mapovány 1:1 na základě tabulky překladů frází a mohou být přeřazeny. Tuto tabulku lze systém naučit na základě zarovnání slov nebo přímo z paralelního korpusu. Druhý model je školen pomocí algoritmu maximalizace očekávání, podobně jako u modelu IBM pro překlad založený na slovech.[1]

Překlad založený na syntaxi je založen na myšlence překladu syntaktických jednotek, tj. (částečných) parsových stromů vět/výroků, nikoli na jednotlivých slovech nebo řetězcích slov (jako ve frázovém strojovém překladu).[13] Myšlenka překladu založeného na syntaxi je ve strojovém překladu dost stará, ale jeho statistická podoba se objevila až po příchodu silných stochastických parserů v 90. letech. Mezi příklady tohoto přístupu patří například synchronní bezkontextové gramatiky.

Hierarchický frázový překlad kombinuje silné stránky frázového a syntakticky založeného překladu. Používá pravidla synchronních bezkontextových gramatik, ale mohou být konstruovány rozšířením metod pro frázový překlad bez odkazu na lingvisticky motivované syntaktické složky. Tato myšlenka byla poprvé představena v Chiangově systému Hiero (2005).[7]

Jazykový model je nezbytnou součástí každého statistického systému strojového překladu, který pomáhá zajistit co nejplynulejší překlad. Je to funkce, která bere přeloženou větu a vrací pravděpodobnost, že ji řekne rodilý mluvčí. Dobrý jazykový model například přiřadí vyšší pravděpodobnost větě „ten dům je malý“ než „malý ten je dům“. Kromě slovosledu jazykové modely mohou také pomoci s výběrem slova: pokud cizí slovo má několik možných překladů, tyto funkce mohou poskytnout lepší pravděpodobnost některých překladů v určitých kontextech v cílovém jazyce.[1]

Problémy, které musí statistický strojový překlad řešit, zahrnují:

• Google Překladač
• Překladač Microsoft
• Omniscien Technologies
• Systran
• Yandex.Translate