Sprzęgło z przeszłości

Wśród algorytmów Monte Carlo łańcucha Markowa (MCMC) , sprzężenie z przeszłości jest metodą próbkowania ze stacjonarnego rozkładu łańcucha Markowa . W przeciwieństwie do wielu algorytmów MCMC, sprzężenie z przeszłości daje w zasadzie idealną próbkę z rozkładu stacjonarnego . Został wynaleziony przez Jamesa Proppa i Davida Wilsona w 1996 roku.

Podstawowa idea

Rozważmy nieredukowalny aperiodyczny łańcuch Markowa przestrzenią i (unikatowym) rozkładem stacjonarnym jest prawdopodobieństwa) wymyślimy rozkład prawdopodobieństwa z , że dla każdego ustalonego jego jest zgodnie ze Przykładem takiego rozkładu prawdopodobieństwa jest ten, w którym ( s ilekroć , ale często warto rozważyć inne dystrybucje. Teraz dla niezależnymi próbkami od .

Załóżmy, że z i jest niezależny od sekwencji . (Na nie martwimy się, skąd to Następnie również dystrybuowane zgodnie z , ponieważ dotyczące prawa \ . Definiować

wynika, że również dystrybuowany zgodnie z każdego . może się zdarzyć, że dla niektórych obraz pojedynczym elementem Innymi słowy, dla każdego . Dlatego nie musimy mieć dostępu do , obliczyć . } Algorytm polega następnie znalezieniu jest singletonem tego . Projekt dobrej dystrybucji, zadanie znalezienia takiego nie zbyt kosztowne, nie zawsze jest oczywiste, ale zakończyło się pomyślnie w kilku ważnych przypadkach.

Sprawa monotonna

Istnieje specjalna klasa łańcuchów Markowa, w której istnieją szczególnie dobre wybory dla i narzędzie do określania, czy . (Tutaj oznacza liczność .) Załóżmy, że to częściowo uporządkowany zestaw z porządkiem , który ma unikalny element minimalny . i unikalny element maksymalny ; to znaczy, że każdy spełnia . Załóżmy również, że można wybrać obsługę zestawu map monotonicznych . Wtedy łatwo zauważyć, że wtedy i tylko wtedy, gdy jest . W ten sposób sprawdzenie tego staje się raczej łatwe. Algorytm może kontynuować, wybierając , próbkując mapy i wyprowadzanie jeśli . fa algorytm postępuje przez podwojenie i powtarzanie w razie potrzeby aż do uzyskania wyjścia. (Ale algorytm nie próbkuje map, które były już map próbkowanych wcześniej).