Centralne twierdzenie graniczne łańcucha Markowa

W matematycznej teorii procesów losowych centralne twierdzenie graniczne łańcucha Markowa ma wniosek nieco podobny w formie do klasycznego centralnego twierdzenia granicznego (CLT) teorii prawdopodobieństwa, ale wielkość w roli, jaką odgrywa wariancja w klasycznym CLT ma bardziej skomplikowaną definicję. Zobacz także ogólną formę tożsamości Bienaymé .

Oświadczenie

Przypuszczam, że:

• ciąg ${\textstyle X_{1},X_{2},X_{3},\ldots}$ losowych elementów pewnego zbioru jest łańcuchem Markowa , który ma stacjonarny rozkład prawdopodobieństwa ; I
• początkowy rozkład procesu, tj. rozkład ${\textstyle X_ {1}}$ , jest rozkładem stacjonarnym, tak że ${\textstyle X_ {1}, X_ {2 },X_{3},\ldots }$ mają identyczny rozkład. W klasycznym centralnym twierdzeniu granicznym zakłada się, że te zmienne losowe są niezależne , ale tutaj mamy tylko słabsze założenie, że proces ma własność Markowa ; I
• ${\textstyle g}$ to pewna (mierzalna) funkcja o wartościach rzeczywistych, dla której ${\textstyle \operatorname {var} (g(X_{1}))<+\infty .}$

Teraz pozwól

${\ Displaystyle {\ rozpocząć {wyrównane} \ mu & = \ nazwa operatora {E} (g (X_ {1})), \\ {\ widehat {\ mu}} _ {n} & = {\ frac {1} {n}}\sum _{k=1}^{n}g(X_{k})\\\sigma ^{2}&:=\lim _{n\to \infty }\nazwaoperatora {var} ( {\sqrt {n}}{\widehat {\mu}}_{n})=\lim _{n\do \infty}n\operatorname {var} ({\widehat {\mu}}_{n} )=\nazwaoperatora {var} (g(X_{1}))+2\suma _{k=1}^{\infty }\nazwaoperatora {cov} (g(X_{1}),g(X_{1 +k})).\end{wyrównane}}}$

Wtedy jako ${\textstyle n\to \infty ,}$ mamy

${\ Displaystyle {\ sqrt {n}} ({\ kapelusz {\ mu}} _ {n} - \ mu) \ {\ xrightarrow {\ mathcal {D}}}\ {\text{Normalny}}(0,\sigma ^{2}),}$

gdzie ozdobiona strzałka wskazuje na zbieżność rozkładu .

To znaczy że

${\ Displaystyle {\ kapelusz {\ mu}} _ {n} \ sim \ nazwa operatora {Normalny} \ lewo (\ mu, {\ Frac {\ sigma ^ { 2}}{n}}\prawo),}$

gdzie ~ oznacza „jest dystrybuowany jak”.

Ustawienie Monte Carlo

Centralne twierdzenie graniczne łańcucha Markowa może być zagwarantowane dla funkcjonałów ogólnej przestrzeni stanów Łańcuchy Markowa pod pewnymi warunkami. W szczególności można to zrobić, koncentrując się na ustawieniach Monte Carlo. Przykład zastosowania w ustawieniu MCMC (Markov Chain Monte Carlo) jest następujący:

Rozważmy prosty model twardych kul na siatce. Załóżmy, że ${\ Displaystyle X = \ {1, \ ldots, n_ {1} \} \ razy \ {1, \ ldots, n_{2}\}\subseteq Z^{2}}$ . Właściwa konfiguracja na $czarno$ lub biało w taki sposób, aby żadne dwa sąsiednie punkty nie były białe. Niech ${\ Displaystyle \ chi}$ oznacza zbiór wszystkich właściwych konfiguracji na ${\ Displaystyle X}$ , ${\ Displaystyle N_ {\ chi} (n_ {1}, n_ {2})}$ gdzie będzie całkowitą liczbą właściwych konfiguracji, a π będzie równomiernym rozkładem na ${\ displaystyle \ chi}$ , aby każda właściwa konfiguracja była równie prawdopodobna. Załóżmy, że naszym celem jest obliczenie typowej liczby białych punktów we właściwej konfiguracji; to znaczy, jeśli ${\ Displaystyle W (x)}$ to liczba białych punktów w ${\ Displaystyle x \ in \ chi}$ wtedy chcemy wartość

${\ Displaystyle E _ {\ pi} W = \ suma _ {x \ w \ chi} {\ Frac {W (x)} {N_{\chi}}{\bigl (}n_{1},n_{2}{\bigr)}}}}$

Jeśli $displaystyle$ nawet umiarkowanie duże, to będziemy musieli zastosować przybliżenie do mi ${\ pi}$$E_$ . Rozważ następujący łańcuch Markowa na ${\ displaystyle \ chi}$ . Naprawić ${\ Displaystyle p \ in (0,1)}$ i ustawić gdzie ${\ Displaystyle X_ {1} = x_ {1}}$${\ displaystyle x_ {1} \ in \ chi}$ to dowolna właściwa konfiguracja. Losowo wybierz punkt ${\ Displaystyle (x, y) \ w X}$ i niezależnie narysuj ${\ Displaystyle U \ sim \ operatorname {Uniform} (0,1)}$ . u $\ displaystyle u \ równoważnik p}$ a wszystkie sąsiednie punkty są czarne, a następnie kolor $pozostawiając$ inne punkty w W przeciwnym razie pokoloruj $.$ inne punkty w Wywołaj wynikową konfigurację ${\ displaystyle X_ {1}}$ . Kontynuując w ten sposób otrzymujemy ergodyczny łańcuch Markowa Harrisa $Displaystyle \ {X_ {1}, X_ {2}, X_ {3}, \ ldots \}}$$.$ mając jako niezmienną dystrybucję Mi ${\ Displaystyle E _ {\ pi} W}$ z ${\ overline {w_ {n}} }=\suma _{i=1}^{n}W(X_{i})/n}$ . Ponadto, ponieważ ${\ displaystyle \ chi}$ jest skończony (choć potencjalnie duży), dobrze wiadomo, że zbiegnie się wykładniczo szybko do ${\ displaystyle$$\ pi}$ , co oznacza, że ​​CLT obowiązuje dla $overline {w_ {n} }}}}$ .

Implikacje

Nieuwzględnienie dodatkowych składników w wariancji, które wynikają z korelacji (np. korelacji szeregowych w symulacjach Monte Carlo łańcucha Markowa) może skutkować problemem pseudoreplikacji przy obliczaniu np. przedziałów ufności dla średniej z próby .

Źródła

• Gordin, MI i Lifšic, BA (1978). „Centralne twierdzenie graniczne dla stacjonarnych procesów Markowa”. Matematyka radziecka, Doklady , 19 , 392–394. (angielskie tłumaczenie rosyjskiego oryginału).
• Geyer, Charles J. (2011). „Wprowadzenie do MCMC”. W Handbook of Markov Chain Monte Carlo , pod redakcją SP Brooks, AE Gelman, GL Jones i XL Meng. Chapman & Hall/CRC, Boca Raton, s. 3–48.