Centralne twierdzenie graniczne

W teorii prawdopodobieństwa centralne twierdzenie graniczne ( CLT ) ustala, że ​​w wielu sytuacjach dla niezależnych zmiennych losowych o jednakowym rozkładzie rozkład średniej próby standaryzowanej zmierza w stronę standardowego rozkładu normalnego, nawet jeśli same pierwotne zmienne nie mają rozkładu normalnego .

Twierdzenie to jest kluczowym pojęciem w teorii prawdopodobieństwa, ponieważ implikuje, że metody probabilistyczne i statystyczne, które działają w przypadku rozkładów normalnych, można zastosować do wielu problemów obejmujących inne typy rozkładów.

Twierdzenie to uległo wielu zmianom w trakcie formalnego rozwoju teorii prawdopodobieństwa. Poprzednie wersje tego twierdzenia pochodzą z 1811 r., ale w jego współczesnej ogólnej formie ten fundamentalny wynik teorii prawdopodobieństwa został precyzyjnie sformułowany dopiero w 1920 r., służąc w ten sposób jako pomost między klasyczną i współczesną teorią prawdopodobieństwa.

Elementarna postać twierdzenia stwierdza, co następuje. Niech oznaczają losową próbkę niezależnych $displaystyle$ z populacji o całkowitej wartości $X_ {1}, X_ {2}, \ kropki, X_ {n$ } wartość oczekiwana (średnia) $i$ skończona wariancja $\ sigma ^ {2}}$ i niech oznaczają średnią próbki tej próbki (która sama jest $.$ losową ) Następnie $n$ granica rozkładu ${\ Displaystyle {\ Frac {{\ bar {X}} _ {n} - \ n → ∞ {\ displaystyle n$ } gdzie ${\ Displaystyle \ sigma _ {{\ bar {X}} _ {n}} = {\ Frac {\ sigma} {\ sqrt {n}}},} to standardowy rozkład normalny$ .

Innymi słowy, załóżmy, że otrzymano dużą próbkę obserwacji , przy czym każda obserwacja została wygenerowana losowo w sposób niezależny od wartości innych obserwacji i że obliczona została średnia ( średnia arytmetyczna ) zaobserwowanych wartości. Jeśli tę procedurę wykona się wiele razy, w wyniku czego uzyskany zostanie zbiór zaobserwowanych średnich, centralne twierdzenie graniczne mówi, że jeśli wielkość próby była wystarczająco duża, rozkład prawdopodobieństwa tych średnich będzie bardzo zbliżony do rozkładu normalnego.

Centralne twierdzenie graniczne ma kilka wariantów. W swojej powszechnej postaci zmienne losowe muszą być niezależne i mieć jednakowy rozkład (iid). Wymóg ten można osłabić; zbieżność średniej do rozkładu normalnego występuje także w przypadku rozkładów nieidentycznych lub niesamodzielnych obserwacji, jeśli spełniają one określone warunki.

Najwcześniejszą wersją tego twierdzenia, w której rozkład normalny może być zastosowany jako przybliżenie rozkładu dwumianowego , jest twierdzenie de Moivre’a – Laplace’a .

Niezależne sekwencje

Niezależnie od formy rozkładu populacji, rozkład próbkowania ma tendencję do Gaussa, a jego rozproszenie jest określone przez centralne twierdzenie graniczne.

Klasyczny CLT

Niech będzie ciągiem zmiennych losowych iid o rozkładzie o wartości oczekiwanej określonej przez $mu }$$\ displaystyle \ {X_ {1}, \ ldots, X_ {n}} \}$$n$ i skończona wariancja określona przez $Załóżmy,$ że interesuje nas średnia z próby

$${\ Displaystyle {\ bar {X}} _ {n} \ równoważnik {\ Frac {X_ {1} + \ cdots + X_ {n}} {n}}.}$$

Zgodnie z prawem wielkich liczb średnia próbki zbiega się prawie na pewno (a zatem również zbiega się pod względem prawdopodobieństwa $)$ do wartości jako ${\ Displaystyle n \ do \ infty.}$

Klasyczne centralne twierdzenie graniczne opisuje wielkość i postać rozkładu fluktuacji stochastycznych wokół liczby deterministycznej $.$ tej zbieżności Dokładniej stwierdza, że ​​w miarę $, {$ się rozkładu różnicy między średnią próbki a jej granicą $displaystyle \ mu,}$${\ displaystyle {\ bar {X}} _ {$$n$ pomnożone przez współczynnik $displaystyle {\ sqrt {n}}}$ \ to znaczy, ${\ Displaystyle {\ sqrt {n}} ({\ bar {X}} _ {n} - \ mu)})$ przybliża rozkład normalny ze średnią ${\ displaystyle 0}$ i wariancja $wystarczająco$$displaystyle$ dużego $n,}$ rozkład staje się arbitralnie do rozkładu normalnego ze średnią i wariancja ${\ displaystyle \ sigma ^ {2} / n.}$$mu}$

Przydatność twierdzenia polega na tym, że rozkład zbliża się do normalności niezależnie od ${\ displaystyle {\ sqrt {n}} ({\ bar {X}} _ {n} - \ mu)}$ kształt rozkładu jednostki ${\ displaystyle X_ {i}.$ Formalnie twierdzenie można sformułować w następujący sposób:

Lindeberg ${\ displaystyle \ nazwa operatora {E} [X_ {i}] = \ mu}$$,$ — Załóżmy ciągiem zmiennych losowych i Następnie, gdy zbliża się do nieskończoności, $X}} _ {n} - \ mu)}$ losowe ${\$$displaystyle \ operatorname {Var} [X_ {i}] = \ sigma ^ {2} <\ infty.$$} \ Displaystyle {\ sqrt {n}} ({\ bar$ { zbiegają się w rozkładzie normalnym ${\ Displaystyle {\ mathcal {N}} (0 ,\sigma ^{2})}$ :

$${\ Displaystyle {\ sqrt {n}} \ lewo ({\ bar {X}} _ {n} - \ mu \ prawo) \ \ xrightarrow {d} \ {\ mathcal {N}} \ lewo (0, \ sigma ^{2}\right).}$$

W przypadku $zbieżność rozkładu$ , że ​​skumulowane funkcje rozkładu są $} _ {n} - \ mu)}$$\ displaystyle {\ sqrt {n}} ({\ bar {X$ zbiegają się punktowo do cdf rozkładu: dla każdej liczby rzeczywistej ${\ Displaystyle {\ mathcal {N}} (0, \ sigma ^ {2})}$${\ displaystyle z,}$

$${\ Displaystyle \ lim _ {n \ do \ infty} \ mathbb {P} \ lewo [{\ sqrt {n}} ({\ bar {X}} _ {n} - \ mu) \ równoważnik z \ prawo] =\lim _{n\to \infty }\mathbb {P} \left[{\frac {{\sqrt {n}}({\bar {X}}_{n}-\mu)}{\sigma }} \leq {\frac {z} {\sigma }}\right]=\Phi \left({\frac {z}{\sigma }}\right),}$$

gdzie jest standardowym normalnym cdf ocenianym przy $Zbieżność$${\ displaystyle \ Phi (z)}$ jest jednolita w $że$ sensie,

$${\ Displaystyle \ lim _ {n \ do \ infty} \; \ sup _ {z \ in \ mathbb {R}} \; \ lewo | \ mathbb {P} \ lewo [{\ sqrt {n}} ({\bar {X}}_{n}-\mu )\leq z\right]-\Phi \left({\frac {z}{\sigma }}\right)\right|=0~,}$$

gdzie $oznacza$ najmniejszą górną granicę (lub supremum ) zbioru.

Łapunow CLT

Twierdzenie zostało nazwane na cześć rosyjskiego matematyka Aleksandra Lapunowa . $W$ tym wariancie centralnego twierdzenia granicznego zmienne losowe niezależne, ale niekoniecznie mają identyczny rozkład. Twierdzenie wymaga również, aby zmienne losowe $X_{i}\right$$(2+\delta)} {\textstyle \left$ } textstyle | | i że tempo wzrostu tych momentów jest ograniczone przez warunek Lapunowa podany poniżej.

$, że$ CLT - Załóżmy ciągiem niezależnych zmiennych wartość ${\textstyle \mu _{i}}$ i wariancja ${\textstyle \sigma _{i}^{2}}$ . Definiować

$${\ Displaystyle s_ {n} ^ {2} = \ suma _ {i = 1} ^ {n} \ sigma _ {i} ^ {2}.}$$

Jeśli przez $Lapunowa$ stan

$${\ Displaystyle \ lim _ {n \ do \ infty} \; {\ Frac {1} {s_ {n} ^ {2+ \ delta}}} \, \ suma _ {i = 1} ^{n}\operatorname {E} \left[\left|X_{i}-\mu _{i}\right|^{2+\delta }\right]=0}$$

$jest spełniony,$ suma normalnej , gdy zmierza do nieskończoności: ${\textstyle n}$

$${\ Displaystyle {\ Frac {1} {s_ {n}}} \, \ suma _ {i = 1} ^ {n} \ lewo (X_ {i} - \ mu _ {i} \ prawo) \ \ xrightarrow {d} \ {\ matematyczny {N}} (0,1).}$$

$.$ dla jest sprawdzić warunek

Jeśli ciąg zmiennych losowych spełnia warunek Lapunowa, to spełnia również warunek Lindeberga. Jednak implikacja odwrotna nie zachodzi.

Lindeberg CLT

Główny artykuł: stan Lindeberga

W tym samym ustawieniu i z tym samym zapisem co powyżej, warunek Lapunowa można zastąpić następującym, słabszym (od Lindeberga w 1920 r.).

Załóżmy, że dla każdego ${\textstyle \varepsilon >0}$

$${\ Displaystyle \ lim _ {n \ do \ infty} {\ Frac {1} {s_ {n} ^ {2}}} \ suma _ {i = 1} ^ {n} \ nazwa operatora {E} \ lewo [ (X_{i}-\mu _{i})^{2}\cdot \mathbf {1} _{\left\{X_{i}:\left|X_{i}-\mu _{i}\ prawo|>\varepsilon s_{n}\right\}}\right]=0}$$

gdzie ${\textstyle \mathbf {1} _ {\{\ldots \}}}$ jest funkcją wskaźnika . Następnie podział standaryzowanych kwot

$${\ Displaystyle {\ Frac {1} {s_ {n}}} \ suma _ {i = 1} ^ {n} \ lewo (X_ {i} -\mu _{i}\right)}$$

zbiega się w kierunku standardowego rozkładu normalnego. ${\textstyle {\mathcal {N}}(0,1)}$ .

Wielowymiarowy CLT

$}$ funkcje charakterystyczne można rozszerzyć na przypadki $,$ w których każdy jest losowym wektorem w k wektor średni ${\textstyle {\boldsymbol {\mu}}=\operatorname {E} [\mathbf {X} _ {i}]}$ i macierz kowariancji ${\textstyle \mathbf {\ Sigma } }$ (wśród składników wektora), a te losowe wektory są niezależne i mają jednakowy rozkład. Sumowanie tych wektorów odbywa się składowo. Wielowymiarowe centralne twierdzenie graniczne stwierdza, że ​​po przeskalowaniu sumy zbiegają się do wielowymiarowego rozkładu normalnego .

Pozwalać

$${\ Displaystyle \ mathbf {X} _ {i} = {\ początek {bmatrix} X_ {i (1)} \\\ vdots \\ X_ { i(k)}\end{bmatrix}}}$$

być wektorem k . Pogrubienie $,$ że ​​jest to wektor losowy, a nie zmienna losowa (jednowymiarowa Wtedy będzie suma losowych wektorów

$${\ Displaystyle {\ początek {bmatrix} X_ {1 (1)} \\\ vdots \\ X_ { 1(k)}\end{bmatrix}}+{\begin{bmatrix}X_{2(1)}\\\vdots \\X_{2(k)}\end{bmatrix}}+\cdots +{\ Begin{bmatrix}X_{n(1)}\\\vdots \\X_{n(k)}\end{bmatrix}}={\begin{bmatrix}\sum _{i=1}^{n}\ lewy[X_{i(1)}\prawy]\\\vdots \\\sum _{i=1}^{n}\left[X_{i(k)}\prawy]\end{bmatrix}}= \sum _{i=1}^{n}\mathbf {X} _{i}}$$

i średnia jest

$${\ Displaystyle {\ Frac {1} {n}} \ suma _ {i = 1} ^ {n} \ mathbf {X} _ {i} = {\ Frac {1} {n}} {\ rozpocząć {bmatrix}\sum _{i=1}^{n}X_{i(1)}\\\vdots \\\sum _{i=1}^{n}X_{i(k)}\end{ bmatrix}}={\begin{bmatrix}{\bar {X}}_{i(1)}\\\vdots \\{\bar {X}}_{i(k)}\end{bmatrix}} =\mathbf {{\bar {X}}_{n}} }$$

i dlatego

$${\ Displaystyle {\ Frac {1} {\ sqrt {n}}} \ suma _ {i = 1} ^ {n} \ lewo [\ mathbf {X} _ {i} - \ nazwa operatora {E} \ lewo ( \mathbf {X} _{i}\right)\right]={\frac {1}{\sqrt {n}}}\sum _{i=1}^{n}(\mathbf {X} _{ i}-{\boldsymbol {\mu }})={\sqrt {n}}\left({\overline {\mathbf {X}}}_{n}-{\boldsymbol {\mu}}\right) ~.}$$

Stwierdza to centralne twierdzenie graniczne o wielowymiarach

$${\ Displaystyle {\ sqrt {n}} \ lewo ({\ overline {\ mathbf {X}}} _ {n} - {\ Boldsymbol {\ mu }}\right)\,\xrightarrow {D} ​​\ {\mathcal {N}}_{k}(0,{\boldsymbol {\Sigma }})}$$

gdzie macierz kowariancji jest równa ${\ displaystyle {\ pogrubiony symbol {\ Sigma}}}$

$${\ Displaystyle {\ Boldsymbol {\ Sigma}} = {\ początek {bmatrix} {\ operatorname {Var} \ lewo (X_ {1 (1)} \ prawo)} i \ operatorname {Cov} \ lewo (X_ {1 (1)},X_{1(2)}\right)&\operatorname {Cov} \left(X_{1(1)},X_{1(3)}\right)&\cdots &\operatorname {Cov } \left(X_{1(1)},X_{1(k)}\right)\\\operatorname {Cov} \left(X_{1(2)},X_{1(1)}\right) &\operatorname {Var} \left(X_{1(2)}\right)&\operatorname {Cov} \left(X_{1(2)},X_{1(3)}\right)&\cdots & \operatorname {Cov} \left(X_{1(2)},X_{1(k)}\right)\\\operatorname {Cov} \left(X_{1(3)},X_{1(1) }\right)&\operatorname {Cov} \left(X_{1(3)},X_{1(2)}\right)&\operatorname {Var} \left(X_{1(3)}\right) &\cdots &\operatorname {Cov} \left(X_{1(3)},X_{1(k)}\right)\\\vdots &\vdots &\vdots &\ddots &\vdots \\\nazwa operatora {Cov} \left(X_{1(k)},X_{1(1)}\right)&\operatorname {Cov} \left(X_{1(k)},X_{1(2)}\right )&\operatorname {Cov} \left(X_{1(k)},X_{1(3)}\right)&\cdots &\operatorname {Var} \left(X_{1(k)}\right) \\\end{bmacierz}}~.}$$

Szybkość zbieżności wyraża następujący wynik typu Berry’ego – Esseena :

Twierdzenie - Niech będzie niezależne . $n}, \ kropki$$}$ będą losowe wektory, z których każdy ma średnią zero. Zapisz ${\ Displaystyle S = \ suma _ {i = 1} ^ {n} X_ {i}}$ i załóż ${\ Displaystyle \ Sigma = \ operatorname {Cov} [S]}$ jest odwracalny. Niech ${\ Displaystyle Z \ sim {\ mathcal {N}} (0, \ Sigma)}$ będzie $Gaussem$ z tą samą średnią i tą samą macierzą kowariancji co ${ \displaystyle S}$ . Następnie dla wszystkich zbiorów wypukłych , ${\ displaystyle U \ subseteq \ mathbb {R} ^ {d}$ }

$${\ Displaystyle \ lewo | \ mathbb {P} [S \ w U] - \ mathbb {P} [Z \ w U] \ prawo | \ równoważnik C \, d ^ {$$

gdzie jest $stałą$ uniwersalną, $suma _ {i = 1} ^ { n}\operatorname {E} \left[\left\|\Sigma ^{-1/2}X_{i}\right\|_{2}^{3}\right]$ } i ${ \displaystyle \|\cdot \|_{2}}$ oznacza normę euklidesową na ${\ displaystyle \ mathbb {R} ^ {d}$ }

Nie wiadomo $konieczny$ czy

Uogólnione centralne twierdzenie graniczne

Uogólnione Centralne Twierdzenie Graniczne (GCLT) było dziełem wielu matematyków ( Bernsteina , Lindeberga , Lévy’ego , Fellera , Kolmogorowa i innych) w latach 1920–1937. Pierwszy opublikowany kompletny dowód GCLT został opublikowany w 1937 r. przez Paula Lévy’ego po francusku. Angielska wersja pełnego dowodu GCLT jest dostępna w tłumaczeniu Gnedenki i Kołmogorowa z 1954 roku.

Oświadczenie GCLT jest następujące:

Niezdegenerowana zmienna losowa Z jest α-stabilna dla pewnego 0 < α ≤ 2 wtedy i tylko wtedy, gdy istnieje niezależny, identycznie rozłożony ciąg zmiennych losowych X ₁ , X ₂ , X ₃ , ... i stałych a _n > 0, b _n ∈ ℝ z

a _n (X ₁ + ... + X _n ) - b _n → Z.

Tutaj → oznacza, że ​​ciąg sum zmiennych losowych jest zbieżny w rozkładzie; tj. odpowiednie rozkłady spełniają F _n (y) → F(y) we wszystkich punktach ciągłości F.

Innymi słowy, jeśli sumy niezależnych zmiennych losowych o identycznym rozkładzie zbiegają się w rozkładzie do pewnego Z , to Z musi być rozkładem stabilnym .

Procesy zależne

CLT w słabej zależności

Przydatnym uogólnieniem sekwencji niezależnych zmiennych losowych o jednakowym rozkładzie jest losowy proces mieszania w czasie dyskretnym; „mieszanie” oznacza z grubsza, że ​​zmienne losowe znajdujące się czasowo daleko od siebie są prawie niezależne. W teorii ergodycznej i teorii prawdopodobieństwa stosuje się kilka rodzajów mieszania. Zobacz szczególnie silne mieszanie (zwane także α-mieszaniem) zdefiniowane przez ${\textstyle \alfa (n)\do 0},$ gdzie jest tak zwane ${\textstyle \alfa (n)}$ silny współczynnik mieszania .

Uproszczone sformułowanie centralnego twierdzenia granicznego przy silnym mieszaniu to:

Twierdzenie - Załóżmy, że $jest$ nieruchomy i miesza się $\ldots,X_{n},\ldots \}}$ z ${\textstyle \alfa _ {n}=O\lewo (n^{-5}\prawo)}$ i że ${\textstyle \operatorname {E } [X_{n}]=0}$ i ${\textstyle \operatorname {E} [X_{n}^{12}]<\infty}$ . Oznacz $_$ _ _

$${\ Displaystyle \ sigma ^ {2} = \ lim _ {n \ Rightarrow \ infty} {\ Frac {\ nazwa operatora {E} \ lewo (S_ {n }^{2}\right)}{n}}}$$

istnieje i jeśli zbiega $}$ do ${\ Textstyle {\ mathcal {N}} (0,1)}$$\ sigma \neq 0$ .

W rzeczywistości,

$${\ Displaystyle \ sigma ^ {2} = \ nazwa operatora {E} \ lewo (X_ {1} ^{2}\right)+2\suma _{k=1}^{\infty }\operatorname {E} \left(X_{1}X_{1+k}\right),}$$

gdzie szereg jest zbieżny bezwzględnie.

założenia , ponieważ asymptotyczna normalność zawodzi dla $}}$$n$${n} -Y_$$stacjonarna$ gdzie kolejna sekwencja .

$_$ twierdzenia _ ${\textstyle \operatorname {E} \left[{\left|X_{n}\right|}^{2+\delta}\right]<\infty}$ i założenie ${\textstyle \alfa _{n}=O\lewo (n^{-5}\prawo)}$ zostaje zastąpione przez

$${\ Displaystyle \ suma _ {n} \ alfa _ {n} ^ {\ Frac {\ delta} {2 (2+ \ delta)} <\ infty.}$$

$wniosek$ takiego . Encyklopedyczne podejście do twierdzeń granicznych w warunkach mieszania można znaleźć w artykule ( Bradley 2007 ).

Różnica Martingale CLT

Główny artykuł: Centralne twierdzenie graniczne Martingale'a

Twierdzenie — Niech martyngał $_$ _

• ${\ Displaystyle {\ Frac {1} {n}} \ suma _ { k=1}^{n}\nazwa operatora {E} \left[\left(M_{k}-M_{k-1}\right)^{2}\mid M_{1},\dots ,M_{k -1}\right]\to 1}$ z prawdopodobieństwem jako n → ∞ ,
• dla każdego ε > 0 , ${\ Displaystyle {\ Frac {1} {n}} \ suma _ {k = 1} ^ {n} {\ operatorname {E} \ lewo [\ lewo (M_ {k} -M_ {k-1} \ prawo )^{2}\mathbf {1} \left[|M_{k}-M_{k-1}|>\varepsilon {\sqrt {n}}\right]\right]}\to 0}$ as n → ∞ ,

wówczas ${n}}}}$ w rozkładzie ${n}} {\ sqrt$ jako $\do \infty}$ n

Uwagi

Dowód klasycznego CLT

Centralne twierdzenie graniczne ma dowód za pomocą funkcji charakterystycznych . Przypomina to dowód (słabego) prawa wielkich liczb .

Załóżmy, $że są$$niezależnymi$ rozłożonymi zmiennymi losowymi $\mu}$ i skończona wariancja ${\textstyle \sigma ^{2}$ } Suma $_$ _ _ ${\textstyle n\mu}$ i wariancja ${\textstyle n\sigma ^{2}$ } Rozważ zmienną losową

$${\ Displaystyle Z_ {n} = {\ Frac {X_ {1} + \ cdots + X_ {n} -n \ mu} {\ sqrt {n \ sigma ^ {2}}}} = \ suma _ {i = 1}^{n}{\frac {X_{i}-\mu }{\sqrt {n\sigma ^{2}}}}=\sum _{i=1}^{n}{\frac {1 }{\sqrt {n}}}Y_{i},}$$

w $średnią$ zdefiniowaliśmy każda i wariancja jednostkowa ( ${\textstyle \operatorname {var} (Y) = 1}$ ). Charakterystyczną funkcję podaje Z ${\textstyle Z_{n}$

$${\ Displaystyle \ Varphi _ {Z_ {n}} \! (t) = \ Varphi _ {\ suma _ {i = 1} ^ {n} {{\ Frac {1} {\ sqrt {n}} } Y_{i}}}\!(t)\ =\ \varphi _{Y_{1}}\!\!\left({\frac {t}{\sqrt {n}}}\right)\varphi _{Y_{2}}\!\!\left({\frac {t}{\sqrt {n}}}\right)\cdots \varphi _{Y_{n}}\!\!\left({ \frac {t}{\sqrt {n}}}\right)\ =\ \left[\varphi _{Y_{1}}\!\!\left({\frac {t}{\sqrt {n} }}\right)\right]^{n},}$$

$są$ wykorzystaliśmy fakt, że wszystkie rozłożone. Charakterystyczną funkcją jest, zgodnie z twierdzeniem Taylora, Y $\textstyle Y_{1}}$

$${\ Displaystyle \ Varphi _ {Y_ {1}} \! \ lewo ({\ Frac {t} {\sqrt {n}}}\right)=1-{\frac {t^{2}}{2n}}+o\!\left({\frac {t^{2}}{n}}\ prawo),\quad \lewo({\frac {t}{\sqrt {n}}}\prawo)\to 0}$$

gdzie $^ {2} / n)}$$,$ to „ mała notacja o ” dla jakiejś funkcji która dąży do zera szybciej niż ${ \textstyle t^{2}/n}$ . Przez granicę funkcji wykładniczej ( ${\ Textstyle e ^ {x} = \ lim _ {n \ do \ infty} \ lewo (1 + {\ Frac {x} {n}} \ prawo) ^ {n}}),$ charakterystyczna funkcja ${\ displaystyle Z_ {n}}$ jest równe

$${\ Displaystyle \ Varphi _ {Z_ {n}} (t) = \ lewo (1 - {\ Frac {t ^ {2}} {2n}} + o \ lewo ({\ Frac {t ^ {2}} {n}}\right)\right)^{n}\rightarrow e^{-{\frac {1}{2}}t^{2}},\quad n\to \infty .}$$

Wszystkie terminy wyższego rzędu znikają w granicy. ${\textstyle n\to \infty$ } Prawa strona jest równa charakterystycznej funkcji standardowego rozkładu normalnego , co z twierdzenia o ciągłości Lévy'ego wynika, $że$ ​​rozkład Z $Z_ {n}}$$}}(0,1)}$ zbliży się do ${\textstyle {\mathcal {N}}(0,1$ } ${\textstyle n\do \infty}$ . Dlatego średnia z próby

$${\ Displaystyle {\ bar {X}} _ {n} = {\ Frac {X_ {1} + \ cdots + X_ {n}} {n}}}$$

jest takie, że

$${\ Displaystyle {\ Frac {\ sqrt {n}} {\ sigma}} ({\ bar {X}} _ {n} - \ mu) = Z_ {n }}$$

zbiega się do rozkładu normalnego $z$ wynika twierdzenie

Konwergencja do granic możliwości

Centralne twierdzenie graniczne podaje jedynie rozkład asymptotyczny . Jako przybliżenie skończonej liczby obserwacji, zapewnia rozsądne przybliżenie tylko wtedy, gdy jest blisko szczytu rozkładu normalnego; wymaga bardzo dużej liczby obserwacji, aby rozciągnąć się do ogonów.

Zbieżność w centralnym twierdzeniu granicznym jest jednostajna , ponieważ ograniczająca funkcja rozkładu skumulowanego jest ciągła. Jeśli trzeci moment centralny istnieje i jest skończony, mi $\ Textstyle \ operatorname {E} \ lewo [(X_ {1} - \ mu) ^ {3} \ prawo]} prędkość zbieżności jest co$$)$ rzędu (patrz Berry’ego – Esseena Metoda Steina można wykorzystać nie tylko do udowodnienia centralnego twierdzenia granicznego, ale także do wyznaczenia granic współczynników zbieżności dla wybranych metryk.

Zbieżność do rozkładu normalnego jest monotoniczna w tym sensie, że $monotonicznie$ wzrasta do entropii rozkładu normalnego

Centralne twierdzenie graniczne ma zastosowanie w szczególności do sum niezależnych i jednakowo rozłożonych dyskretnych zmiennych losowych . Suma dyskretnych zmiennych losowych jest nadal dyskretną zmienną losową , tak więc mamy do czynienia z sekwencją dyskretnych zmiennych losowych , których skumulowana funkcja rozkładu prawdopodobieństwa zbiega się w kierunku skumulowanej funkcji rozkładu prawdopodobieństwa odpowiadającej zmiennej ciągłej (mianowicie rozkładu normalnego ) . Oznacza to, że jeśli zbudujemy histogram realizacji sumy n niezależnych identycznych zmiennych dyskretnych, krzywa odcinkowo-liniowa łącząca środki górnych ścian prostokątów tworzących histogram zbiega się w kierunku krzywej Gaussa, gdy n zbliża się do nieskończoności; zależność ta jest znana jako twierdzenie de Moivre’a – Laplace’a . Artykuł o rozkładzie dwumianowym szczegółowo opisuje takie zastosowanie centralnego twierdzenia granicznego w prostym przypadku zmiennej dyskretnej przyjmującej tylko dwie możliwe wartości.

Wspólne nieporozumienia

Badania wykazały, że centralne twierdzenie graniczne jest obarczone kilkoma powszechnymi, ale poważnymi błędami, z których część pojawia się w powszechnie używanych podręcznikach. Należą do nich przekonania, że:

• Twierdzenie to ma zastosowanie do losowego próbkowania dowolnej zmiennej, a nie do średnich wartości (lub sum) iid zmiennych losowych wyodrębnionych z populacji poprzez wielokrotne próbkowanie. Oznacza to, że twierdzenie zakłada, że ​​losowe próbkowanie tworzy rozkład próbkowania utworzony z różnych wartości średnich (lub sum) takich zmiennych losowych.
• Twierdzenie zapewnia, że ​​losowe próbkowanie prowadzi do powstania rozkładu normalnego dla dostatecznie dużych próbek dowolnej zmiennej losowej, niezależnie od rozkładu populacji. W rzeczywistości takie próbkowanie asymptotycznie odtwarza właściwości populacji, co jest intuicyjnym wynikiem popartym twierdzeniem Glivenki-Cantellego .
• Że twierdzenie prowadzi do dobrego przybliżenia rozkładu normalnego dla liczebności prób większych niż około 30, umożliwiając wiarygodne wnioskowanie niezależnie od charakteru populacji. W rzeczywistości ta empiryczna zasada nie ma żadnego uzasadnienia i może prowadzić do poważnych błędnych wniosków.

Związek z prawem wielkich liczb

Prawo wielkich liczb oraz centralne twierdzenie graniczne stanowią częściowe rozwiązania ogólnego problemu: „Jakie jest ograniczające zachowanie S _n , gdy n dąży do nieskończoności?” W analizie matematycznej szeregi asymptotyczne są jednym z najpopularniejszych narzędzi stosowanych do rozwiązywania takich problemów.

Załóżmy, że mamy asymptotyczną ekspansję : ${\textstyle f(n)$ }

$${\ Displaystyle f (n) = a_ {1} \ Varphi _ {1} (n) + a_ {2} \ Varphi _ {2} (n) + O {\ duży (} \ Varphi _ {3} (n ){\big )}\qquad (n\to \infty ).}$$

Dzielenie obu części przez φ ₁ ( n ) i przyjęcie granicy da 1 _jego , współczynnik składnika najwyższego rzędu w rozwinięciu, który reprezentuje szybkość, z jaką f ( n ) zmienia się w członie wiodącym.

$${\ Displaystyle \ lim _ {n \ do \ infty}} = a_ {1}.}$$

Nieformalnie można powiedzieć: „ f ( n ) rośnie w przybliżeniu jako 1 _φ 1 ₍ n ) ” . Biorąc różnicę między f ( n ) i jej przybliżenie, a następnie dzieląc przez kolejny wyraz w rozwinięciu, dochodzimy do bardziej wyrafinowanego stwierdzenia na temat f ( n ) :

$${\ Displaystyle \ lim _ {n \ do \ infty} {\ Frac {f (n) -a_ {1} \ Varphi _ {1} (n)} {\ Varphi _ {2} (n)}} = a_ {2}.}$$

Można tu powiedzieć, że różnica pomiędzy funkcją a jej przybliżeniem rośnie w przybliżeniu jako ₂ φ ₂ ( n ) . Pomysł jest taki, że podzielenie funkcji przez odpowiednie funkcje normalizujące i przyjrzenie się ograniczającemu zachowaniu wyniku może nam wiele powiedzieć o ograniczającym zachowaniu samej pierwotnej funkcji.

Nieformalnie coś podobnego dzieje się, gdy suma Sn _, niezależnych zmiennych losowych o identycznym rozkładzie, X ₁ , ..., X _n jest badana w klasycznej teorii prawdopodobieństwa. Jeśli każdy X _i ma skończoną średnią μ , to zgodnie z prawem wielkich liczb S _n / n → μ . Jeżeli dodatkowo każde X _i ma skończoną wariancję σ ² , to według centralnego twierdzenia granicznego

$${\ Displaystyle {\ Frac {S_ {n} -n \ mu} {\ sqrt {n}}} \ do \ xi,}$$

gdzie ξ rozkłada się jako N (0, σ ² ) . Zapewnia to wartości pierwszych dwóch stałych w nieformalnym rozwinięciu

$${\ Displaystyle S_ {n} \ około \ mu n + \ xi {\ sqrt {n}}.}$$

W przypadku, gdy X _i nie ma skończonej średniej lub wariancji, zbieżność przesuniętej i przeskalowanej sumy może również nastąpić przy różnych współczynnikach centrowania i skalowania:

$${\ Displaystyle {\ Frac {S_ {n} -a_ {n}} {b_ {n}}} \rightarrow \ Xi,}$$

lub nieformalnie

$${\ Displaystyle S_ {n} \ około a_ {n} + \ Xi b_ {n}.}$$

Rozkłady Ξ , które mogą powstać w ten sposób, nazywane są stabilnymi . Oczywiście rozkład normalny jest stabilny, ale istnieją również inne stabilne rozkłady, takie jak rozkład Cauchy'ego , dla których nie zdefiniowano średniej ani wariancji. Współczynnik skalujący c ≥ 1/2 być bn może _dowolnego proporcjonalny do nc ^; , dla można go również pomnożyć przez wolno zmieniającą się funkcję n .

Prawo logarytmu iterowanego określa, co dzieje się „pomiędzy” prawem wielkich liczb a centralnym twierdzeniem granicznym. W szczególności mówi, że funkcja normalizująca √ n log log n , o rozmiarze pośrednim pomiędzy n prawa wielkich liczb a √ n centralnego twierdzenia granicznego, zapewnia nietrywialne zachowanie ograniczające.

Alternatywne stwierdzenia twierdzenia

Funkcje gęstości

Gęstość sumy dwóch lub więcej zmiennych niezależnych jest splotem ich gęstości (jeśli takie gęstości istnieją) . Zatem centralne twierdzenie graniczne można interpretować jako stwierdzenie dotyczące właściwości funkcji gęstości w stanie splotu: splot szeregu funkcji gęstości zmierza do gęstości normalnej, gdy liczba funkcji gęstości rośnie bez ograniczeń. Twierdzenia te wymagają silniejszych hipotez niż podane powyżej formy centralnego twierdzenia granicznego. Twierdzenia tego typu nazywane są często lokalnymi twierdzeniami granicznymi. Zobacz Petrova, aby zapoznać się z konkretnym lokalnym twierdzeniem granicznym dla sum niezależne i jednakowo rozłożone zmienne losowe .

Funkcje charakterystyczne

Ponieważ funkcja charakterystyczna splotu jest iloczynem funkcji charakterystycznych zaangażowanych gęstości, centralne twierdzenie graniczne ma jeszcze jedno przekształcenie: iloczyn funkcji charakterystycznych szeregu funkcji gęstości zbliża się do funkcji charakterystycznej gęstości normalnej gdy liczba funkcji gęstości rośnie bez ograniczeń, w warunkach określonych powyżej. W szczególności należy zastosować odpowiedni współczynnik skalujący do argumentu funkcji charakterystycznej.

Równoważne stwierdzenie można sformułować na temat transformat Fouriera , ponieważ funkcja charakterystyczna jest zasadniczo transformatą Fouriera.

Obliczanie wariancji

Niech S _n będzie sumą n zmiennych losowych. Wiele centralnych twierdzeń granicznych zapewnia takie warunki, że S _n / √ Var( S _n ) zbiega się w rozkładzie do N (0,1) (rozkład normalny ze średnią 0, wariancja 1) jako n → ∞ . W niektórych przypadkach można znaleźć stałą σ ² i funkcję f(n) taką, że S _n /(σ √ n⋅f ( n ) ) zbiega się w rozkładzie do N (0,1) jako n → ∞ .

Lemat - Załóżmy $)$$\ nazwa operatora {E} (X_ {i}) = 0}$ rzeczywistych i ściśle stacjonarnych, w których dla wszystkich ${\ displaystyle ja}$ , $\ mathbb {R}$ } do ${\ Displaystyle S_ {n} = \ suma _ {i = 1} ^ {n} g \ lewo ({\ tfrac {i} {n}} \ prawo )X_{i}}$ . Skonstruować

$${\ Displaystyle \ sigma ^ {2} = \ nazwa operatora {E} (X_ {1} ^ {2 })+2\suma _{i=1}^{\infty }\nazwa operatora {E} (X_{1}X_{1+i})}$$

1. Jeśli ${\ Displaystyle \ suma _ {i = 1} ^ {\ infty} \ nazwa operatora {E} (X_ {1} X_ {1 + i})}$ jest absolutnie zbieżny, ${\ Displaystyle \ lewo | \ int _ {0} ^ {1} g (x) g '(x) \, dx \ prawo | <\ infty}$ i ${\ Displaystyle 0 <\ int _ {0}^ {1} (g (x)) ^ {2} dx <\ infty}$ wtedy ${\ Displaystyle \ operatorname {Var} (S_ {n}) / (n \ gamma _ {n}) \ do \ sigma ^ {2}}$ jak ${\ displaystyle n \ do \infty }$ gdzie ${\ Displaystyle \ gamma _ {n} = {\ Frac {1} {n}} \ suma _ {i = 1} ^ {n} \ lewo (g \ lewy({\tfrac {i}{n}}\prawy)\prawy)^{2}}$ .
2. Jeśli dodatkowo $r$${\ Displaystyle S_ {n} / {\ sqrt {\ operatorname {Var} (S_ {n})}$ zbiega się w rozkładzie do ${\ Displaystyle {\ mathcal {N}} (0,1)}$ jak ${\ Displaystyle n \ do \ infty}$ wtedy ${\ Displaystyle S_ {n} / (\ sigma {\ sqrt {n \ gamma _ {n}}}}}$ również zbiega się w dystrybucji do ${\ Displaystyle {\ mathcal {N}} (0,1 )}$ jak $infty}$ \

Rozszerzenia

Iloczyny dodatnich zmiennych losowych

Logarytm iloczynu to po prostu suma logarytmów czynników. Dlatego też, gdy logarytm iloczynu zmiennych losowych, które przyjmują tylko wartości dodatnie, zbliża się do rozkładu normalnego, sam iloczyn zbliża się do rozkładu logarytmiczno-normalnego . Wiele wielkości fizycznych (zwłaszcza masa lub długość, które są kwestią skali i nie mogą być ujemne) są iloczynami różnych losowych , zatem mają rozkład logarytmiczno-normalny. Ta multiplikatywna wersja centralnego twierdzenia granicznego jest czasami nazywana prawem Gibrata .

Podczas gdy centralne twierdzenie graniczne dla sum zmiennych losowych wymaga warunku skończonej wariancji, odpowiadające mu twierdzenie dla iloczynów wymaga odpowiedniego warunku, aby funkcja gęstości była całkowalna do kwadratu.

Poza klasycznymi ramami

Asymptotyczna normalność, czyli zbieżność do rozkładu normalnego po odpowiednim przesunięciu i przeskalowaniu, jest zjawiskiem znacznie bardziej ogólnym niż omówiony powyżej klasyczny układ, czyli sumy niezależnych zmiennych losowych (lub wektorów). Od czasu do czasu ujawniane są nowe ramy; na razie nie jest dostępna żadna pojedyncza struktura ujednolicająca.

Korpus wypukły

Twierdzenie — Istnieje ciąg ε _n ↓ 0 , dla którego zachodzi następujące twierdzenie. Niech n ≥ 1 i niech zmienne losowe X ₁ , ..., X _n mają logarytmicznie wklęsłą gęstość spoiny f taką, że f ( x ₁ , ..., x _n ) = f (| x ₁ |, .. ., | x _n |) dla wszystkich x ₁ , ..., x _n i E( X
² _k ) = 1 dla wszystkich k = 1, ..., n . Następnie dystrybucja

$${\ Displaystyle {\ Frac {X_ {1} + \ cdots + X_ {n}} {\ sqrt {n}}}}$$

wynosi ε _n -blisko ${\textstyle {\mathcal {N}}(0,1)}$ całkowitej odległości zmiany .

Te dwa rozkłady ε _n -bliskie mają gęstości (w rzeczywistości gęstości logarytmiczno-wklęsłe), zatem całkowita odległość wariancji między nimi jest całką z wartości bezwzględnej różnicy między gęstościami. Zbieżność w całkowitej zmienności jest silniejsza niż słaba zbieżność.

Ważnym przykładem gęstości log-wklęsłej jest funkcja stała wewnątrz danego ciała wypukłego i zanikająca na zewnątrz; odpowiada to równomiernemu rozkładowi na ciele wypukłym, co wyjaśnia termin „centralne twierdzenie graniczne dla ciał wypukłych”.

Inny przykład: f ( x ₁ , ..., x _n ) = const · exp(−(| x ₁ | ^α + ⋯ + | x _n | ^α ) ^β ) gdzie α > 1 i αβ > 1 . Jeśli β = 1 , to f ( x ₁ , ..., x _n ) rozkłada się na czynniki na const · exp (−| x ₁ | ^α ) … exp(−| x _n | ^α ), co oznacza, że ​​X ₁ , ..., X _n są niezależne. Generalnie jednak są one zależne.

Warunek f ( x ₁ , ..., x _n ) = f (| x ₁ |, ..., | x _n |) gwarantuje, że X ₁ , ..., X _n mają średnią zerową i są nieskorelowane ; mimo to nie muszą być niezależne, ani nawet niezależne parami . Nawiasem mówiąc, niezależność parami nie może zastąpić niezależności w klasycznym centralnym twierdzeniu granicznym.

Oto wynik typu Berry-Esseen .

Twierdzenie — Niech zatem X ₁ , ..., X _n spełniają założenia poprzedniego twierdzenia

$${\ Displaystyle \ lewo | \ mathbb {P} \ lewo (a \ równoważnik {\ Frac {X_ {1} + \ cdots + X_ {n}} \ \ sqrt {n}}} \ równoważnik b \ prawo )-{\frac {1}{\sqrt {2\pi }}}\int _{a}^{b}e^{-{\frac {1}{2}}t^{2}}\, dt\right|\leq {\frac {C} {n}}}$$

dla wszystkich a < b ; tutaj C jest uniwersalną (absolutną) stałą . Ponadto dla każdego c ₁ , ..., do _n ∈ R takiego, że ^{do 2}
₊ 1 ⋯ + do
² _n = 1 ,

$${\ Displaystyle \ lewo | \ mathbb {P} \ lewo (a \ równoważnik c_ {1} X_ {1} + \ cdots + c_ {n} X_ {n} \ równoważnik b \ prawo) - {\ Frac {1} {\sqrt {2\pi }}}\int _{a}^{b}e^{-{\frac {1}{2}}t^{2}}\,dt\right|\leq C\ lewy(c_{1}^{4}+\kropki +c_{n}^{4}\prawy).}$$

Rozkład X ₁ + ⋯ + X _n / √ n nie musi być w przybliżeniu normalny (w rzeczywistości może być równomierny). Jednak rozkład do 1 _X 1 + ⋯ + _do n X _{n jest} bliski (w całkowitej odległości zmiany) dla większości wektorów ${\textstyle {\mathcal {N}}(0,1)}$ ( do ₁ , ..., do _n ) według równomiernego rozkładu na kuli c
² ₁ + ⋯ + do
² _n = 1 .

Lakunarne szeregi trygonometryczne

Twierdzenie ( Salem – Zygmund ) — Niech U będzie zmienną losową o rozkładzie jednostajnym na (0,2π) , oraz X _k = r _k cos( n _k U + a _k ) , gdzie

• n _k spełniają warunek lakunarności: istnieje q > 1 takie, że n _{k + 1} ≥ qn _k dla wszystkich k ,
• r _k są takie, że
  $${\ displaystyle r_ {1} ^ {2} + r_ {2} ^ {2} + \ cdots = \infty \quad {\text{ i }}\quad {\frac {r_{k}^{2}}{r_{1}^{2}+\cdots +r_{k}^{2}}}\ do 0,}$$
• 0 ≤ a _k < 2π .

Następnie

$${\ Displaystyle {\ Frac {X_ {1} + \ cdots + X_ {k}} {\ sqrt {r_ {1} ^ {2} + \ cdots +r_{k}^{2}}}}}$$

zbiega się w rozkładzie do ${\ Textstyle {\ mathcal {N}} {\ duży (} 0, {\ Frac {1} {2}} {\ duży)}}$ .

Polytopy Gaussa

Twierdzenie — Niech A ₁ , ..., An _n będą niezależnymi punktami losowymi na płaszczyźnie R ² , z których każdy ma dwuwymiarowy standardowy rozkład normalny. Niech K _n będzie wypukłą powłoką tych punktów, a X _n polem K _n Wtedy

$${\ Displaystyle {\ Frac {X_ {n} - \ operatorname {E} (X_ {n})} {\ sqrt {\ operatorname {Var} (X_ {N})}}}}$$

$zbiega$ się w rozkładzie gdy do

To samo dotyczy wszystkich wymiarów większych niż 2.

Polytop K _{n nazywany} jest losowym Polytopem Gaussa.

Podobny wynik dotyczy liczby wierzchołków (polytopu Gaussa), liczby krawędzi i właściwie ścian wszystkich wymiarów.

Funkcje liniowe macierzy ortogonalnych

Funkcja liniowa macierzy M jest liniową kombinacją jej elementów (o podanych współczynnikach), M ↦ tr( AM ) gdzie A jest macierzą współczynników; zobacz Ślad (algebra liniowa) #Iloczyn wewnętrzny .

losowa macierz ortogonalna ma rozkład jednostajny, jeśli jej rozkład jest znormalizowaną miarą Haara na grupie ortogonalnej O( n , R ) ; zobacz Macierz rotacji # Jednolite losowe macierze rotacji .

Twierdzenie — Niech M będzie losową ortogonalną macierzą n × n o rozkładzie równomiernym, a A stałą macierzą n × n taką, że tr( AA *) = n i niech X = tr( AM ) . Następnie rozkład X jest bliski całkowitej metryki zmienności aż do ${\textstyle {\mathcal {N}}(0,1)}$ 2 √ 3 / n - 1 .

Podciągi

Twierdzenie — Niech zmienne losowe X ₁ , X ₂ , ... ∈ L ₂ (Ω) będą takie, że X _n → 0 słabo w L ₂ (Ω) i X
_n → 1 słabo w L ₁ (Ω) . Wtedy istnieją liczby całkowite n ₁ < n ₂ < ⋯ takie, że

$${\ Displaystyle {\ Frac {X_ {n_ {1}} + \ cdots + X_ {n_ {k}}} {\ sqrt {k}}}}$$

$się$ w gdy k .

Losowy spacer po sieci kryształowej

Centralne twierdzenie graniczne można ustalić dla prostego błądzenia losowego po sieci krystalicznej (nieskończenie krotny abelowy wykres pokrywający graf skończony) i służy do projektowania struktur krystalicznych.

Zastosowania i przykłady

Prostym przykładem centralnego twierdzenia granicznego jest rzut wieloma identycznymi, bezstronnymi kostkami. Rozkład sumy (lub średniej) wyrzuconych liczb będzie dobrze przybliżony rozkładem normalnym. Ponieważ ilości w świecie rzeczywistym są często zrównoważoną sumą wielu niezaobserwowanych zdarzeń losowych, centralne twierdzenie graniczne zapewnia również częściowe wyjaśnienie przewagi normalnego rozkładu prawdopodobieństwa. Uzasadnia to także przybliżanie statystyk dużych prób do rozkładu normalnego w kontrolowanych eksperymentach.

Porównanie funkcji gęstości prawdopodobieństwa p ( k ) dla sumy n uczciwych kości 6-ściennych w celu wykazania ich zbieżności do rozkładu normalnego wraz ze wzrostem n , zgodnie z centralnym twierdzeniem granicznym. Na wykresie w prawym dolnym rogu wygładzone profile poprzednich wykresów zostały przeskalowane, nałożone i porównane z rozkładem normalnym (czarna krzywa).

Rysunek ten przedstawia centralne twierdzenie graniczne. Średnie próbki są generowane przy użyciu generatora liczb losowych, który losuje liczby od 0 do 100 z jednolitego rozkładu prawdopodobieństwa. Pokazuje, że zwiększenie wielkości próby powoduje, że 500 zmierzonych średnich próbek jest bliżej rozłożonych wokół średniej populacji (w tym przypadku 50). Porównuje także zaobserwowane rozkłady z rozkładami, których można by oczekiwać dla znormalizowanego rozkładu Gaussa i pokazuje chi-kwadrat , które określają ilościowo dobroć dopasowania (dopasowanie jest dobre, jeśli zredukowany współczynnik chi-kwadrat wartość jest mniejsza lub w przybliżeniu równa jeden). Dane wejściowe do znormalizowanej funkcji Gaussa to średnia średnich z próbki (~50) i średnie odchylenie standardowe próbki podzielone przez pierwiastek kwadratowy z wielkości próbki (~28,87/ √ n ), co nazywa się odchyleniem standardowym średniej ( ponieważ odnosi się do rozrzutu średnich z próby).

Kolejna symulacja z wykorzystaniem rozkładu dwumianowego. Wygenerowano losowe wartości 0 i 1, a następnie obliczono ich średnie dla próbek o liczebności od 1 do 512. Należy zauważyć, że wraz ze wzrostem wielkości próbki ogony stają się cieńsze, a rozkład staje się bardziej skoncentrowany wokół średniej.

Regresja

Analiza regresji , a w szczególności zwykła metoda najmniejszych kwadratów, określa, że ​​zmienna zależna zależy, zgodnie z pewną funkcją, od jednej lub większej liczby zmiennych niezależnych , z dodatkiem błędu . Różne rodzaje wnioskowania statystycznego na temat regresji zakładają, że składnik błędu ma rozkład normalny. Założenie to można uzasadnić założeniem, że składnik błędu jest w rzeczywistości sumą wielu niezależnych składników błędu; nawet jeśli poszczególne składniki błędu nie mają rozkładu normalnego, dzięki centralnemu twierdzeniu granicznemu ich sumę można dobrze przybliżyć rozkładem normalnym.

Inne ilustracje

Główny artykuł: Ilustracja centralnego twierdzenia granicznego

Biorąc pod uwagę jego znaczenie dla statystyki, dostępnych jest wiele artykułów i pakietów komputerowych, które demonstrują zbieżność związaną z centralnym twierdzeniem granicznym.

Historia

Holenderski matematyk Henk Tijms pisze:

Centralne twierdzenie graniczne ma ciekawą historię. Pierwsza wersja tego twierdzenia została postulowana przez urodzonego we Francji matematyka Abrahama de Moivre , który w niezwykłym artykule opublikowanym w 1733 roku wykorzystał rozkład normalny do przybliżenia rozkładu liczby orłów wynikających z wielu rzutów uczciwą monetą. Odkrycie to znacznie wyprzedziło swoje czasy i zostało prawie zapomniane, dopóki słynny francuski matematyk Pierre-Simon Laplace nie wybawił go z zapomnienia w swoim monumentalnym dziele Théorie analytique des probabilités , opublikowany w 1812 r. Laplace rozszerzył ustalenia De Moivre'a, przybliżając rozkład dwumianowy do rozkładu normalnego. Jednak podobnie jak w przypadku De Moivre’a, odkryciu Laplace’a w jego czasach nie poświęcono zbyt wiele uwagi. Znaczenie centralnego twierdzenia granicznego dostrzeżono dopiero pod koniec XIX wieku, kiedy w 1901 roku rosyjski matematyk Aleksandr Lapunow zdefiniował je w sposób ogólny i dokładnie udowodnił, jak działa ono matematycznie. Obecnie centralne twierdzenie graniczne uważane jest za nieoficjalnego władcę teorii prawdopodobieństwa.

Sir Francis Galton tak opisał Centralne Twierdzenie Graniczne:

Nie znam nic, co tak wywierałoby wpływ na wyobraźnię, jak cudowna forma kosmicznego porządku wyrażona przez „Prawo częstotliwości błędów”. Prawo zostałoby uosobione przez Greków i ubóstwione, gdyby o nim wiedzieli. Króluje ze spokojem i całkowitym zatarciem, pośród najdzikszego zamieszania. Im większy tłum i im większa pozorna anarchia, tym doskonalsza jest jego władza. Jest to najwyższe prawo nierozsądku. Ilekroć bierze się do ręki dużą próbkę elementów chaotycznych i porządkuje według ich wielkości, niespodziewana i najpiękniejsza forma regularności okazuje się przez cały czas ukryta.

Właściwy termin „centralne twierdzenie graniczne” (w języku niemieckim: „zentraler Grenzwertsatz”) został po raz pierwszy użyty przez George'a Pólyę w 1920 r. w tytule artykułu. Pólya nazwał twierdzenie „centralnym” ze względu na jego znaczenie w teorii prawdopodobieństwa. Według Le Cama francuska szkoła prawdopodobieństwa interpretuje słowo centralny w tym sensie, że „opisuje zachowanie środka rozkładu, a nie jego ogonów”. Streszczenie artykułu O centralnym twierdzeniu granicznym rachunku prawdopodobieństwa i problemie momentów autorstwa Pólyi z 1920 r. tłumaczy się następująco.

Występowanie gęstości prawdopodobieństwa Gaussa 1 = e ^{− x 2} w powtarzanych eksperymentach, w błędach pomiarów skutkujących kombinacją bardzo wielu i bardzo małych błędów elementarnych, w procesach dyfuzji itp. można wyjaśnić, jak dobrze- znane z tego samego twierdzenia granicznego, które odgrywa kluczową rolę w rachunku prawdopodobieństwa. Rzeczywisty odkrywca tego twierdzenia granicznego ma nazywać się Laplace; jest prawdopodobne, że jego rygorystyczny dowód został po raz pierwszy przedstawiony przez Tschebyscheffa, a jego najostrzejsze sformułowanie można znaleźć, o ile mi wiadomo, w artykule Liapounoffa . ...

Hald dostarcza dokładnego opisu historii twierdzenia, szczegółowo opisującego podstawowe prace Laplace'a, a także wkład Cauchy'ego , Bessela i Poissona . Dwie relacje historyczne, jedna obejmująca rozwój od Laplace'a do Cauchy'ego, druga wkład von Misesa , Pólyi , Lindeberga , Lévy'ego i Craméra w latach dwudziestych XX wieku podaje Hans Fischer. Le Cam opisuje okres około 1935 roku. Bernstein przedstawia dyskusję historyczną skupiającą się na twórczości Pafnuty'ego Czebyszewa i jego uczniów Andrieja Markowa i Aleksandra Łapunowa , która doprowadziła do pierwszych dowodów CLT w kontekście ogólnym.

Ciekawym przypisem do historii Centralnego Twierdzenia Granicznego jest to, że dowód wyniku podobnego do CLT Lindeberga z 1922 r. był tematem rozprawy doktorskiej Alana Turinga z 1934 r. o stypendium w King's College na Uniwersytecie w Cambridge . Dopiero po przesłaniu pracy Turing dowiedział się, że zostało to już udowodnione. W rezultacie rozprawa Turinga nie została opublikowana.

Zobacz też

• Właściwość asymptotycznej ekwipartycji
• Rozkład asymptotyczny
• Dystrybucja Batesa
• Prawo Benforda – Wynik rozszerzenia CLT na iloczyn zmiennych losowych.
• Twierdzenie Berry’ego – Esseena
• Centralne twierdzenie graniczne dla statystyki kierunkowej – Centralne twierdzenie graniczne zastosowane w przypadku statystyki kierunkowej
• Metoda delta – do obliczania rozkładu granicznego funkcji zmiennej losowej.
• Twierdzenie Erdősa – Kaca – łączy liczbę czynników pierwszych liczby całkowitej z normalnym rozkładem prawdopodobieństwa
• Twierdzenie Fishera – Tippetta – Gnedenko – twierdzenie graniczne dla wartości ekstremalnych (takich jak max{ X _n } )
• Rozkład Irwina – Halla
• Centralne twierdzenie graniczne łańcucha Markowa
• Normalna dystrybucja
• Twierdzenie Tweediego o zbieżności - twierdzenie, które można uznać za pomost między centralnym twierdzeniem granicznym a twierdzeniem o zbieżności Poissona

Notatki

•   Bárány, Imre ; Vu, Van (2007). „Centralne twierdzenia graniczne dla wielotopów Gaussa”. Roczniki prawdopodobieństwa . Instytut Statystyki Matematycznej. 35 (4): 1593–1621. arXiv : math/0610192 . doi : 10.1214/009117906000000791 . S2CID 9128253 .
•   Bauera, Heinza (2001). Teoria miary i integracji . Berlin: de Gruytera. ISBN 3110167190 .
•   Billingsley, Patrick (1995). Prawdopodobieństwo i miara (wyd. 3). Johna Wileya i synów. ISBN 0-471-00710-2 .
•   Bradley, Richard (2005). „Podstawowe właściwości silnych warunków mieszania. Ankieta i kilka pytań otwartych”. Badania prawdopodobieństwa . 2 : 107–144. arXiv : math/0511078 . Bibcode : 2005math.....11078B . doi : 10.1214/154957805100000104 . S2CID 8395267 .
•   Bradley, Richard (2007). Wprowadzenie do silnych warunków mieszania (wyd. 1). Heber City, Utah: Kendrick Press. ISBN 978-0-9740427-9-4 .
•    Dinow, Iwo; Christou, Nicolas; Sanchez, Juana (2008). „Centralne twierdzenie graniczne: nowy aplet SOCR i aktywność demonstracyjna” . Journal of Statystyka Edukacji . JAK. 16 (2): 1–15. doi : 10.1080/10691898.2008.11889560 . PMC 3152447 . PMID 21833159 . Zarchiwizowane od oryginału w dniu 2016-03-03 . Źródło: 23.08.2008 .
•   Durrett, Richard (2004). Prawdopodobieństwo: teoria i przykłady (wyd. 3). Wydawnictwo Uniwersytetu Cambridge. ISBN 0521765390 .
•     Fischer, Hans (2011). Historia centralnego twierdzenia granicznego: od klasycznej do współczesnej teorii prawdopodobieństwa (PDF) . Źródła i opracowania z historii matematyki i nauk fizycznych. Nowy Jork: Springer. doi : 10.1007/978-0-387-87857-7 . ISBN 978-0-387-87856-0 . MR 2743162 . Zbl 1226.60004 . Zarchiwizowane (PDF) od oryginału w dniu 31.10.2017 r.
•   Gaposzkin, VF (1966). „Seria Lacunary i funkcje niezależne”. Rosyjskie badania matematyczne . 21 (6): 1–82. Kod Bib : 1966RuMaS..21....1G . doi : 10.1070/RM1966v021n06ABEH001196 . S2CID 250833638 . .
•   Klartag, Bo'az (2007). „Centralne twierdzenie graniczne dla zbiorów wypukłych”. Wynalazki matematyczne . 168 (1): 91–131. arXiv : math/0605014 . Bibcode : 2007InMat.168...91K . doi : 10.1007/s00222-006-0028-8 . S2CID 119169773 .
•   Klartag, Bo’az (2008). „Nierówność typu Berry’ego – Esseena dla ciał wypukłych o bezwarunkowej podstawie”. Teoria prawdopodobieństwa i dziedziny pokrewne . 145 (1–2): 1–33. arXiv : 0705.0832 . doi : 10.1007/s00440-008-0158-6 . S2CID 10163322 .

Linki zewnętrzne

• Centralne twierdzenie graniczne w Khan Academy
• „Centralne twierdzenie graniczne” , Encyklopedia matematyki , EMS Press , 2001 [1994]
• Weisstein, Eric W. „Centralne twierdzenie graniczne” . Świat Matematyki .
• Teledysk przedstawiający centralne twierdzenie graniczne z tablicą Galtona autorstwa Carla McTague'a