Warunkowanie (prawdopodobieństwo)

Przekonania zależą od dostępnych informacji. Pomysł ten jest sformalizowany w teorii prawdopodobieństwa przez warunkowanie . Prawdopodobieństwa warunkowe , oczekiwania warunkowe i rozkłady prawdopodobieństwa warunkowego są rozpatrywane na trzech poziomach: prawdopodobieństwa dyskretne , funkcje gęstości prawdopodobieństwa i teoria miary . Warunkowanie prowadzi do nielosowego wyniku, jeśli warunek jest całkowicie określony; w przeciwnym razie, jeśli warunek pozostanie losowy, wynik warunkowania również jest losowy.

Kondycjonowanie na poziomie dyskretnym

Przykład: Rzuca się 10 razy uczciwą monetą; zmienna losowa X to liczba orłów w tych 10 rzutach, a Y to liczba orłów w pierwszych 3 rzutach. Pomimo tego, że Y pojawia się przed X, może się zdarzyć, że ktoś zna X , ale nie Y.

Warunkowe prawdopodobieństwo

Główny artykuł: prawdopodobieństwo warunkowe

Biorąc pod uwagę, że X = 1, prawdopodobieństwo warunkowe zdarzenia Y = 0 wynosi

${\ Displaystyle \ mathbb {P} (Y = 0 | X = 1) = {\ Frac {\ mathbb {P} (Y=0,X=1)}{\mathbb {P} (X=1)}}=0,7}$

Bardziej ogólnie,

${\ Displaystyle {\ rozpocząć {wyrównane} \ mathbb {P} ( Y=0|X=x)&={\frac {\binom {7}{x}}{\binom {10}{x}}}={\frac {7!(10-x)!}{( 7-x)!10!}}&&x=0,1,2,3,4,5,6,7.\\[4pt]\mathbb {P} (Y=0|X=x)&=0&&x= 8,9,10.\end{wyrównane}}}$

Prawdopodobieństwo warunkowe można też traktować jako zmienną losową, — funkcję zmiennej losowej X , a mianowicie:

${\ Displaystyle \ mathbb {P} (Y = 0 | X) = {\ rozpocząć {przypadki} {\ binom {7}{X}}/{\binom {10}{X}}&X\leqslant 7,\\0&X>7.\end{przypadki}}}$

Oczekiwanie tej zmiennej losowej jest równe (bezwarunkowemu) prawdopodobieństwu ,

${\ Displaystyle \ mathbb {E} (\ mathbb {P} ( Y=0|X))=\suma _{x}\mathbb {P} (Y=0|X=x)\mathbb {P} (X=x)=\mathbb {P} (Y=0), }$

mianowicie,

${\ Displaystyle \ suma _ {x = 0} ^ {7} {\ Frac {\ binom {7} {x }}{\binom {10}{x}}}\cdot {\frac {1}{2^{10}}}{\binom {10}{x}}={\frac {1}{8}} ,}$

co jest przykładem prawa całkowitego prawdopodobieństwa ${\ Displaystyle \ mathbb {E} (\ mathbb {P} (A | X)) = \ mathbb {P} (A).}$

Zatem ${\ Displaystyle \ mathbb {P} (Y = 0 | X = 1)}$ może być traktowane jako wartość zmiennej losowej ${\ Displaystyle \ mathbb {P} (Y=0|X)}$ odpowiadające X = 1. Z drugiej strony ${\ Displaystyle \ mathbb {P} (Y = 0 | X = 1)}$ jest dobrze zdefiniowany niezależnie od innych możliwych wartości X .

Oczekiwanie warunkowe

Główny artykuł: warunkowe oczekiwanie

Biorąc pod uwagę, że X = 1, warunkowe oczekiwanie zmiennej losowej Y wynosi ${\ Displaystyle \ mathbb {E} (Y | X = 1) = {\ tfrac {3} {10 }}}$ Bardziej ogólnie,

${\ Displaystyle \ mathbb {E} (Y | X = x) = {\ Frac {3} {10}} x, \ qquad x=0,\ldkropki ,10.}$

(W tym przykładzie wydaje się, że jest to funkcja liniowa, ale generalnie jest nieliniowa). Warunkowe oczekiwanie można również traktować jako zmienną losową — funkcję zmiennej losowej X , a mianowicie :

${\ Displaystyle \ mathbb {E} (Y | X) = {\ Frac {3} {10}} X.}$

Oczekiwanie tej zmiennej losowej jest równe (bezwarunkowemu) oczekiwaniu Y ,

${\ Displaystyle \ mathbb {E} (\ mathbb {E} (Y | X ))=\suma _{x}\mathbb {E} (Y|X=x)\mathbb {P} (X=x)=\mathbb {E} (Y),}$

mianowicie,

${\ Displaystyle \ suma _ {x = 0} ^ {10} {\ Frac {3} {10}} x \ cdot {\ Frac {1}{2^{10}}}{\binom {10}{x}}={\frac {3}{2}},}$

lub po prostu

${\ Displaystyle \ mathbb {E} \ lewo ({\ Frac {3} {10}} X \ prawej) = {\ frac {3}{10}}\mathbb {E} (X)={\frac {3}{10}}\cdot 5={\frac {3}{2}},}$

co jest przykładem prawa całkowitego oczekiwania ${\ Displaystyle \ mathbb {E} (\ mathbb {E} (Y | X)) = \ mathbb {E} (Y).}$

Zmienna $_$ Y przy danym _ _ $że$ błąd zmiennych postaci f X ). Ta klasa zmiennych losowych pozostaje nienaruszona, jeśli X zostanie zastąpione, powiedzmy, przez 2 X . Zatem ${\ Displaystyle \ mathbb {E} (Y|2X) = \ mathbb {E} (Y|X).} Nie$ oznacza to, że ${\ Displaystyle \ mathbb {E} (Y | 2X) = {\ tfrac {3} {10}} \ razy 2X;}$ raczej ${\ Displaystyle \ mathbb {E} (Y | 2X) = {\ tfrac {3} {20}} \ razy 2X = {\ tfrac {3} {10}} X.}$ W szczególności ${\ Displaystyle \ mathbb {E} (Y | 2X = 2) = {\ tfrac {3} {10}}.}$ Bardziej ogólnie, ${\ Displaystyle \mathbb {E} (Y|g(X))=\mathbb {E} (Y|X)}$ dla każdej funkcji g , która jest jeden do jednego na zbiorze wszystkich możliwych wartości X . Wartości X są nieistotne; liczy się partycja (oznacz ją α _X )

${\ Displaystyle \ Omega = \ {X = x_ {1} \} \ uplus \ {X = x_ {2} \} \ uplus \ kropki}$

przestrzeni próbki Ω na zbiory rozłączne { X = x _n }. (Tutaj ${\ Displaystyle x_ {1}, x_ {2}, \ ldots}$ są wszystkimi możliwymi wartościami X .) Biorąc pod uwagę dowolny podział α z Ω, można zdefiniować zmienną losową E ( Y | α ). Mimo to mi ( mi ( Y | α)) = mi ( Y ).

Prawdopodobieństwo warunkowe można traktować jako szczególny przypadek warunkowego oczekiwania. Mianowicie, P ( | X ) = E ( Y | X ) A , jeśli Y jest wskaźnikiem A . Dlatego prawdopodobieństwo warunkowe zależy również od podziału α _X generowanego przez X , a nie od samego X ; P. ( ZA | sol ( X ) ) = P. ( ZA | X ) = P. ( ZA | α), α = α _X = α _{sol ( X )} .

Z drugiej strony uwarunkowanie zdarzenia $dobrze$ jest zdefiniowane, pod warunkiem, że jakiejkolwiek partycji, która może jako jedną kilka części.

Dystrybucja warunkowa

Główny artykuł: Warunkowy rozkład prawdopodobieństwa

Biorąc pod uwagę X = x, rozkład warunkowy Y wynosi

${\ Displaystyle \ mathbb {P} (Y=y|X=x)={\frac {{\binom {3}{y}}{\binom {7}{xy}}}{\binom {10}{x}}}={\frac {{\binom {x}{y}}{\binom {10-x}{3-y}}}{\binom {10}{3}}}}$

dla 0 ≤ y ≤ min ( 3, x ). Jest to rozkład hipergeometryczny H ( x ; 3, 7 ) lub równoważnie H ( 3; x , 10- x ). Odpowiednie oczekiwanie 0,3 x , otrzymane ze wzoru ogólnego

${\ Displaystyle n {\ Frac {R} {R + W}}}$

dla H ( n ; R , W ) jest niczym innym jak oczekiwaniem warunkowym E ( Y | X = x ) = 0,3 x .

Traktując H ( X ; 3, 7 ) jako rozkład losowy (wektor losowy w czterowymiarowej przestrzeni wszystkich miar na {0,1,2,3}), można przyjąć jego oczekiwanie, otrzymując bezwarunkowy rozkład Y , — rozkład dwumianowy Bin ( 3, 0,5 ). Fakt ten sprowadza się do równości

${\ Displaystyle \ suma _ {x = 0} ^ {10} \mathbb {P} (Y=y|X=x)\mathbb {P} (X=x)=\mathbb {P} (Y=y)={\frac {1}{2^{3}}} {\binom {3}{y}}}$

dla y = 0,1,2,3; co jest przykładem prawa całkowitego prawdopodobieństwa .

Warunkowanie na poziomie gęstości

Główne artykuły: Funkcja gęstości prawdopodobieństwa i Warunkowy rozkład prawdopodobieństwa

Przykład . Punkt kuli x ² + y ² + z ² = 1 jest wybierany losowo zgodnie z rozkładem równomiernym na kuli . Zmienne losowe X , Y , Z są współrzędnymi losowego punktu. Gęstość stawów X , Y , Z nie istnieje (ponieważ kula ma zerową objętość), ale gęstość stawów f _{X , Y} z X , Y istnieje,

${\ Displaystyle f_ {X, Y} (x, y) = {\ rozpocząć {przypadki} {\ Frac {1} {2 \ pi {\ sqrt {1-x ^ {2} -y ^ {2}}} }}&{\text{if }}x^{2}+y^{2}<1,\\0&{\text{inaczej}}.\end{przypadki}}}$

(Gęstość nie jest stała z powodu niestałego kąta między kulą a płaszczyzną ). Gęstość X można obliczyć przez całkowanie,

${\ Displaystyle f_ {X} (x) = \ int _ {- \ infty} ^ {+ \ infty} f_ {X, Y} (x, y) \, \ operatorname {d} y = \ int _ {- {\sqrt {1-x^{2}}}}^{+{\sqrt {1-x^{2}}}}{\frac {\mathrm {d} y}{2\pi {\sqrt { 1-x^{2}-y^{2}}}}}\,;}$

co zaskakujące, wynik nie zależy od x w (−1,1),

${\ Displaystyle f_ {X} (x) = {\ rozpocząć {przypadki} 0,5 i {\ tekst {dla}} -1 <x <1 ,\\0&{\text{inaczej}},\end{przypadki}}}$

co oznacza, że ​​X jest równomiernie rozłożony na (-1,1). To samo odnosi się do Y i Z (i faktycznie do aX + bY + cZ , ilekroć a ² + b ² + c ² = 1).

Przykład . Poniżej przedstawiono inną miarę obliczania funkcji dystrybucji krańcowej

${\ Displaystyle f_ {X, Y, Z} (x, y, z) = {\ Frac {3} {4 \ pi}}}$

${\ Displaystyle f_ {X} (x) = \ int _ {- {\ sqrt {1-y ^ {2} -x ^ {2}}}} ^ {+ {\ sqrt {1-y ^ {2} -x^{2}}}}\int _{-{\sqrt {1-x^{2}}}}^{+{\sqrt {1-x^{2}}}}{\frac {3 \mathrm {d} y\ operatorname {d} z}{4\pi }}=3{\sqrt {1-x^{2}}}/4\,;}$

Warunkowe prawdopodobieństwo

Obliczenie

Biorąc pod uwagę, że X = 0,5, prawdopodobieństwo warunkowe zdarzenia Y ≤ 0,75 jest całką gęstości warunkowej,

${\ Displaystyle f_ {Y | X = 0,5} (y) = {\ Frac {f_ {X, Y} (0,5, y)} {f_ {X} (0,5)}} = {\ rozpocząć {przypadki} {\ frac {1}{\pi {\sqrt {0,75-y^{2}}}}}&{\text{for}}-{\sqrt {0,75}}<y<{\sqrt {0,75}},\ \0&{\text{inaczej}}.\end{przypadki}}}$

${\ Displaystyle \ mathbb {P} (Y \ równoważnik 0,75 | X = 0,5) = \ int _ {- \ infty} ^ {0,75} f_ {Y | X = 0,5} (y) \, \ operatorname {d} y =\int _{-{\sqrt {0,75}}}^{0,75}{\frac {\mathrm {d} y}{\pi {\sqrt {0,75-y^{2}}}}}={\ tfrac {1}{2}}+{\tfrac {1}{\pi}}\arcsin {\sqrt {0.75}}={\tfrac {5}{6}}.}$

Bardziej ogólnie,

${\ Displaystyle \ mathbb {P} (Y \ równoważnik y | X = x) = {\ tfrac {1} {2} }}+{\tfrac {1}{\pi}}\arcsin {\frac {y}{\sqrt {1-x^{2}}}}}$

dla wszystkich x i y takie, że -1 < x <1 (w przeciwnym razie mianownik fa _X ( x ) znika) i ${\ Displaystyle \ textstyle - {\ sqrt {1-x ^{2}}}<y<{\sqrt {1-x^{2}}}}$ (w przeciwnym razie prawdopodobieństwo warunkowe spada do 0 lub 1). Prawdopodobieństwo warunkowe można też traktować jako zmienną losową, — funkcję zmiennej losowej X , a mianowicie:

${\ Displaystyle \ mathbb {P} (Y \ równoważnik y | X) = {\ rozpocząć {przypadki} 0 i {\ tekst {dla}} X ^ {2} \ geq 1-y ^ { 2}{\text{ i }}y<0,\\{\frac {1}{2}}+{\frac {1}{\pi}}\arcsin {\frac {y}{\sqrt {1 -X^{2}}}}&{\text{for }}X^{2}<1-y^{2},\\1&{\text{for }}X^{2}\geq 1- y^{2}{\text{ i }}y>0.\end{przypadki}}}$

Oczekiwanie tej zmiennej losowej jest równe (bezwarunkowemu) prawdopodobieństwu,

${\ Displaystyle \ mathbb {E} (\mathbb {P} (Y\leq y|X))=\int _{-\infty }^{+\infty }\mathbb {P} (Y\leq y|X=x)f_{X}( x)\,\mathrm {d} x=\mathbb {P} (Y\leq y),}$

co jest przykładem prawa całkowitego prawdopodobieństwa E ( P ( A | X ) ) = P ( A ).

Interpretacja

Prawdopodobieństwo warunkowe P ( Y ≤ 0,75 | X = 0,5 ) nie może być interpretowane jako P ( Y ≤ 0,75, X = 0,5 ) / P ( X = 0,5 ), ponieważ to drugie daje 0/0. W związku z tym P ( Y ≤ 0,75 | X = 0,5 ) nie może być interpretowane za pomocą częstotliwości empirycznych, ponieważ dokładna wartość X = 0,5 nie ma szans na pojawienie się losowo, ani razu podczas nieskończonej sekwencji niezależnych prób.

Prawdopodobieństwo warunkowe można interpretować jako granicę,

${\ Displaystyle {\ rozpocząć {wyrównane} \ mathbb {P} (Y \ równoważnik 0,75 | X = 0,5) & = \ lim _ {\ varepsilon \ do 0+} \ mathbb {P} (Y \ równoważnik 0,75 | 0,5- \varepsilon <X<0.5+\varepsilon )\\&=\lim _{\varepsilon \to 0+}{\frac {\mathbb {P} (Y\leq 0.75,0.5-\varepsilon <X<0.5+\ varepsilon )}{\mathbb {P} (0.5-\varepsilon <X<0.5+\varepsilon )}}\\&=\lim _{\varepsilon \to 0+}{\frac {\int _{0.5-\ varepsilon }^{0.5+\varepsilon }\mathrm {d} x\int _{-\infty }^{0.75}\mathrm {d} y\,f_{X,Y}(x,y)}{\int _{0.5-\varepsilon }^{0.5+\varepsilon }\mathrm {d} x\,f_{X}(x)}}.\end{wyrównane}}}$

Oczekiwanie warunkowe

Warunkowe oczekiwanie E ( Y | X = 0,5 ) jest mało interesujące; znika po prostu przez symetrię. Bardziej interesujące jest obliczenie E ( | Z | | X = 0,5 ) traktując | Z | jako funkcja X , Y :

${\ Displaystyle {\ rozpocząć {wyrównane} | Z | & = h (X, Y) = {\ sqrt {1-X ^ {2} -Y ^ {2}}}; \\\ operatorname {E} (| Z||X=0.5)&=\int _{-\infty }^{+\infty }h(0.5,y)f_{Y|X=0.5}(y)\,\mathrm {d} y=\ \&=\int _{-{\sqrt {0.75}}}^{+{\sqrt {0.75}}}{\sqrt {0.75-y^{2}}}\cdot {\frac {\mathrm {d } y}{\pi {\sqrt {0,75-y^{2}}}}}\\&={\frac {2}{\pi}}{\sqrt {0,75}}.\end{wyrównane}} }$

Bardziej ogólnie,

${\ Displaystyle \ mathbb {E} (| Z|| X = x) = {\ Frac {2} {\ pi}} {\ sqrt { 1-x^{2}}}}$

dla −1 < x < 1. Warunkową wartość oczekiwaną można też traktować jako zmienną losową, — funkcję zmiennej losowej X , a mianowicie:

${\ Displaystyle \ mathbb {E} (| Z|| X) = {\ Frac {2} {\ pi}} {\ sqrt {1-X ^ {2}}}.}$

Oczekiwanie tej zmiennej losowej jest równe (bezwarunkowemu) oczekiwaniu | Z |,

${\ Displaystyle \ mathbb {E} (\mathbb {E} (|Z||X))=\int _{-\infty }^{+\infty }\mathbb {E} (|Z||X=x)f_{X}(x) \,\mathrm {d} x=\mathbb {E} (|Z|),}$

mianowicie,

${\ Displaystyle \ int _ {- 1} ^ {+ 1} {\ Frac {2} {\ pi}} {\ sqrt {1 -x^{2}}}\cdot {\frac {\mathrm {d} x}{2}}={\tfrac {1}{2}},}$

co jest przykładem prawa całkowitego oczekiwania E ( E ( Y | X ) ) = E ( Y ).

Zmienna losowa E(| Z | | X ) jest najlepszym predyktorem | Z | dany X. _ Oznacza to, że minimalizuje błąd średniokwadratowy E ( | Z | - f ( X ) ) ² na klasie wszystkich zmiennych losowych postaci f ( X ). Podobnie jak w przypadku dyskretnym, E ( | Z | | g ( X ) ) = E ( | Z | | X ) dla każdej mierzalnej funkcji g , która jest jeden do jednego na (-1,1).

Dystrybucja warunkowa

Biorąc pod uwagę X = x, rozkład warunkowy Y , dany przez gęstość f _{Y | X = x} (y), to (przeskalowany) rozkład arcsin; jego skumulowana funkcja dystrybucji wynosi

${\ Displaystyle F_ {Y | X = x} (y) = \ mathbb {P} (Y\leq y|X=x)={\frac {1}{2}}+{\frac {1}{\pi }}\arcsin {\frac {y}{\sqrt {1-x^{ 2}}}}}$

dla wszystkich x i y takich, że x ² + y ² < 1. Odpowiednie oczekiwanie h ( x , Y ) jest niczym innym jak oczekiwaniem warunkowym E ( h ( X , Y ) | X = x ). Mieszanina tych warunkowych rozkładów, wzięta dla wszystkich x ( zgodnie z rozkładem X ) jest bezwarunkowym rozkładem Y . Fakt ten sprowadza się do równości

${\ Displaystyle {\ rozpocząć {wyrównane} i \ int _ {- \ infty} ^ {+ \ infty} f_ {Y|X = x}(y)f_{X}(x)\,\mathrm {d} x=f_{Y}(y),\\&\int _{-\infty }^{+\infty }F_{Y| X=x}(y)f_{X}(x)\,\mathrm {d} x=F_{Y}(y),\end{wyrównane}}}$

ten ostatni jest przykładem prawa całkowitego prawdopodobieństwa wspomnianego powyżej .

Czym kondycjonowanie nie jest

Główny artykuł: paradoks Borela – Kołmogorowa

Na poziomie dyskretnym warunkowanie jest możliwe tylko wtedy, gdy warunek ma niezerowe prawdopodobieństwo (nie można dzielić przez zero). Na poziomie gęstości warunkowanie na X = x jest możliwe, mimo że P ( X = x ) = 0. Ten sukces może stworzyć złudzenie, że warunkowanie jest zawsze możliwe. Niestety tak nie jest, z kilku powodów przedstawionych poniżej.

Intuicja geometryczna: ostrożność

Wynik P ( Y ≤ 0,75 | X = 0,5 ) = 5/6, wspomniany powyżej, jest geometrycznie oczywisty w następującym sensie. Punkty ( x , y , z ) kuli x ² + y ² + z ² = 1, spełniające warunek x = 0,5, są okręgiem y ² + z ² = 0,75 o promieniu ${\ Displaystyle {\ sqrt { 0,75}}}$ na płaszczyźnie x = 0,5. Nierówność y ≤ 0,75 zachodzi na łuku. Długość łuku wynosi 5/6 długości koła, dlatego prawdopodobieństwo warunkowe wynosi 5/6.

To udane wyjaśnienie geometryczne może stworzyć złudzenie, że następujące pytanie jest trywialne.

Punkt danej kuli wybierany jest losowo (jednolicie). Biorąc pod uwagę, że punkt leży na danej płaszczyźnie, jaki jest jego rozkład warunkowy?

Może się wydawać oczywiste, że rozkład warunkowy musi być jednorodny na danym okręgu (przecięciu danej sfery i danej płaszczyzny). Czasami rzeczywiście tak jest, ale generalnie tak nie jest. W szczególności Z jest rozłożone równomiernie na (-1,+1) i niezależnie od stosunku Y / X , zatem P ( Z ≤ 0,5 | Y / X ) = 0,75. Z drugiej strony nierówność z ≤ 0,5 zachodzi na łuku koła x ² + y ² + z ² = 1, y = cx (dla dowolnego c ). Długość łuku wynosi 2/3 długości koła. Jednak prawdopodobieństwo warunkowe wynosi 3/4, a nie 2/3. Jest to przejaw klasycznego paradoksu Borela.

Odwołania do symetrii mogą być mylące, jeśli nie zostaną sformalizowane jako argumenty niezmienności.

— Pollard

Inny przykład. Losowy obrót przestrzeni trójwymiarowej to obrót o losowy kąt wokół losowej osi. Intuicja geometryczna podpowiada, że ​​kąt jest niezależny od osi i równomiernie rozłożony. Jednak to drugie jest błędne; małe wartości kąta są mniej prawdopodobne.

Procedura ograniczająca

Biorąc pod uwagę zdarzenie B o zerowym prawdopodobieństwie, wzór ${\ Displaystyle \ textstyle \ mathbb {P} (A | B) = \ mathbb {P} ( A \ cap B) / \ mathbb {P} (B)}$ jest bezużyteczne, jednak można spróbować ${\ Displaystyle \textstyle \mathbb {P} (A|B)=\lim _{n\do \infty}\mathbb {P} (A\cap B_{n})/\mathbb {P} (B_{n})}$ dla odpowiedniej sekwencji zdarzeń B _n o niezerowym prawdopodobieństwie, tak że b _n ↓ b (to znaczy ${\ Displaystyle \ textstyle B_ {1} \ supset B_ {2} \ supset \ kropki}$ i ${\ Displaystyle \ textstyle B_ {1} \ czapka B_ {2} \ czapka \ kropki = B}$ ). Jeden przykład podano powyżej . Dwa kolejne przykłady to most Browna i wycieczka Browna .

W dwóch ostatnich przykładach prawo całkowitego prawdopodobieństwa jest nieistotne, ponieważ dane jest tylko jedno zdarzenie (warunek). Z kolei w powyższym przykładzie obowiązuje prawo całkowitego prawdopodobieństwa , ponieważ zdarzenie X = 0,5 należy do rodziny zdarzeń X = x , gdzie x przebiega przez (−1,1), a zdarzenia te stanowią część prawdopodobieństwa przestrzeń.

Aby uniknąć paradoksów (takich jak paradoks Borela ), należy wziąć pod uwagę następujące ważne rozróżnienie. Jeśli dane zdarzenie ma niezerowe prawdopodobieństwo, to uwarunkowanie od niego jest dobrze zdefiniowane (niezależnie od jakichkolwiek innych zdarzeń), jak zauważono powyżej . Z drugiej strony, jeśli dane zdarzenie ma zerowe prawdopodobieństwo, to warunkowanie na nim jest źle zdefiniowane, chyba że podano dodatkowe dane wejściowe. Zły wybór tego dodatkowego wejścia prowadzi do błędnych prawdopodobieństw warunkowych (oczekiwania, rozkłady). W tym sensie „ pojęcie prawdopodobieństwa warunkowego w odniesieniu do pojedynczej hipotezy, której prawdopodobieństwo jest równe 0, jest niedopuszczalne ” ( Kołmogorow ) .

Dodatkowym wejściem może być (a) symetria (grupa niezmienności); ( _b ) ciąg zdarzeń Bn taki, że _Bn ↓ B , _P ( Bn ) > 0; (c) partycja zawierająca dane zdarzenie. Warunkowanie oparte na teorii miary (poniżej) bada przypadek (c), ujawnia jego związek z (b) ogólnie iz (a), gdy ma to zastosowanie.

Niektóre zdarzenia o zerowym prawdopodobieństwie są poza zasięgiem warunkowania. Przykład: niech X _n będzie niezależnymi zmiennymi losowymi o rozkładzie jednorodnym na (0,1), a B zdarzeniem „ X _n → 0 as n → ∞”; co z P ( X _n < 0,5 | B )? Czy ma tendencję do 1, czy nie? Inny przykład: niech X będzie zmienną losową o rozkładzie równomiernym na (0,1), a B zdarzeniem „ X jest liczbą wymierną”; co z P ( X = 1/ n | B ) ? Jedyną odpowiedzią jest to, że po raz kolejny

pojęcie prawdopodobieństwa warunkowego w odniesieniu do hipotezy izolowanej, której prawdopodobieństwo jest równe 0, jest niedopuszczalne.

— Kołmogorow

Uwarunkowania na poziomie teorii miary

Główny artykuł: warunkowe oczekiwanie

Przykład . Niech Y będzie zmienną losową o rozkładzie jednostajnym na (0,1) i X = f ( Y ), gdzie f jest daną funkcją. Poniżej omówiono dwa przypadki: f = f ₁ i f = f ₂ , gdzie f ₁ jest ciągłą odcinkowo-liniową funkcją

$\ displaystyle f_ {1 }(y)={\begin{przypadki}3y&{\text{for }}0\równoważnik y\równoważnik 1/3,\\1,5(1-y)&{\text{for}}1/3\równoważnik y\równik 2/3,\\0,5&{\text{for }}2/3\równik y\równik 1,\end{przypadki}}}$

a f2 _jest funkcją Weierstrassa .

Intuicja geometryczna: ostrożność

Biorąc pod uwagę X = 0,75, możliwe są dwie wartości Y , 0,25 i 0,5. Może się wydawać oczywiste, że obie wartości mają warunkowe prawdopodobieństwo 0,5 tylko dlatego, że jeden punkt jest przystający do innego punktu. Jest to jednak złudzenie; patrz poniżej.

Warunkowe prawdopodobieństwo

Prawdopodobieństwo warunkowe P ( Y ≤ 1/3 | X ) można określić jako najlepszy predyktor wskaźnika

${\ Displaystyle I = {\ rozpocząć {przypadki} 1 i {\ tekst {jeśli}} Y \ równoważnik 1/3, \\ 0 i {\ tekst {w przeciwnym razie}}, \end{przypadki}}}$

dany X. _ Oznacza to, że minimalizuje błąd średniokwadratowy E ( I - g ( X ) ) ² na klasie wszystkich zmiennych losowych postaci g ( X ).

W przypadku f = f ₁ odpowiednią funkcję g = g ₁ można obliczyć jawnie,

${\ Displaystyle g_ {1} (x) = {\ rozpocząć {przypadki} 1 i {\ tekst {dla }}0<x<0,5,\\0&{\text{dla }}x=0,5,\\1/3&{\text{dla }}0,5<x<1.\end{przypadków}}}$

Alternatywnie można zastosować procedurę ograniczającą,

${\ Displaystyle g_ {1} (x) = \ lim _ {\ varepsilon \ do 0+ }\mathbb {P} (Y\leq 1/3|x-\varepsilon \leq X\leq x+\varepsilon )\,,}$

dając ten sam wynik.

Zatem P. ( Y ≤ 1/3 | X ) = g ₁ ( X ). Wartość oczekiwana tej zmiennej losowej jest równa (bezwarunkowemu) prawdopodobieństwu, E ( P ( Y ≤ 1/3 | X ) ) = P ( Y ≤ 1/3 ), a mianowicie:

${\ Displaystyle 1 \ cdot \ mathbb {P} (X <0,5) + 0 \ cdot \ mathbb {P} (X = 0,5) + {\ Frac {1} {3}} \ cdot \ mathbb {P} (X >0.5)=1\cdot {\frac {1}{6}}+0\cdot {\frac {1}{3}}+{\frac {1}{3}}\cdot \left({\frac {1}{6}}+{\frac {1}{3}}\right)={\frac {1}{3}},}$

co jest przykładem prawa całkowitego prawdopodobieństwa E ( P ( A | X ) ) = P ( A ).

W przypadku f = f ₂ odpowiednia funkcja g = g ₂ prawdopodobnie nie może być obliczona wprost. Niemniej jednak istnieje i można go obliczyć numerycznie. Rzeczywiście, przestrzeń L ₂ (Ω) wszystkich zmiennych losowych całkowalnych do kwadratu jest przestrzenią Hilberta ; wskaźnik I jest wektorem tej przestrzeni; a zmienne losowe postaci g ( X ) są (zamkniętą, liniową) podprzestrzenią. Rzut ortogonalny tego wektora na tę podprzestrzeń jest dobrze zdefiniowany. Można to obliczyć numerycznie, stosując przybliżenia skończonych wymiarów do nieskończenie wymiarowej przestrzeni Hilberta.

Ponownie, wartość oczekiwana zmiennej losowej P ( Y ≤ 1/3 | X ) = g ₂ ( X ) jest równa (bezwarunkowemu) prawdopodobieństwu, E ( P ( Y ≤ 1/3 | X ) ) = P ( Y ≤ 1/3 ), a mianowicie

${\ Displaystyle \ int _ {0} ^ {1} g_ {2} (f_ {2} (y)} \ \ operatorname {d} y = {\ tfrac {1} {3}}.}$

Jednak podejście przestrzenne Hilberta traktuje g ₂ raczej jako klasę równoważności funkcji niż pojedynczą funkcję. Mierzalność g ₂ jest zapewniona, ale ciągłość (lub nawet całkowalność Riemanna ) nie. Wartość g ₂ (0,5) jest określona jednoznacznie, ponieważ punkt 0,5 jest atomem rozkładu X . Inne wartości x nie są atomami, więc odpowiednie wartości g ₂ ( x ) nie są określone jednoznacznie. Ponownie, „ pojęcie prawdopodobieństwa warunkowego w odniesieniu do pojedynczej hipotezy, której prawdopodobieństwo jest równe 0, jest niedopuszczalne ” ( Kołmogorow .

Alternatywnie, tę samą funkcję g (czy to g _1, czy g ₂ ) można zdefiniować jako pochodną Radona-Nikodyma

${\ Displaystyle g = {\ Frac {\ operatorname {d} \ nu} {\ operatorname {d} \ mu}}}$

gdzie miary μ, ν są określone przez

${\ Displaystyle {\ rozpocząć {wyrównane} \ mu (B) & = \ mathbb {P} ( X\in B),\\\nu (B)&=\mathbb {P} (X\in B,\,Y\leq {\tfrac {1}{3}})\end{wyrównane}}}$

dla wszystkich zbiorów Borela ${\ Displaystyle B \ subset \ mathbb {R}.}$ Oznacza to, że μ to (bezwarunkowy) rozkład X , podczas gdy ν to jedna trzecia jego rozkładu warunkowego,

${\ Displaystyle \ nu (B) = \ mathbb {P} (X \ w B | Y \ równoważnik {\ tfrac {1} {3}}) \ mathbb {P} (Y \ równoważnik {\ tfrac {1} 3}})={\tfrac {1}{3}}\mathbb {P} (X\in B|Y\leq {\tfrac {1}{3}}).}$

Oba podejścia (poprzez przestrzeń Hilberta i pochodną Radona-Nikodyma) traktują g jako klasę równoważności funkcji; dwie funkcje g i g′ są traktowane jako równoważne, jeśli g ( X ) = g′ ( X ) prawie na pewno. W związku z tym prawdopodobieństwo warunkowe P ( Y ≤ 1/3 | X ) jest traktowane jako klasa równoważności zmiennych losowych; jak zwykle, dwie zmienne losowe są traktowane jako równoważne, jeśli są prawie na pewno równe.

Oczekiwanie warunkowe

Warunkowe $_$ Y przy danym X . $\ mathbb {E} (Yh (X)$ błąd średniokwadratowy w klasie wszystkich zmiennych losowych postaci h ^ X ).

W przypadku f = f ₁ odpowiednią funkcję h = h ₁ można obliczyć jawnie,

${\ Displaystyle h_ {1} (x) = {\ rozpocząć {przypadki} {\frac {x}{3}}&0<x<{\frac {1}{2}}\\[4pt]{\frac {5}{6}}&x={\frac {1}{2} }\\[4pt]{\frac {1}{3}}(2-x)&{\frac {1}{2}}<x<1\end{przypadki}}}$

Alternatywnie można zastosować procedurę ograniczającą,

${\ Displaystyle h_ {1} (x) = \ lim _ {\ varepsilon \ do 0+} \ mathbb { E} (Y|x-\varepsilon \leqslant X\leqslant x+\varepsilon ),}$

dając ten sam wynik.

Zatem ${\ Displaystyle \ mathbb {E} (Y | X) = h_ {1} (X).}$ Oczekiwanie tej zmiennej losowej jest równe oczekiwaniu (bezwarunkowemu), ${\ Displaystyle \ mathbb {E} (\ mathbb {E} (Y | X)) = \ mathbb {E} (Y)} mianowicie$ ,

${\ Displaystyle \ int _ {0} ^ {1} h_ {1} (f_ {1} (y)) \ \ operatorname {d} y =\int _{0}^{\frac {1}{6}}{\frac {3y}{3}}\,\mathrm {d} y+\int _{\frac {1}{6}}^ {\frac {1}{3}}{\frac {2-3y}{3}}\,\mathrm {d} y+\int _{\frac {1}{3}}^{\frac {2} {3}}{\frac {2-{\frac {3}{2}}(1-y)}{3}}\,\mathrm {d} y+\int _{\frac {2}{3} }^{1}{\frac {5}{6}}\,\mathrm {d} y={\frac {1}{2}},}$

co jest przykładem prawa całkowitego oczekiwania ${\ Displaystyle \ mathbb {E} (\ mathbb {E} (Y | X)) = \ mathbb {E} (Y).}$

W przypadku f = f ₂ odpowiednia funkcja h = h ₂ prawdopodobnie nie może być obliczona jawnie. Niemniej jednak istnieje i może być obliczona numerycznie w taki sam sposób jak g ₂ powyżej — jako rzut ortogonalny w przestrzeni Hilberta. Prawo całkowitego oczekiwania obowiązuje, ponieważ projekcja nie może zmienić iloczynu skalarnego o stałą 1 należącą do podprzestrzeni.

Alternatywnie tę samą funkcję h (czy to h ₁ czy h ₂ ) można zdefiniować jako pochodną Radona-Nikodyma

${\ Displaystyle h = {\ Frac {\ operatorname {d} \ nu} {\ operatorname {d} \ mu}}}$

gdzie miary μ, ν są określone przez

${\ Displaystyle {\ rozpocząć {wyrównane} \ mu (B) & = \ mathbb {P} (X \ w B )\\\nu (B)&=\mathbb {E} (Y,X\in B)\end{wyrównane}}}$

dla wszystkich zbiorów Borela ${\ Displaystyle B \ podzbiór \ mathbb {R}.}$ Tutaj ${\ Displaystyle \ mathbb {E} (Y; A)}$ jest ograniczonym oczekiwaniem, którego nie należy mylić z oczekiwaniem warunkowym ${\ Displaystyle \ mathbb {E} (Y | A) = \ mathbb {E} (Y; A) / \ mathbb {P} (A).}$

Dystrybucja warunkowa

Główne artykuły: Twierdzenie o dezintegracji i Regularne prawdopodobieństwo warunkowe

W przypadku f = f ₁ warunkową dystrybucję skumulowaną można obliczyć jawnie, podobnie jak g ₁ . Procedura ograniczająca daje:

${\ Displaystyle F_ {Y| X = {\ Frac {3} {4}}} ( y)=\mathbb {P} \left(Y\leqslant y\left|X={\tfrac {3}{4}}\right.\right)=\lim _{\varepsilon \to 0^{+} }\mathbb {P} \left(Y\leqslant y\left|{\tfrac {3}{4}}-\varepsilon \leqslant X\leqslant {\tfrac {3}{4}}+\varepsilon \right. \right)={\begin{cases}0&-\infty <y<{\tfrac {1}{4}}\\[4pt]{\tfrac {1}{6}}&y={\tfrac {1} {4}}\\[4pt]{\tfrac {1}{3}}&{\tfrac {1}{4}}<y<{\tfrac {1}{2}}\\[4pt]{\ tfrac {2}{3}}&y={\tfrac {1}{2}}\\[4pt]1&{\tfrac {1}{2}}<y<\infty \end{przypadki}}}$

co nie może być poprawne, ponieważ skumulowana dystrybucja musi być prawostronnie ciągła !

Ten paradoksalny wynik wyjaśnia teoria miary w następujący sposób. Dla danego y odpowiada ${\ Displaystyle F_ {Y | X = x} (y) = \ mathbb {P} (Y \ leqslant y | X = x)} jest$ dobrze -zdefiniowany (poprzez przestrzeń Hilberta lub pochodną Radona-Nikodyma) jako klasa równoważności funkcji (z x ). Traktowana jako funkcja y dla danego x jest źle zdefiniowana, chyba że podano dodatkowe dane wejściowe. Mianowicie, funkcja (od x ) musi być wybrana w obrębie każdej (lub przynajmniej prawie każdej) klasy równoważności. Zły wybór prowadzi do błędnych warunkowych skumulowanych funkcji dystrybucji.

Właściwego wyboru można dokonać w następujący sposób. Po pierwsze, ${\ Displaystyle F_ {Y | X = x} (y) = \ mathbb {P} (Y \ leqslant y | X = x)} jest brane pod$ uwagę tylko dla liczb wymiernych y . (Równie dobrze można użyć dowolnego innego gęstego policzalnego zbioru). Zatem używany jest tylko policzalny zbiór klas równoważności; wszystkie wybory funkcji w ramach tych klas są wzajemnie równoważne, a odpowiadająca im funkcja wymiernego y jest dobrze zdefiniowana (dla prawie każdego x ). Po drugie, funkcja jest rozszerzana od liczb wymiernych do liczb rzeczywistych przez właściwą ciągłość.

Na ogół rozkład warunkowy jest definiowany dla prawie wszystkich x (zgodnie z rozkładem X ), ale czasami wynik jest ciągły w x , w którym to przypadku dopuszczalne są indywidualne wartości. W rozważanym przykładzie tak jest; poprawny wynik dla x = 0,75,

${\ Displaystyle F_ {Y |X={\frac {3}{4}}}(y)=\mathbb {P} \left(Y\leqslant y\left|X={\tfrac {3}{4}}\right.\right )={\begin{cases}0&-\infty <y<{\tfrac {1}{4}}\\[4pt]{\tfrac {1}{3}}&{\tfrac {1}{4} }\leqslant y<{\tfrac {1}{2}}\\[4pt]1&{\tfrac {1}{2}}\leqslant y<\infty \end{cases}}}$

pokazuje, że warunkowy rozkład Y przy danym X = 0,75 składa się z dwóch atomów, przy 0,25 i 0,5, o prawdopodobieństwie odpowiednio 1/3 i 2/3.

Podobnie rozkład warunkowy można obliczyć dla wszystkich x w (0, 0,5) lub (0,5, 1).

Wartość x = 0,5 jest atomem rozkładu X , zatem odpowiedni rozkład warunkowy jest dobrze zdefiniowany i można go obliczyć metodami elementarnymi (mianownik nie znika); warunkowy rozkład Y przy danym X = 0,5 jest jednorodny na (2/3, 1). Teoria miary prowadzi do tego samego wyniku.

Mieszanka wszystkich rozkładów warunkowych jest (bezwarunkowym) rozkładem Y .

Oczekiwanie $niczym$ warunkowego

W przypadku f = f ₂ odpowiedni ${\ Displaystyle F_ {Y | X = x} (y) = \ mathbb {P} (Y \ leqslant y | X = x)} prawdopodobnie nie$ może być obliczona jawnie. Dla danego y jest dobrze zdefiniowany (poprzez przestrzeń Hilberta lub pochodną Radona-Nikodyma) jako klasa równoważności funkcji (z x ). Właściwego wyboru funkcji w ramach tych klas równoważności można dokonać jak powyżej; prowadzi to do poprawnych warunkowych funkcji dystrybucji skumulowanej, a więc do rozkładów warunkowych. Ogólnie rzecz biorąc, rozkłady warunkowe nie muszą być atomowe ani absolutnie ciągłe (ani mieszaniny obu typów). Prawdopodobnie w rozpatrywanym przykładzie są one pojedyncze (podobnie jak rozkład Cantora ).

Ponownie, mieszanina wszystkich rozkładów warunkowych jest rozkładem (bezwarunkowym), a oczekiwanie warunkowe jest oczekiwaniem w odniesieniu do rozkładu warunkowego.

Zobacz też

• Warunkowe prawdopodobieństwo
• Oczekiwanie warunkowe
• Warunkowy rozkład prawdopodobieństwa
• Wspólny rozkład prawdopodobieństwa
• Paradoks Borela
• Regularne prawdopodobieństwo warunkowe
• Twierdzenie o dezintegracji
• Prawo całkowitej wariancji
• Prawo całkowitej kumulacji

Notatki

• Durrett, Richard (1996), Prawdopodobieństwo: teoria i przykłady (wyd. Drugie)
• Pollard, David (2002), Podręcznik użytkownika dotyczący pomiaru prawdopodobieństwa teoretycznego , Cambridge University Press
• Draheim, Dirk (2017) Generalized Jeffrey Conditionalization (częstotliwa semantyka częściowej warunkowania) , Springer