Odwrotne ważenie prawdopodobieństwa

Odwrotne ważenie prawdopodobieństwa to technika statystyczna służąca do obliczania statystyk standaryzowanych dla pseudopopulacji innej niż ta, w której zebrano dane. Projekty badań z odmienną populacją doboru próby i populacją docelowej wnioskowania (populacja docelowa) są często stosowane. Mogą istnieć czynniki uniemożliwiające naukowcom bezpośrednie pobieranie próbek z populacji docelowej, takie jak koszty, czas lub kwestie etyczne. Rozwiązaniem tego problemu jest zastosowanie alternatywnej strategii projektowania, np. próbkowanie warstwowe . Prawidłowo zastosowane ważenie może potencjalnie poprawić wydajność i zmniejszyć błąd systematyczny estymatorów nieważonych.

Jednym z bardzo wczesnych estymatorów ważonych jest estymator średniej Horvitza-Thompsona . Gdy znane jest prawdopodobieństwo próbkowania , z którego losowana jest populacja losowana z populacji docelowej, wówczas do ważenia obserwacji stosuje się odwrotność tego prawdopodobieństwa. Podejście to zostało uogólnione na wiele aspektów statystyki w różnych ramach. W szczególności istnieją ważone prawdopodobieństwa , ważone równania estymujące i ważone gęstości prawdopodobieństwa z których pochodzi większość statystyk. Aplikacje te skodyfikowały teorię innych statystyk i estymatorów, takich jak krańcowe modele strukturalne , standaryzowany współczynnik śmiertelności oraz algorytm EM dla danych zgrubnych lub zagregowanych.

Odwrotne ważenie prawdopodobieństwa jest również stosowane w celu uwzględnienia brakujących danych, gdy osoby z brakującymi danymi nie mogą zostać uwzględnione w analizie pierwotnej. Dzięki oszacowaniu prawdopodobieństwa pobierania próbek lub prawdopodobieństwa, że ​​czynnik zostanie zmierzony w innym pomiarze, odwrotne ważenie prawdopodobieństwa może być użyte do zawyżenia wagi osób, które są niedostatecznie reprezentowane ze względu na duży stopień brakujących danych .

Estymator ważony odwrotnym prawdopodobieństwem (IPWE)

Odwrotny estymator ważenia prawdopodobieństwa może być użyty do wykazania przyczynowości, gdy badacz nie może przeprowadzić kontrolowanego eksperymentu, ale zaobserwował dane do modelowania. Ponieważ zakłada się, że leczenie nie jest przydzielane losowo, celem jest oszacowanie scenariusza alternatywnego lub potencjalnego wyniku, gdyby wszystkim pacjentom w populacji przydzielono którekolwiek leczenie.

Załóżmy, że obserwowane dane to ${\ Displaystyle \ {{\ bigl (} X_ {i}, A_ {i}, Y_ {i} {\ bigr)} \ }_{i=1}^{n}}$ wylosowano id (niezależny i identycznie rozłożony) z nieznanego rozkładu P, gdzie

• współzmienne ${\ Displaystyle X \ in \ mathbb {R} ^ {p}}$
• ${\ Displaystyle A \ in \ {0,1 \}}$ to dwa możliwe sposoby leczenia.
• ${\ Displaystyle Y \ w \ mathbb {R}}$ odpowiedź
• Nie zakładamy, że leczenie jest przydzielane losowo.

$który byłby obserwowany$ jest oszacowanie potencjalnego wyniku, podmiotowi przypisano leczenie $a }$ . Następnie porównaj średni wynik, jeśli wszystkim pacjentom w populacji przypisano dowolne leczenie: ${\ Displaystyle \ mu _ {a} = \ mathbb {E} Y ^ {*} (a)}$ . Chcemy oszacować ${\ displaystyle \ mu _ {a}}$ używając zaobserwowanych danych ${\ Displaystyle \ {{\ bigl (} X_ {i}, A_ {i}, Y_ {i} {\ bigr)} \} _{i=1}^{n}}$ .

Formuła estymatora

${\ Displaystyle {\ kapelusz {\ mu}} _ {a, n }^{IPWE}={\frac {1}{n}}\sum _{i=1}^{n}Y_{i}{\frac {\mathbf {1} _{A_{i}=a} }{{\kapelusz {p}}_{n}(A_{i}|X_{i})}}}$

Budowa IPWE

1. ${\ Displaystyle \ mu _ {a} = \ mathbb {E} \ lewo [{\ Frac {\ mathbf {1} _ {A = a} Y}{p(A|X)}}\right]}$ gdzie ${\ Displaystyle p (a | x) = {\ Frac {P (A = a, X = x)} {P (X = x)}}}$
2. p ${\ Displaystyle {\ hat {p}} _ {n} (a | x)}$ lub $\ Displaystyle p (a | x)}$ przy użyciu dowolnego modelu skłonności (często model regresji logistycznej)
3. ${\ Displaystyle {\ kapelusz {\ mu}} _ {a, n} ^{IPWE}=\sum _{i=1}^{n}{\frac {Y_{i}1_{A_{i}=a}}{n{\kapelusz {p}}_{n}(A_ {i}|X_{i})}}}$

Po obliczeniu średniej z każdej leczonej grupy można zastosować statystyczny test t lub test ANOVA do oceny różnicy między średnimi grup i określenia istotności statystycznej efektu leczenia.

Założenia

${\ displaystyle X$$dla$ wspólny model prawdopodobieństwa ${\ Displaystyle (X, A, Y) \ sim P}$ współzmiennej , akcji i odpowiedzi $} \displaystyle Y}$ . Jeśli i są znane jako $x$$\ displaystyle$$}$ i $}$ odpowiednio, wtedy odpowiedź ma rozkład Y $\ Displaystyle Y (X = x, A = a) = Y (x, a)}$

${\ Displaystyle {\ rozpocząć {wyrównane} Y (x, a) \ sim {\ Frac {P (x, a, \ cdot)}} {\ int P (x, a, y) \, dy}}. \ koniec {wyrównany}}}$

Przyjmujemy następujące założenia.

• ( A1 ) Spójność: ${\ Displaystyle Y = Y ^ {*} (A)}$
• ( A2 ) Brak niezmierzonych czynników zakłócających: ${\ Displaystyle \ {Y ^ {*} (0), Y ^ {*} (1) \} \ sprawca A | X}$ . Bardziej formalnie, dla każdej $displaystyle$ i mierzalnej funkcji i $g$ }
  $${\ Displaystyle {\ rozpocząć {wyrównane} \ qquad \ mathbb {E} _ {(A, Y)} \ lewo [f (Y (X, a)) \, g (A) \, | \, X \ prawo ]=\mathbb {E} _{Y}\left[f(Y(X,a))\,|\,X\right]\,\mathbb {E} _{A}\left[g(A) \,|\,X\right].\end{aligned}}}$$
  Oznacza to, że przypisanie leczenia opiera się wyłącznie na danych współzmiennych i jest niezależne od potencjalnych wyników.
• ( A3 ) Pozytywność: ${\ Displaystyle P (A = a | X = x) = \ mathbb {E} _ {A} [\ mathbf {1} (A = a) \, | \, X = x]> 0 }$ dla wszystkich ${$ x $displaystyle x}$ .

Wyprowadzenie formalne

Przy założeniach ( A1 )-( A3 ) wyprowadzimy następujące tożsamości

${\ Displaystyle {\ rozpocząć {wyrównane} \ mathbb {E} \ lewo [Y ^ {*} (a) \ prawej] = \ mathbb {E} _ {(X, Y)} \ lewo [Y (X ,a)\right]=\mathbb {E} _{(X,A,Y)}\left[{\frac {Y\mathbf {1} (A=a)}{P(A=a|X) }}\right].\qquad \cdots \cdots (*)\end{wyrównane}}}$

Pierwsza równość wynika z definicji i ( A1 ). W przypadku drugiej równości najpierw użyj iterowanego oczekiwania do zapisu

${\ Displaystyle {\ rozpocząć {wyrównane} \ mathbb {E} _ {(X, Y)} \ lewo [Y (X, a) \ prawo] = \ mathbb {E} _ {X} \ lewo [\ mathbb { E} _{Y}\left[Y(X,a)\,|\,X\right]\right].\end{wyrównane}}}$

Przez ( A3 ), $_$ prawie Następnie używając ( A2 ), zanotuj to

${\ Displaystyle {\ rozpocząć {wyrównane} \ mathbb {E} _ {Y} \ lewo [Y (X, a) \, | \, X \ prawo] & = {\ Frac {\ mathbb {E} _ {Y }\left[Y(X,a)\,|\,X\right]\,\mathbb {E} _{A}[\mathbf {1} (A=a)\,|\,X]}{ \mathbb {E} _{A}[\mathbf {1} (A=a)\,|\,X]}}\\&={\frac {\mathbb {E} _{(A,Y)} \left[Y(X,a)\mathbf {1} (A=a)\,|\,X\right]}{\mathbb {E} [\mathbf {1} (A=a)\,|\ ,X]}}\qquad \cdots \cdots (A2)\\&=\mathbb {E} _{(A,Y)}\left[{\frac {Y(X,a)\mathbf {1} ( A=a)}{\mathbb {E} [\mathbf {1} (A=a)\,|\,X]}}\,{\bigg |}\,X\right].\qquad \cdots \ cdots ({\text{mianownik jest funkcją X}})\end{wyrównane}}}$

Stąd całkowanie ostatniego wyrażenia w $odniesieniu$${\ Displaystyle Y (X, a) \ mathbf {1} (A = a) = Y (X, A) \ mathbf {1} (A = a) = Y \, \ mathbf {1} (A = a )}$ następuje druga równość w ${\ Displaystyle (*)} .$

Ograniczenia

Estymator ważony odwrotnym prawdopodobieństwem (IPWE) może być niestabilny, jeśli oszacowane skłonności są małe. Jeśli prawdopodobieństwo przypisania któregokolwiek leczenia jest małe, model regresji logistycznej może stać się niestabilny wokół ogonów, powodując, że IPWE będzie również mniej stabilny.

Estymator ważony rozszerzonym prawdopodobieństwem odwrotnym (AIPWE)

Alternatywnym estymatorem jest rozszerzony estymator ważony odwrotnym prawdopodobieństwem (AIPWE), który łączy w sobie zarówno właściwości estymatora opartego na regresji, jak i estymatora ważonego odwrotnym prawdopodobieństwem. Jest to zatem metoda „podwójnie solidna”, ponieważ wymaga jedynie poprawnego określenia modelu skłonności lub modelu wyniku, ale nie obu jednocześnie. Ta metoda rozszerza IPWE w celu zmniejszenia zmienności i poprawy wydajności oszacowania. Model ten ma te same założenia, co estymator ważony odwrotnym prawdopodobieństwem (IPWE).

Formuła estymatora

${\ Displaystyle {\ rozpocząć {wyrównane} {\ kapelusz {\ mu}} _ {a, n} ^ {AIPWE} & = {\ Frac {1} {n}} \ suma _ {i = 1} ^ {n }{\Biggl (}{\frac {Y_{i}1_{A_{i}=a}}{{\kapelusz {p}}_{n}(A_{i}|X_{i})}}- {\frac {1_{A_{i}=a}-{\kapelusz {p}}_{n}(A_{i}|X_{i})}{{\kapelusz {p}}_{n}( A_{i}|X_{i})}}{\hat {Q}}_{n}(X_{i},a){\Biggr )}\\&={\frac {1}{n}} \sum _{i=1}^{n}{\Biggl (}{\frac {1_{A_{i}=a}}{{\hat {p}}_{n}(A_{i}|X_ {i})}}Y_{i}-(1-{\frac {1_{A_{i}=a}}{{\kapelusz {p}}_{n}(A_{i}|X_{i} )}}){\kapelusz {Q}}_{n}(X_{i},a){\Biggr )}\\&={\frac {1}{n}}\suma _{i=1} ^{n}{\Biggl (}{\hat {Q}}_{n}(X_{i},a){\Biggr )}+{\frac {1}{n}}\sum _{i= 1}^{n}{\frac {1_{A_{i}=a}}{{\kapelusz {p}}_{n}(A_{i}|X_{i})}}{\Biggl (} Y_{i}-{\kapelusz {Q}}_{n}(X_{i},a){\Biggr )}\end{wyrównane}}}$

Z następującymi oznaczeniami:

1. ${\ Displaystyle 1_ {A_ {i} = a}}$ jest funkcją wskaźnika , jeśli podmiot i jest częścią grupy terapeutycznej a (lub nie).
2. Skonstruuj $,$ aby $na$ podstawie współzmiennych $X$ leczenie ${\ displaystyle A}$ dla jakiegoś tematu ja. Na przykład przy użyciu zwykłej regresji metodą najmniejszych kwadratów.
3. Oszacuj skłonność (prawdopodobieństwo) konstruowania ${\ Displaystyle {\ hat {p}} _ {n} (A_ {i} | X_ {i})}$ . Na przykład za pomocą regresji logistycznej .
4. Połącz w AIPWE, aby uzyskać ${\ Displaystyle {\ kapelusz {\ mu}} _ {a, n} ^ {AIPWE}}$

Interpretacja i „podwójna solidność”

Późniejsze przekształcenie wzoru pomaga ujawnić podstawową ideę: nasz estymator opiera się na średnim przewidywanym wyniku przy użyciu modelu (tj. ${\ Displaystyle {\ frac {1}{n}}\sum _{i=1}^{n}{\Biggl (}{\hat {Q}}_{n}(X_{i},a){\Biggr )}}$ ). Jeśli jednak model jest obciążony, reszty modelu nie będą (w pełnej grupie badanej a) około 0. Możemy skorygować to potencjalne obciążenie, dodając dodatkowy składnik średnich reszt modelu (Q) z prawdziwa wartość wyniku (Y) (tj.: ${\ Displaystyle {\ Frac {1} {n}} \ suma _ {i = 1} ^ {n} {\ Frac {1_ {A_ {i} = a}} {{\ kapelusz {p} }_{n}(A_{i}|X_{i})}}{\Biggl (}Y_{i}-{\kapelusz {Q}}_{n}(X_{i},a){\Biggr )}}$ ). Ponieważ brakuje nam wartości Y, przypisujemy wagi, aby zawyżyć względną ważność każdej reszty (wagi te są oparte na odwrotnej skłonności, czyli prawdopodobieństwie, dostrzeżenia obserwacji każdego podmiotu) (patrz strona 10 w ).

„Podwójnie solidna” korzyść z takiego estymatora wynika z faktu, że wystarczy poprawnie określić jeden z dwóch modeli, aby estymator był nieobciążony (albo Q ^ n ( $\ kapelusz {Q}} _ {n} (X_ {i}, a)}$ lub ${\ Displaystyle {\ kapelusz {p}} _ {n} (A_ {i} | X_ {I})}$ , lub oba). Dzieje się tak, ponieważ jeśli model wynikowy jest dobrze określony, jego reszty będą wynosić około 0 (niezależnie od wag, jakie otrzyma każda reszta). Chociaż jeśli model jest obciążony, ale model ważenia jest dobrze określony, wówczas błąd zostanie dobrze oszacowany (i skorygowany) przez średnie ważone reszty.

Odchylenie podwójnie odpornych estymatorów nazywane jest błędem drugiego rzędu i zależy od iloczynu różnicy ${\ Displaystyle { \frac {1}{{\hat {p}}_{n}(A_{i}|X_{i})}}-{\frac {1}{{p}_{n}(A_{i} |X_{i})}}}$ i różnica ${\ Displaystyle {\ kapelusz {Q}} _ {n} (X_ {i}, a) -Q_ {n} (X_ {i}, a)}$ . Ta właściwość pozwala nam, mając „wystarczająco dużą” wielkość próby, obniżyć ogólne obciążenie podwójnie solidnych estymatorów za pomocą uczenia maszynowego (zamiast modeli parametrycznych).

Zobacz też

• Dopasowanie wyniku skłonności