Metoda delty

W statystyce metoda delta jest wynikiem przybliżonego rozkładu prawdopodobieństwa funkcji asymptotycznie normalnego estymatora statystycznego ze znajomości granicznej wariancji tego estymatora.

Historia

Metoda delta wywodzi się z propagacji błędu , a jej idea była znana na początku XIX wieku. Jego statystyczne zastosowanie można prześledzić już w 1928 roku przez TL Kelleya . Formalny opis metody przedstawił JL Doob w 1935 r. Robert Dorfman opisał również jej wersję w 1938 r.

Jednowymiarowa metoda delta

Podczas gdy metodę delta można łatwo uogólnić na ustawienie wielowymiarowe, staranne motywowanie techniki jest łatwiejsze do wykazania w kategoriach jednowymiarowych. Z grubsza, jeśli istnieje sekwencja zmiennych losowych $X n$ satysfakcjonująca

{\ Displaystyle {{\ sqrt {n}} [X_ {n} - \ teta] \ {\ xrightarrow {D}} \, {\ mathcal {N}}(0,\sigma^{2})},}

gdzie θ i σ ² są stałymi o skończonych wartościach i oznaczają zbieżność w rozkładzie , a następnie ${\ displaystyle {\ xrightarrow {D}}}$

{\ Displaystyle {{\ sqrt {n}} [g (X_ {n}) - g(\theta)]\,{\xrightarrow {D}}\,{\mathcal {N}}(0,\sigma ^{2}\cdot [g'(\theta)]^{2})}}

dla dowolnej funkcji g spełniającej właściwość, że $g' (θ)$ istnieje i ma wartość niezerową.

Dowód w przypadku jednowymiarowym

Wykazanie tego wyniku jest dość proste przy założeniu, że $g' (θ)$ jest ciągłe . Na początek użyjemy twierdzenia o wartości średniej (tj. przybliżenia pierwszego rzędu szeregu Taylora za pomocą twierdzenia Taylora ):

{\ Displaystyle g (X_ {n}) = g (\ teta) + g '({\ tylda {\ teta }})(X_{n}-\theta ),}

gdzie $_$ między $X n$ θ . _ $_$ że _ ${\ Displaystyle | {\ tylda {\ theta}} - \ theta | <| X_ {n} - \ theta |} , musi tak być θ ~$ → ${\ tylda {\ theta}} \, {\xrightarrow {P}}\,\theta }$ a ponieważ $g' (θ)$ jest ciągłe, zastosowanie twierdzenia o ciągłym odwzorowaniu daje

{\ Displaystyle g '({\ tylda {\ teta}}) \, {\ xrightarrow {P}} \, g' (\ teta),}

gdzie $_$ oznacza zbieżność .

Zmiana kolejności terminów i pomnożenie przez ${\ displaystyle {\ sqrt {n}}}$ daje

{\ Displaystyle {\ sqrt {n}} [g (X_ {n}) - g (\ teta)] = g '\ lewo ({\ tylda {\ teta}} \ prawej) {\ sqrt {n}} [ X_{n}-\theta].}

Od

{\ Displaystyle {{\ sqrt {n}} [X_ {n} - \ teta] {\ xrightarrow {D}} {\ mathcal {N}} ( 0,\sigma ^{2})}}

z założenia wynika natychmiast z odwołania się do twierdzenia Słuckiego, że

{\ Displaystyle {{\ sqrt {n}} [g (X_ {n}) - g (\ teta)] {\ xrightarrow {D}} {\ mathcal {N}} (0, \ sigma ^ {2} [ g'(\theta )]^{2})}.}

To kończy dowód.

Dowód z wyraźnym porządkiem przybliżenia

Alternatywnie można dodać jeszcze jeden krok na końcu, aby uzyskać kolejność aproksymacji :

{\ Displaystyle {\ rozpocząć {wyrównane} \sqrt {n}}[g(X_{n})-g(\theta )]&=g'\left({\tylda {\theta}}\right){\sqrt {n}}[X_{n }-\theta ]\\&={\sqrt {n}}[X_{n}-\theta ]\left[g'({\tylda {\theta}})+g'(\theta )-g' (\theta )\right]\\&={\sqrt {n}}[X_{n}-\theta]\left[g'(\theta)\right]+{\sqrt {n}}[X_{ n}-\theta ]\left[g'({\tylda {\theta}})-g'(\theta )\right]\\&={\sqrt {n}}[X_{n}-\theta ]\left[g'(\theta )\right]+O_{p}(1)\cdot o_{p}(1)\\&={\sqrt {n}}[X_{n}-\theta] \left[g'(\theta )\right]+o_{p}(1)\end{wyrównane}}}

Sugeruje to, że błąd przybliżenia jest zbieżny do 0 w prawdopodobieństwie.

Wielowymiarowa metoda delta

Z definicji spójny estymator B jest zbieżny pod względem prawdopodobieństwa do swojej wartości prawdziwej β i często można zastosować centralne twierdzenie graniczne , aby uzyskać asymptotyczną normalność :

{\ Displaystyle {\ sqrt {n}} \ lewo (B- \ beta \ prawo) \, {\ xrightarrow {D}} \, N \ lewo (0 ,\Sigma \po prawej),}

gdzie n to liczba obserwacji, a Σ to (symetryczna dodatnia półokreślona) macierz kowariancji. Załóżmy, że chcemy oszacować wariancję funkcji skalarnej h estymatora B . Zachowując tylko dwa pierwsze wyrazy szeregu Taylora i stosując notację wektorową dla gradientu , możemy oszacować h(B) jako

{\ Displaystyle h (B) \ około h (\ beta) + \ nabla h (\ beta) ^ {T} \ cdot (B-\beta )}

co implikuje, że wariancja h(B) wynosi w przybliżeniu

{\ Displaystyle {\ rozpocząć {wyrównane} \ nazwa operatora {Var} \ lewo (h (B) \ prawo) & \ około \ nazwa operatora {Var} \ lewo (h (\ beta) + \ nabla h ( \beta )^{T}\cdot (B-\beta )\right)\\&=\operatorname {Var} \left(h(\beta )+\nabla h(\beta )^{T}\cdot B -\nabla h(\beta )^{T}\cdot \beta \right)\\&=\operatorname {Var} \left(\nabla h(\beta)^{T}\cdot B\right)\\ &=\nabla h(\beta)^{T}\cdot \nazwa_operatora {Cov} (B)\cdot \nabla h(\beta)\\&=\nabla h(\beta)^{T}\cdot { \frac {\Sigma }{n}}\cdot \nabla h(\beta)\end{wyrównane}}}

Można użyć twierdzenia o wartości średniej (dla funkcji wielu zmiennych o wartościach rzeczywistych), aby zobaczyć, że nie polega to na przyjęciu aproksymacji pierwszego rzędu.

Metoda delta implikuje zatem to

{\ Displaystyle {\ sqrt {n}} \ lewo (h (B) - h(\beta )\right)\,{\xrightarrow {D}}\,N\left(0,\nabla h(\beta)^{T}\cdot \Sigma \cdot \nabla h(\beta)\ Prawidłowy)}

lub w kategoriach jednowymiarowych,

{\ Displaystyle {\ sqrt {n}} \ lewo (h (B) -h (\ beta) \ prawo) \, {\ xrightarrow {D}} \, N \ lewo (0, \ sigma ^ {2} \ cdot \left(h^{\prime }(\beta )\right)^{2}\right).}

Przykład: proporcja dwumianowa

Załóżmy, że X _n jest dwumianem z parametrami i n . ${\ Displaystyle p \ in (0,1]}$

{\ Displaystyle {{\ sqrt {n}} \ lewo [{\ Frac {X_ {n}} {n}} - p \right]\,{\xrightarrow {D}}\,N(0,p(1-p))},}

możemy zastosować metodę Delta z $g (θ) = log (θ)$ , aby zobaczyć

{\ Displaystyle {{\ sqrt {n}} \ lewo [\ log \left({\frac {X_{n}}{n}}\right)-\log(p)\right]\,{\xrightarrow {D}}\,N(0,p(1-p)[ 1/p]^{2})}}

$Stąd$ , chociaż dla dowolnego , wariancja nie X _n może $wynosić$ , asymptotyczna

{\ Displaystyle {\ Frac {1-p} {np.}}.}

Zauważ, że ponieważ p > 0 , ${\ Displaystyle \ Pr \ lewo ({\ Frac {X_ {n}}} {n}}> 0 \ prawej) \ rightarrow 1}$ jako ${\ Displaystyle n \ rightarrow \ infty}$ , więc z prawdopodobieństwem zbieżnym do jednego ${\ Displaystyle \ log \ lewo ({\ Frac {X_ {n}}} {n}} \ prawej)$ } skończony dla dużego n .

Ponadto, jeśli i są oszacowaniami różnych wskaźników grupowych z niezależnych próbek o rozmiarach $}}}$ { \ displaystyle { $p$ oszacowane ryzyko względne ma asymptotyczną wariancję równą ${\ Displaystyle {\ Frac {\ kapelusz {p}} {\ kapelusz {q}}}}$

{\ Displaystyle {\ Frac {1-p} {p \, n}} + {\ Frac {1-q} {q \, m}}.}

Jest to przydatne do skonstruowania testu hipotezy lub do wyznaczenia przedziału ufności dla względnego ryzyka.

Alternatywna forma

Metoda delta jest często używana w postaci, która jest zasadniczo identyczna z powyższą, ale bez założenia, że $X n$ lub B jest asymptotycznie normalny. Często jedynym kontekstem jest to, że wariancja jest „mała”. Wyniki dają wtedy tylko przybliżenia średnich i kowariancji przekształconych wielkości. Na przykład formuły przedstawione w Klein (1953, s. 258) to:

{\ Displaystyle {\ rozpocząć {wyrównane} \ nazwa operatora {Var} \ lewo (h_ {r} \ prawej) = & \ suma _{i}\left({\frac {\częściowy h_{r}}{\częściowy B_{i}}}\right)^{2}\operatorname {Var} \left(B_{i}\right)+ \sum _{i}\sum _{j\neq i}\left({\frac {\częściowe h_{r}}{\częściowe B_{i}}}\right)\left({\frac {\częściowe h_{r}}{\częściowo B_{j}}}\right)\nazwa_operatora {Cov} \left(B_{i},B_{j}\right)\\\nazwa_operatora {Cov} \left(h_{r },h_{s}\right)=&\sum _{i}\left({\frac {\częściowe h_{r}}{\częściowe B_{i}}}\right)\left({\frac { \partial h_{s}}{\partial B_{i}}}\right)\operatorname {Var} \left(B_{i}\right)+\sum _{i}\sum _{j\neq i} \left({\frac {\częściowe h_{r}}{\częściowe B_{i}}}\right)\left({\frac {\częściowe h_{s}}{\częściowe B_{j}}}\ right)\operatorname {Cov} \left(B_{i},B_{j}\right)\end{aligned}}}

gdzie $h r$ jest r- tym elementem h ( B ) a B _i jest i -tym elementem B .

Metoda delta drugiego rzędu

Gdy $g' (θ) = 0$ nie można zastosować metody delta. Jednakże, jeśli $g'' (θ)$ istnieje i nie jest równe zeru, można zastosować metodę delta drugiego rzędu. Przez rozwinięcie Taylora ${\ Displaystyle {\ sqrt {n }}[g(X_{n})-g(\theta )]={\frac {1}{2}}{\sqrt {n}}[X_{n}-\theta]^{2}\left [g ''(\ theta) \ right] + o_ {p} (1)}$ , tak że wariancja zależy od sol ${\ Displaystyle g \ lewo (X_ {n} \ prawej)$ czwarty moment ${\ displaystyle X_ {n}}$ .

$wielkość$ dokładniejszego przybliżenia rozkładu, próby jest ${\ displaystyle {\sqrt {n}}[g(X_{n})-g(\theta)]={\sqrt {n}}[X_{n}-\theta]g'(\theta)+{\frac {1}{2}}{\sqrt {n}}[X_{n}-\theta]^{2}g''(\theta)+o_{p}(1)}$ . Na przykład $ważoną$ gdy $jest zgodny$ ze standardowym rozkładem normalnym jako normalnej i chi-kwadrat o stopniu swobody równym 1.

Nieparametryczna metoda delta

Wersja metody delta istnieje w statystyce nieparametrycznej . Niech $\ sim F}$ ${\ displaystyle {\ hat { F}} _ {n}}$ będzie niezależną zmienną losową o identycznym rozkładzie z próbką o rozmiarze $n$ funkcją rozkładu empirycznego i niech $funkcjonałem$ . Jeśli jest różniczkowalna Hadamarda względem metryki Czebyszewa , to ${\ displaystyle T}$

{\ Displaystyle {\ Frac {T ({\ kapelusz {F}} _ {n}) - T (F)} {\ szeroki kapelusz {\ mathit {se}}}} \ xrightarrow {D} ​​N (0,1)}

gdzie ${\ Displaystyle {\ widehat {\ mathit {se}}} = {\ Frac {\ kapelusz {\ tau}} {\ sqrt {n}}}}$ i ${\ Displaystyle {\ kapelusz {\ tau}} ^ {2} = {\ Frac {1} {n}} \ suma _ {i = 1} ^ {n} {\ kapelusz {L}} ^ {2} (X_ {i})}$ , gdzie ${\ Displaystyle {\ kapelusz {L}} (x) = L_ { {\ hat {F}} _ {n}} (\ delta _ {x})} oznaczający$ funkcję wpływu empirycznego dla ${\ displaystyle T}$ . Nieparametryczny $F)$ asymptotyczny przedział ufności dla jest więc $}$ przez

{\ Displaystyle T ({\ kapelusz {F}} _ {n}) \ pm z _ {\ alfa / 2} {\ widehat {\ mathit {se}} }}

gdzie oznacza -kwantyl standardowej normalnej. $displaystyle$ $z_ {q}}$ Patrz Wasserman (2006) s. 19f. po szczegóły i przykłady.

Zobacz też

Dalsza lektura

Oehlert, GW (1992). „Uwaga dotycząca metody Delta”. Amerykański statystyk . 46 (1): 27–29. doi : 10.1080/00031305.1992.10475842 . JSTOR 2684406 .
Wolter, Kirk M. (1985). „Metody serii Taylora” . Wprowadzenie do szacowania wariancji . Nowy Jork: Springer. s. 221–247. ISBN 0-387-96119-4 .
Wasserman, Larry (2006). Wszystkie statystyki nieparametryczne . Nowy Jork: Springer. s. 19–20. ISBN 0-387-25145-6 .

Linki zewnętrzne

Asmussen, Soren (2005). „Niektóre zastosowania metody Delta” (PDF) . Notatki z wykładu . Uniwersytet w Aarhus. Zarchiwizowane od oryginału (PDF) w dniu 25 maja 2015 r.
Feiveson, Alan H. „Wyjaśnienie metody delta” . Stata Corp.
Xu, czerwiec; Długi, J. Scott (22 sierpnia 2005). „Korzystanie z metody Delta do konstruowania przedziałów ufności dla przewidywanych prawdopodobieństw, kursów i zmian dyskretnych” (PDF) . Notatki z wykładu . Uniwersytet Indiany.