Redukcja wariancji

Wariancję losowo generowanych punktów w obrębie kwadratu jednostkowego można zmniejszyć w procesie stratyfikacji.

W matematyce , a dokładniej w teorii metod Monte Carlo , redukcja wariancji jest procedurą stosowaną w celu zwiększenia precyzji oszacowań uzyskanych dla danej symulacji lub wysiłku obliczeniowego. Każda wyjściowa zmienna losowa z symulacji jest powiązana z wariancją , która ogranicza precyzję wyników symulacji. Aby symulacja była wydajna statystycznie, tj. aby uzyskać większą precyzję i mniejsze przedziały ufności dla wyjściowej zmiennej losowej będącej przedmiotem zainteresowania można zastosować techniki redukcji wariancji. Główne z nich to wspólne liczby losowe, zmienne antytetyczne , zmienne kontrolne , dobór ważności , próbkowanie warstwowe , dopasowywanie momentów, warunkowe Monte Carlo i zmienne quasi-losowe. Do symulacji z symulacją podzbioru modeli czarnoskrzynkowych i próbkowaniem liniowym może być również używany. Pod tymi nagłówkami znajduje się wiele specjalistycznych technik; na przykład symulacje transportu cząstek szeroko wykorzystują techniki „okien wagowych” i „rozszczepiania / rosyjskiej ruletki”, które są formą pobierania próbek o znaczeniu.

Surowa symulacja Monte Carlo

$\$ $, że$ $fa$ chce obliczyć zmienną losową zdefiniowaną w przestrzeni . Monte Carlo robi to poprzez próbkowanie iid . kopie ${\ Displaystyle Z_ {1}, ..., Z_ {R}$ } ${\ Displaystyle Z}$ , a następnie oszacować za pomocą estymatora średniej próbki ${\ displaystyle Z}$

{\ Displaystyle {\ overline {z}} = {\ Frac {1} {n}} \ suma _ {i = 1} ^ {n} Z_ {i}}

$,$ takich jak centralne $\ rightarrow \$ graniczne będzie miało , tak że dla dużych } rozkład zbiega się do rozkładu normalnego ze średnią ${\ Displaystyle {\$ błędem standardowym ${z}}}$ ${\ displaystyle \ sigma / {\ sqrt {n}}}$ . Ponieważ odchylenie standardowe zbiega się w kierunku tylko $)$ $co oznacza$ , $,$ że należy zwiększyć liczbę symulacji ( o współczynnik $połowę$ odchylenie standardowe $uzyskania$ dokładniejszych szacunków dla $displaystyle z}$ bez konieczności przeprowadzania bardzo dużej liczby symulacji.

Wspólne liczby losowe (CRN)

Powszechna technika redukcji wariancji liczb losowych jest popularną i użyteczną techniką redukcji wariancji, która ma zastosowanie, gdy porównujemy dwie lub więcej alternatywnych konfiguracji (systemu) zamiast badać pojedynczą konfigurację. CRN jest również nazywany skorelowanym próbkowaniem , dopasowanymi strumieniami lub dopasowanymi parami .

CRN wymaga synchronizacji strumieni liczb losowych, co zapewnia, że oprócz wykorzystania tych samych liczb losowych do symulacji wszystkich konfiguracji, określona liczba losowa użyta do określonego celu w jednej konfiguracji jest używana dokładnie w tym samym celu we wszystkich innych konfiguracjach. Na przykład w teorii kolejek, jeśli porównujemy dwie różne konfiguracje kasjerów w banku, chcielibyśmy, aby (losowy) czas przybycia N-tego klienta był generowany przy użyciu tego samego losowania ze strumienia liczb losowych dla obu konfiguracje.

Podstawowa zasada techniki CRN

Załóżmy $, że$ $i$ są obserwacjami z pierwszej i j- tej

Chcemy oszacować

{\ Displaystyle \ xi = E (X_ {1j}) -E (X_ {2j}) = \ mu _ {1} - \ mu _ {2}. \,}

Jeśli wykonamy n replikacji każdej konfiguracji i pozwolimy

{\ Displaystyle Z_ {j} = X_ {1j} -X_ {2j} \ quad {\ mbox {dla}} j = 1 ,2,\ldkropki ,n,}

mi $E (Z_ {j}) = \ xi}$ ${\ Displaystyle Z (n) = {\ Frac {\ suma _ {j = 1, \ ldots, n} Z_ {j}} {n}}}$ i jest nieobciążonym estymatorem ${\ displaystyle \ xi}$ .

A ponieważ są to niezależne zmienne losowe o identycznym rozkładzie, $\ displaystyle Z_ {j}}$

{\ Displaystyle \ nazwa operatora {Var} [Z (n)] = {\ Frac {\ nazwa operatora {Var} (Z_ {j})}} {n}} = {\ Frac {\ nazwa operatora {Var} [X_ {1j} ]+\nazwa_operatora {Var} [X_{2j}]-2\nazwa_operatora {Cov} [X_{1j},X_{2j}]}{n}}.}

W przypadku niezależnego próbkowania, tj. bez wspólnych liczb losowych, wtedy Cov( X _{1 j} , X _{2 j} ) = 0. Ale jeśli uda nam się wywołać element dodatniej korelacji między X ₁ i X ₂ taki, że Cov ( X _{1 j} , X _{2 j} ) > 0, z powyższego równania widać, że wariancja jest zmniejszona.

Można również zauważyć, że jeśli CRN indukuje ujemną korelację, tj. Cov( X _{1 j} , X _{2 j} ) < 0, technika ta może faktycznie przynieść odwrotny skutek, gdy wariancja jest zwiększona, a nie zmniejszona (zgodnie z zamierzeniami).

Zobacz też

Wyjaśniona wariancja

Hammersley, JM; Grzebień, DC (1964). Metody Monte Carlo . Londyn: Methuen. ISBN 0-416-52340-4 .
Kahn, H.; Marshall, AW (1953). „Metody zmniejszania wielkości próby w obliczeniach Monte Carlo”. Journal of Operations Research Society of America . 1 (5): 263–271. doi : 10.1287/opre.1.5.263 .
MCNP — ogólny kodeks transportu cząstek N z Monte Carlo, wersja 5 Raport z Los Alamos LA-UR-03-1987