hiperparametr

W statystyce bayesowskiej hiperparametr jest parametrem wcześniejszego rozkładu ; termin ten jest używany do odróżnienia ich od parametrów modelu dla analizowanego systemu bazowego.

Na przykład, jeśli ktoś używa rozkładu beta do modelowania rozkładu parametru p rozkładu Bernoulliego , to:

p jest parametrem systemu bazowego (rozkład Bernoulliego), oraz
α i β to parametry wcześniejszego rozkładu (rozkład beta), stąd hiperparametry .

Można przyjąć pojedynczą wartość dla danego hiperparametru lub można iterować i przyjąć rozkład prawdopodobieństwa samego hiperparametru, zwany hyperprior .

Zamiar

Często używa się a priori, która pochodzi z parametrycznej rodziny rozkładów prawdopodobieństwa - odbywa się to częściowo dla jawności (aby można było zapisać rozkład i wybrać formę, zmieniając hiperparametr, zamiast próbować stworzyć dowolną funkcję) i częściowo po to, aby można było zmieniać hiperparametr, szczególnie w metodzie koniugatów a priori lub w celu analizy wrażliwości.

Koniugat przeorów

W przypadku użycia koniugatu a priori rozkład a posteriori będzie pochodził z tej samej rodziny, ale będzie miał inne hiperparametry, które odzwierciedlają informacje dodane z danych: w kategoriach subiektywnych, czyjeś przekonania zostały zaktualizowane. W przypadku ogólnego rozkładu a priori jest to bardzo skomplikowane obliczeniowo, a późniejszy może mieć niezwykłą lub trudną do opisania postać, ale w przypadku sprzężonego wcześniejszego istnieje ogólnie prosta formuła łącząca wartości hiperparametrów a posteriori z tymi z a priori przed, a zatem obliczenie późniejszego rozkładu jest bardzo łatwe.

Analiza wrażliwości

Kluczową troską użytkowników statystyk bayesowskich i krytyką krytyków jest zależność późniejszego rozkładu od wcześniejszego. Hiperparametry rozwiązują ten problem, umożliwiając łatwą ich zmianę i zobaczenie, jak zmienia się późniejszy rozkład (i różne jego statystyki, takie jak wiarygodne przedziały ): można zobaczyć, jak wrażliwe są wnioski na wcześniejsze założenia, a proces ten nazywa się analizą wrażliwości .

Podobnie, można użyć rozkładu a priori z zakresem dla hiperparametru, być może odzwierciedlającego niepewność we właściwym przed wykonaniem, i odzwierciedlić to w zakresie niepewności końcowej.

hiperpriory

Zamiast używać pojedynczej wartości dla danego hiperparametru, można zamiast tego rozważyć rozkład prawdopodobieństwa samego hiperparametru; nazywa się to „ hiperpriorem ”. Zasadniczo można to powtarzać, nazywając parametry hyperprior „hiperhiperparametrami” i tak dalej.

Zobacz też

Empiryczna metoda Bayesa

Dalsza lektura

Bernardo, JM; Smith, AFM (2000). Teoria bayesowska . Nowy Jork: Wiley. ISBN 0-471-49464-X .
Gelman, A .; Hill, J. (2007). Analiza danych przy użyciu modeli regresji i wielopoziomowych/hierarchicznych . Nowy Jork: Cambridge University Press. s. 251–278. ISBN 978-0-521-68689-1 .
Kruschke, JK (2010). Wykonywanie analizy danych bayesowskich: samouczek z językiem R i BUGS . Prasa akademicka. s. 241–264. ISBN 978-0-12-381485-2 .