Funkcjonalna analiza danych

Funkcjonalna analiza danych (FDA) to gałąź statystyki , która analizuje dane dostarczające informacji o krzywych, powierzchniach lub czymkolwiek innym zmieniającym się w kontinuum. W swojej najbardziej ogólnej formie, w ramach FDA, każdy przykładowy element danych funkcjonalnych jest uważany za funkcję losową. Fizycznym kontinuum, w którym te funkcje są definiowane, jest często czas, ale może to być również lokalizacja przestrzenna, długość fali, prawdopodobieństwo itp. Wewnętrznie dane funkcjonalne są nieskończenie wymiarowe. Wysoka wewnętrzna wymiarowość tych danych stwarza wyzwania zarówno dla teorii, jak i obliczeń, gdzie wyzwania te różnią się w zależności od sposobu próbkowania danych funkcjonalnych. Jednak wielowymiarowa lub nieskończona struktura wymiarowa danych jest bogatym źródłem informacji i istnieje wiele interesujących wyzwań dla badań i analizy danych.

Historia

Funkcjonalna analiza danych ma swoje korzenie w pracy Grenandera i Karhunena w latach czterdziestych i pięćdziesiątych XX wieku. Rozważali rozkład całkowalnego z kwadratem procesu stochastycznego w czasie ciągłym na składowe własne, obecnie znany jako rozkład Karhunena-Loève'a . Rygorystyczną analizę analizy głównych składowych funkcjonalnych przeprowadzili w latach 70. XX wieku Kleffe, Dauxois i Pousse, w tym wyniki dotyczące asymptotycznego rozkładu wartości własnych. Niedawno, w latach 90. i 2000., dziedzina ta skupiła się bardziej na zastosowaniach i zrozumieniu skutków gęstych i rzadkich schematów obserwacji. Termin „Analiza danych funkcjonalnych” został ukuty przez Jamesa O. Ramsaya .

Formalizm matematyczny

Funkcje losowe można postrzegać jako losowe elementy przyjmujące wartości w przestrzeni Hilberta lub jako proces stochastyczny . To pierwsze jest wygodniejsze z matematycznego punktu widzenia, podczas gdy drugie jest nieco bardziej odpowiednie z perspektywy stosowanej. Te dwa podejścia pokrywają się, jeśli funkcje losowe są ciągłe i spełniony jest warunek zwany ciągłością średniokwadratową .

Hilbertowskie zmienne losowe

Z punktu widzenia przestrzeni Hilberta rozważa się element losowy ${\ Displaystyle L ^ {2} [0,1]}$ wartościach Hilberta , gdzie $jest$$,$$[$ taką jak przestrzeń całkowalnych do kwadratu . $^ {2}} ^ {2} = \ mathbb {E} (\ int _ {0} ^ {1} | X (t) | ^ {2} dt) <\ infty} , można$ mi zdefiniować średnią z ${\ Displaystyle X}$ jako unikalny element satysfakcjonujący ${\ displaystyle \ mu \ in H}$

${\ Displaystyle \ mathbb {E} \ langle X, h \ rangle = \ langle \ mu, h \ rangle, \ qquad h \ w H.}$

To sformułowanie jest całką Pettisa , ale średnią można również zdefiniować jako całkę Bochnera ${\ displaystyle \ mu = \ mathbb {E} X}$ . $}$ warunkiem całkowalności $że$ operator X $\$ Displaystyle jest ${\ Displaystyle {\ mathcal {C}}: H \ do H}$ liniowym, który jest jednoznacznie zdefiniowany przez relację do

${\ Displaystyle {\ mathcal {C}} h = \ mathbb {E} [\ langle h, X- \ mu \ zakres (X-\mu )],\qquad h\in H,}$

lub w postaci tensorowej ${\ Displaystyle {\ mathcal {C}} = \ mathbb {E} [(X- \ mu) \ otimes (X- \mu )]}$ . Twierdzenie spektralne pozwala rozłożyć $Karhunena$ rozkład -Loève'a

${\ Displaystyle X = \ mu + \ suma _ {i = 1} ^ {\ infty} \ langle X \ varphi _ {i} \ zakres \varphi _{i},}$

gdzie są wektorami własnymi , odpowiadającymi nieujemnym wartościom własnym , $i}}$ ja ${$$\ varphi _$ nierosnący porządek. Skrócenie tego nieskończonego szeregu do skończonego porządku stanowi podstawę funkcjonalnej analizy składowych głównych .

Procesy stochastyczne

Hilbertowski punkt widzenia jest matematycznie wygodny, ale abstrakcyjny; powyższe rozważania niekoniecznie w ogóle postrzegają jako funkcję, ponieważ powszechne wybory, $takie$ jak $Displaystyle$$L ^ {2} [0,1$ i przestrzenie Sobolewa składają się z klas równoważności, a nie funkcji. Perspektywa procesu stochastycznego postrzega ${\ displaystyle X}$ jako zbiór zmiennych losowych

${\ Displaystyle \ {X (t) \} _ {t \ w [0,1]}}$

indeksowane według przedziału jednostkowego (lub bardziej ogólnie przedziału ${\ displaystyle {\ mathcal {T}}})$ . Funkcje średniej i kowariancji definiuje się punktowo jako

${\ Displaystyle \ mu (t) = \ mathbb {E} X(t),\qquad \Sigma (s,t)={\textrm {Cov}}(X(s),X(t)),\qquad s,t\in [0,1]}$

(jeśli ${\ Displaystyle \ mathbb {E} [X (t) ^ {2}] <\ infty}$ dla wszystkich ${\ Displaystyle t \ w [0 ,1]}$ ).

Pod ciągłością średniokwadratową $i$ i $\ displaystyle {\ mathcal {C}}:H\to H}$$,$ a następnie funkcja kowariancji definiuje operator kowariancji $\ displaystyle$ podane b

$${\ Displaystyle ({\ mathcal {C}} f) (t) = \ int _ {0} ^ {1} \ Sigma (s, t) f (s) \ \ operatorname {d} s.}$$

 

 

 

 

()

Twierdzenie widmowe ${\ Displaystyle (\ lambda _ {j}, \ varphi _ {j})}$ zastosowanie do , dając pary własne $jot$ więc w notacja iloczynu tensorowego ${\ displaystyle {\ mathcal {C}}}$ do

${\ Displaystyle {\ mathcal {C}} = \ suma _ {j = 1} ^ {\ infty} \ lambda _ {j} \ varphi _ {j} \ czasami \ varphi _ {j}.}$

$_$ ponieważ $jest$ dla $ciągłe$ , _ Następnie stwierdza to twierdzenie Mercera

${\ Displaystyle \ sup _ {s, t \ w [0,1]} \ lewo | \ Sigma (s, t) - \ suma _ {j = 1} ^ {K} \ lambda _ {j} \ varphi _ {j}(s)\varphi _{j}(t)\right|\do 0,\qquad K\do \infty .}$

Wreszcie, przy dodatkowym założeniu, że ma ciągłe ścieżki próbkowania, a mianowicie z prawdopodobieństwem jeden, funkcja losowa $→$$[0,1] \ do \ mathbb$ jest ciągłe, powyższe rozwinięcie Karhunena-Loève'a zachodzi dla ${\ displaystyle X}$ i można później zastosować maszynerię kosmiczną Hilberta. Ciągłość ścieżek próbki można pokazać za pomocą twierdzenia o ciągłości Kołmogorowa .

Funkcjonalne projekty danych

$} 2}}$ za realizacje procesu stochastycznego. ${\ Displaystyle X (t), \ t \ w [$ 0,1 proces na ograniczonym i zamkniętym przedziale ${\ Displaystyle [0,1]}$ ze średnią funkcją ${\ Displaystyle \ mu (t) = \ mathbb { mi} (X (t))}$ i funkcja kowariancji ${\ Displaystyle \ Sigma (s, t) = {\ textrm {Cov}} ( X(s),X(t))}$ . Realizacje procesu dla i-tego przedmiotu to $,$$, że$ składa się . Harmonogram pobierania próbek może różnić się w zależności od osobnika, co oznacza ${\ Displaystyle T_ {i1}, ..., T_ {iN_ {i}}}$ i-tego przedmiotu. Odpowiednia i-ta obserwacja jest oznaczona jako ${\ textbf {X}} _ {i} = (X_ {i1},$${\ Displaystyle X_ {ij} = X_ {i} (T_ {ij}$ jot . Ponadto zakłada się , że pomiar ma losowy szum $Displaystyle$$epsilon _ {ij}}$$\ mathbb { mi} (\ epsilon _ {ij}) = 0}$ z i ${\ Displaystyle {\ textrm {Var}} (\ epsilon _ {ij}) = \ sigma _ {ij} ^ {2}}$ , które są niezależne w poprzek $displaystyle$ jot $j}$ .

1. W pełni obserwowane funkcje bez szumu przy dowolnie gęstej siatce

${\ Displaystyle Y_ {it} = X_ {i} (t)}$ dostępne dla wszystkich ${\ Displaystyle t \ w {\ mathcal { I}},\,i=1,\ldkropki,n}$

Często nierealne, ale matematycznie wygodne.

Przykład z życia wzięty: Dane spektralne Tecatora.

2. Gęsto próbkowane funkcje z zaszumionymi pomiarami (konstrukcja gęsta)

Pomiary ${\ Displaystyle Y_ {ij} = X_ {i} (T_ {ij}) + \ varepsilon _ {ij}}$ , gdzie ${\ Displaystyle T_{ij}}$ są rejestrowane na regularnej siatce,

${\ Displaystyle T_ {i1}, \ ldots, T_ {iN_ {i}}}$ i ${\ Displaystyle N_ {i} \ rightarrow \ infty}$ dotyczy typowych dane funkcjonalne.

Przykład z życia: Berkeley Growth Study Data i dane giełdowe

3. Rzadko próbkowane funkcje z zaszumionymi pomiarami (dane podłużne)

Pomiary ${\ Displaystyle Y_ {ij} = X_ {i} (T_ {ij}) + \ varepsilon _ {ij}}$ , gdzie ${\ Displaystyle T_ {ij}}$ to losowe czasy, a ich liczba $na$ losowa i skończona.

Przykład z życia wzięty: dane dotyczące liczby komórek CD4 u pacjentów z AIDS.

Funkcjonalna analiza składowych głównych

Funkcjonalna analiza głównych składowych (FPCA) jest najbardziej rozpowszechnionym narzędziem w FDA, częściowo dlatego, że FPCA ułatwia redukcję wymiarów z natury nieskończenie wymiarowych danych funkcjonalnych do skończenie wymiarowego losowego wektora wyników. Mówiąc dokładniej, $uzyskuje$ wymiarów się poprzez rozszerzenie podstawowych obserwowanych losowych trajektorii podstawie się z funkcji własnych operatora $.$ Rozważmy operatora kowariancji ${\ Displaystyle {\ mathcal {C}}: L ^ {2} [0,1] \ rightarrow L ^ {2} [0, 1]}$ jak w ( 1 ), który jest operatorem zwartym w przestrzeni Hilberta .

Zgodnie z twierdzeniem Mercera jądro funkcji $,$ ma rozkład widmowy $, \ cdot)}$${\ Displaystyle \ Sigma (s, t) = \ suma _ {k = 1} ^ {\ infty} \ lambda _ { k} \ varphi _ {k} (s) \ varphi _ {k} (t)}$ , gdzie zbieżność szeregu jest bezwzględna i jednolita, a są nieujemnymi wartościami własnymi o wartościach rzeczywistych ${\ Displaystyle \ lambda _ {k}}$ w porządku malejącym z odpowiednimi ortonormalnymi funkcjami własnymi ${\ Displaystyle \ varphi _ {k} (t)}$ . Zgodnie z twierdzeniem Karhunena-Loève'a rozszerzenie FPCA podstawowej losowej trajektorii wynosi ${\ Displaystyle X_ {i} (t) =\mu (t)+\sum _{k=1}^{\infty}A_{ik}\varphi _{k}(t)} ,$ gdzie ${\ Displaystyle A_ {ik} = \ int _ {0} ^ {1} (X_ {i} (t) - \ mu (t)} \ varphi _ {k} (t)dt}$ to funkcjonalne główne składniki (FPC), czasami określane jako wyniki. Rozwinięcie Karhunena-Loève'a ułatwia redukcję wymiarów w tym sensie, że suma częściowa jest zbieżna jednostajnie, tj. ${\ Displaystyle \ sup _ {t \ w [0,1]} \ mathbb {E} [X_ {i} (t) - \ mu (t) - \ suma _ {k = 1} ^ {K} A_ {ik} \ varphi _ {k} (t)] ^ {2} \ rightarrow 0}$ jak ${\ Displaystyle K \ rightarrow \ infty},$ a zatem suma częściowa z wystarczająco dużym ${ \displaystyle K}$ daje dobre przybliżenie sumy nieskończonej. W ten sposób informacja w $wektorze wymiarowym$ jest zredukowana z nieskończonego wymiaru do $}$ ZA $\$ z procesem przybliżonym：

$${\ Displaystyle X_ {i} ^ {(K)} (t) = \ mu (t) + \sum _{k=1}^{K}A_{ik}\varphi _{k}(t)}$$

 

 

 

 

()

Inne popularne bazy to splajn , szereg Fouriera i bazy falkowe. Do ważnych zastosowań FPCA należą tryby zmienności i regresja głównych składowych funkcjonalnych.

Funkcjonalne modele regresji liniowej

Funkcjonalne modele liniowe można postrzegać jako rozszerzenie tradycyjnych wielowymiarowych modeli liniowych , które łączą odpowiedzi wektorów ze współzmiennymi wektorów. Tradycyjny model liniowy z odpowiedzią skalarną $X$ współzmienną wektorową można wyrazić jako $}}$

$${\ Displaystyle Y = \ beta _ {0} + \ langle X, \ beta \ rangle + \ varepsilon =\beta _{0}+X_{1}\beta _{1}+\kropki +X_{p}\beta _{p}+\varepsilon ,}$$

 

 

 

 

()

gdzie $\ Displaystyle \ langle \ cdot, \ cdot \ rangle}$$\ beta \ in \ mathbb {R} ^ {p}}$ oznacza iloczyn wewnętrzny w przestrzeni euklidesowej i ${0} \ in \ mathbb {R}}$ { \ Displaystyle \ beta $displaystyle$ oznaczają współczynniki regresji, a jest zerowym średnim losowym o skończonej wariancji (szum). Funkcjonalne modele liniowe można podzielić na dwa typy w oparciu o odpowiedzi.

Funkcjonalne modele regresji z odpowiedzią skalarną

Zastąpienie współzmiennej wektora $i$ wektora współczynników $)$${\ Displaystyle X ^ {c} (t) = X (t) - \ mu (t)}$ ( 3 przez wyśrodkowaną współzmienną funkcjonalną i funkcja współczynnika ${\ Displaystyle \ beta = \ beta (t)}$ dla ${\ Displaystyle t \ w [0,1]}$ i zastępując iloczyn wewnętrzny w przestrzeni euklidesowej przez iloczyn w przestrzeni Hilberta , dochodzi się do funkcjonalnego modelu liniowego ${\ displaystyle L ^ {2}}$

$${\ Displaystyle Y = \ beta _ {0} + \ langle X ^ {c}, \ beta \ rangle + \ varepsilon = \ beta _ {0} + \ int _ {0} ^ {1} X ^ {c} (t)\beta (t)\,dt+\varepsilon .}$$

 

 

 

 

()

Prosty funkcjonalny model liniowy ( $dodatkowe$ rozszerzyć na wiele również ${\ Displaystyle Z = (Z_ {1}, \ cdots, Z_ {q})}$ , gdzie ${\ Displaystyle Z_ {1} = 1$ } przez

$${\ Displaystyle Y = \ langle Z, \ teta \ rangle + \ suma _ {j =1}^{p}\int _{0}^{1}X_{j}^{c}(t)\beta _{j}(t)\,dt+\varepsilon ,}$$

 

 

 

 

()

gdzie $}}}$$mathbb {$$q$ jest współczynnikiem regresji dla , dziedziną jest ${\ Displaystyle [0,1]}$ , $do {\ Displaystyle X_ {j} ^ {c}} jest$${\ Displaystyle X_ {j} ^ {c} (t) = X_ {j} (t) - \ mu _ {j} (t)} i jest regresją β jot {\ Displaystyle \ beta$ współzmienną funkcjonalną określoną przez _ { $}$ funkcja współczynnika dla , dla $,$$ldots, p$ \ Displaystyle j = 1 Modele ( 4 ) i ( 5 ) były szeroko badane.

Modele regresji funkcjonalnej z odpowiedzią funkcjonalną

Rozważ odpowiedź funkcjonalną $\ Displaystyle$ [ $[0,1]}$ wiele współzmiennych funkcjonalnych ${\ Displaystyle X_ {j} (t$ , ${\ Displaystyle t \ w [0,1]}$ , ${\ Displaystyle j = 1, \ ldots, p}$ . W tej konfiguracji rozważono dwa główne modele. Jeden z tych dwóch modeli, ogólnie określany jako funkcjonalny model liniowy (FLM), można zapisać jako:

$${\ Displaystyle Y ( s)=\alpha _{0}(s)+\suma _{j=1}^{p}\int _{0}^{1}\alpha _{j}(s,t)X_{j} ^{c}(t)\,dt+\varepsilon (s),\ {\text{for}}\ s\w [0,1]}$$

 

 

 

 

()

gdzie ${\ Displaystyle \ alpha _ {0} (s)}$ jest funkcjonalnym punktem przecięcia, dla ${\ Displaystyle j = 1, \ ldots, p}$ , ${\ Displaystyle X_ {j} ^ {c} (t) = X_ {j} (t) - \ mu _ {j} (t)} jest wyśrodkowaną współzmienną$ funkcjonalną na ${\ Displaystyle [0,1]}$ , ${\ Displaystyle \ alfa _ {j} (s, t)}$ to odpowiednie nachylenia funkcjonalne o tej samej domenie, odpowiednio, i ${\ Displaystyle \ varepsilon (s)}$ jest zwykle procesem losowym ze średnią zerową i skończoną wariancją. W tym przypadku ${\ Displaystyle Y (s) }$ dowolnym momencie wartość ${\ Displaystyle s \ w [0,1]}$ tj. $)$ zależy od całych trajektorii ${\ Displaystyle \ {X_ {j} (t) \} _ {j = 1} ^ {p}}$ . Model ( 6 ) był szeroko badany.

Regresja funkcji na skalerze

W szczególności przyjęcie jako stałej funkcji daje szczególny przypadek modelu ( 6 ) ${\ Displaystyle X_ {j} (\ cdot)$ }

$${\ Displaystyle Y (s) = \ alfa _ {0} (s)+\sum _{j=1}^{p}X_{j}\alpha _{j}(s)+\varepsilon (s),\ {\text{for}}\ s\w [0 ,1],}$$

który jest funkcjonalnym modelem liniowym z odpowiedziami funkcjonalnymi i współzmiennymi skalarnymi.

Współbieżne modele regresji

Ten model jest podany przez,

$${\ Displaystyle Y (s) = \ beta _ {0}(s)+\sum _{j=1}^{p}\beta _{j}(s)X_{j}(s)+\varepsilon (s),\ {\text{for}} \ s\w [0,1],}$$

 

 

 

 

()

gdzie $\$${\ Displaystyle \ beta _ {0}, \ beta _ {1}, \ ldots, \ beta _ {p}} są$ na $[0,1$ β funkcjami współczynników zdefiniowanymi w tym samym przedziale i ${\ Displaystyle \ varepsilon (s) }$ zwykle przyjmuje się, że jest procesem losowym ze średnią zerową i skończoną wariancją. Model ten zakłada, $} (s) \} _ {j = 1} ^ {p}}$ ​​wartość zależy od bieżącej wartości ${\ Displaystyle Y (s)}$ tylko, a nie historia ${\ Displaystyle \ {X_ {j} (t): t \ równoważnik s \} _{j=1}^{p}}$ lub wartość przyszła. Dlatego jest to „model regresji współbieżnej”, który jest również określany jako model „zmiennego współczynnika”. Ponadto zaproponowano różne metody szacowania.

Funkcjonalne modele regresji nieliniowej

Bezpośrednie nieliniowe rozszerzenia klasycznych funkcjonalnych modeli regresji liniowej (FLM) nadal obejmują predyktor liniowy, ale łączą go z nieliniową funkcją łączenia, analogicznie do idei uogólnionego modelu liniowego z konwencjonalnego modelu liniowego. Rozwój w kierunku w pełni nieparametrycznych modeli regresji danych funkcjonalnych napotyka problemy, takie jak przekleństwo wymiarowości . Aby ominąć „przekleństwo” i problem wyboru metryki, jesteśmy zmotywowani do rozważenia nieliniowych modeli regresji funkcjonalnej, które podlegają pewnym ograniczeniom strukturalnym, ale nie naruszają nadmiernie elastyczności. Pożądane są modele, które zachowują wielomianowe współczynniki zbieżności, a jednocześnie są bardziej elastyczne niż, powiedzmy, funkcjonalne modele liniowe. Modele takie są szczególnie przydatne, gdy diagnostyka funkcjonalnego modelu liniowego wskazuje na brak dopasowania, z którym często spotykamy się w rzeczywistych sytuacjach. W szczególności funkcjonalne modele wielomianowe, funkcjonalne modele z jednym i wieloma indeksami oraz funkcjonalne modele addytywne to trzy szczególne przypadki funkcjonalnych modeli regresji nieliniowej.

Funkcjonalne modele regresji wielomianowej

Funkcjonalne modele regresji wielomianowej można postrzegać jako naturalne rozszerzenie funkcjonalnych modeli liniowych (FLM) z odpowiedziami skalarnymi, analogicznie do rozszerzania modelu regresji liniowej na model regresji wielomianowej . Dla odpowiedzi skalarnej $\$ funkcjonalnej współzmiennej $Displaystyle X (\ cdot)}$ z domeną ${\ Displaystyle [0,1]}$ i odpowiednimi wyśrodkowanymi procesami predykcyjnymi ${\ Displaystyle X ^ {c}}$ , najprostszym i najbardziej widocznym członkiem rodziny modeli regresji wielomianów funkcyjnych jest kwadratowa regresja funkcyjna podana w następujący sposób:

$${\ Displaystyle \mathbb {E} (Y|X)=\alpha +\int _{0}^{1}\beta (t)X^{c}(t)\,dt+\int _{0}^{1} \int _{0}^{1}\gamma (s,t)X^{c}(s)X^{c}(t)\,ds\,dt}$$

gdzie ${\ Displaystyle X ^ {c} (\ cdot) = X (\ cdot) - \ mathbb {E} (X (\ cdot)) }$ jest wyśrodkowaną współzmienną funkcjonalną, jest współczynnikiem skalarnym, ${\ Displaystyle \ beta (\ cdot)}$$i$$Displaystyle \ gamma (\ cdot, \ cdot )}$ ( są funkcjami współczynników z dziedzinami odpowiednio ${\ Displaystyle [0,1]}$ i ${\ Displaystyle [0,1] \ razy [0,1]}$ . Oprócz funkcji parametru β, którą powyższy funkcjonalny model regresji kwadratowej dzieli z FLM, posiada on również powierzchnię parametru γ. Analogicznie do FLM z odpowiedziami skalarnymi, oszacowanie modeli wielomianów funkcyjnych można uzyskać poprzez rozwinięcie zarówno wyśrodkowanej współzmiennej, $. gamma }$$}$ współczynników i ${\ displaystyle \ beta$ w bazie ortonormalnej.

Funkcjonalne modele z jednym i wieloma indeksami

Funkcjonalny model wielu indeksów podano poniżej, z symbolami mającymi swoje zwykłe znaczenie, jak opisano wcześniej,

$${\ Displaystyle \ mathbb {E} ( Y|X)=g\left(\int _{0}^{1}X^{c}(t)\beta _{1}(t)\,dt,\ldots ,\int _{0}^ {1}X^{c}(t)\beta _{p}(t)\,dt\right)}$$

Tutaj g reprezentuje (nieznaną) ogólną funkcję gładką zdefiniowaną w domenie p-wymiarowej. Przypadek $}$$displaystyle$ { . Jednak dla $wymiarowości$ problematyczny ze względu przekleństwo . Przy $próbek$ estymator podany w tym modelu często ma dużą

Funkcjonalne modele addytywne (FAM)

Dla danej podstawy ortonormalnej ${\ Displaystyle \ {\ phi _ {k} \} _ {k = 1} ^ {\ infty}}$ na ${\ Displaystyle L ^ {2}[0,1]}$ , możemy rozwinąć ${\ Displaystyle X ^ {c} (t) = \ suma _ {k = 1 } ^ {\ infty} x_ {k} \ phi _ {k} (t)}$ w domenie ${\ Displaystyle [0,1]}$ .

Funkcjonalny model liniowy z odpowiedziami skalarnymi (patrz ( 3 )) można zatem zapisać w następujący sposób:

$${\ Displaystyle \ mathbb {E} (Y | X) = \ mathbb {E} (Y) + \ suma _ {k = 1} ^ {\ infty} \ beta _ {k} x_ {k}.}$$

$)$ funkcji liniowej $a$ wyrażeniu (tj. przez ${\ displaystyle f_ {k}}$ gładka funkcja , analogiczna do rozszerzenia modeli regresji liniowej wielokrotnej na modele addytywne i jest wyrażona jako: fa

$${\ Displaystyle \ mathbb {E} (Y | X) = \ mathbb {E} (Y) + \ suma _ {k=1}^{\infty}f_{k}(x_{k}),}$$

gdzie ${\ Displaystyle f_ {k}}$ spełnia mi $\ Displaystyle \ mathbb {E} (f_ {k} (x_ {k}}) = 0}$ dla ${ \displaystyle k\w \mathbb {N}}$ . To ograniczenie ogólnych funkcji gładkich ${E } (Y)}$$Y$ { . Inną formą FAM jest model ciągłego dodawania, wyrażony jako:

$${\ Displaystyle \ mathbb {E} (Y | X) = \ mathbb {E} (Y) + \ int _{0}^{1}g(t,X(t))dt}$$

${\ Displaystyle \ mathbb {E} [g (t, X (t))] = 0}$$_$ gładkiej _ dla wszystkich ${\ Displaystyle t \ w [0,1] }$ , aby zapewnić identyfikowalność.

Uogólniony funkcjonalny model liniowy

Oczywistym i bezpośrednim rozszerzeniem FLM o odpowiedzi skalarne (patrz ( 3 )) jest dodanie funkcji łączącej prowadzącej do uogólnionego funkcjonalnego modelu liniowego (GFLM) analogicznie do uogólnionego modelu liniowego (GLM). Trzy składniki GFLM to:

1. ${\ Displaystyle \ eta = \ beta _ {0} + \ int _ {0} ^ {1} X ^ {c} (t$ do ; [składnik systematyczny]
2. Funkcja wariancji ${\ Displaystyle {\ tekst {Var}} (Y | X) = V (\ mu)}$ , gdzie ${\ Displaystyle \ mu =\mathbb {E} (Y|X)}$ to średnia warunkowa ; [składnik losowy]
3. Funkcja łączenia $\ mu = g (\ eta$ średnią warunkową predyktor liniowy do $)$$($$Displaystyle$ \ [składnik systematyczny]

Grupowanie i klasyfikacja danych funkcjonalnych

W przypadku danych wielowymiarowych o wartościach wektorowych metody partycjonowania k-średnich i hierarchiczne grupowanie to dwa główne podejścia. Te klasyczne koncepcje grupowania danych wielowymiarowych o wartościach wektorowych zostały rozszerzone na dane funkcjonalne. W przypadku grupowania danych funkcjonalnych metody grupowania k-średnich są bardziej popularne niż hierarchiczne metody grupowania. W przypadku grupowania k-średnich na danych funkcjonalnych, średnie funkcje są zwykle uważane za centra klastrów. Uwzględniono również struktury kowariancji. Oprócz grupowania typu k-średnich, grupowanie funkcjonalne oparte na modelach mieszanych jest również szeroko stosowane w grupowaniu danych wielowymiarowych o wartościach wektorowych i zostało rozszerzone na funkcjonalne grupowanie danych. Co więcej, klastry hierarchiczne Bayesa również odgrywają ważną rolę w rozwoju grupowania funkcjonalnego opartego na modelach.

Klasyfikacja funkcjonalna przypisuje przynależność do grupy do nowego obiektu danych na podstawie regresji funkcjonalnej lub funkcjonalnej analizy dyskryminacyjnej. Metody klasyfikacji danych funkcjonalnych oparte na modelach regresji funkcjonalnej wykorzystują poziomy klas jako odpowiedzi oraz obserwowane dane funkcjonalne i inne współzmienne jako predyktory. W przypadku funkcjonalnych modeli klasyfikacji opartych na regresji powszechnie stosowane są funkcjonalne uogólnione modele liniowe, a dokładniej funkcjonalna regresja binarna, taka jak funkcjonalna regresja logistyczna dla odpowiedzi binarnych. stosowany jest uogólniony funkcjonalny model regresji liniowej oparty na podejściu FPCA . Funkcjonalna liniowa analiza dyskryminacyjna (FLDA) została również uznana za metodę klasyfikacji danych funkcjonalnych. Zaproponowano również funkcjonalną klasyfikację danych obejmującą stosunki gęstości. Badanie asymptotycznego zachowania proponowanych klasyfikatorów w limicie dużej próby pokazuje, że w pewnych warunkach wskaźnik błędnej klasyfikacji zbiega się do zera, zjawisko to określa się mianem „klasyfikacji doskonałej”.

Zakrzywienie czasu

Motywacje

Struktury w przekroju poprzecznym są średnio zniszczone, jeśli pominie się zmienność czasową. Wręcz przeciwnie, struktury w średniej przekroju poprzecznego są dobrze uchwycone po przywróceniu zmienności czasowej.

Oprócz zmienności amplitudy można również założyć, że w danych funkcjonalnych występuje zmienność w czasie. Zmienność czasowa występuje, gdy specyficzny dla przedmiotu czas wystąpienia pewnych interesujących wydarzeń jest różny dla różnych przedmiotów. Jednym z klasycznych przykładów są Berkeley Growth Study Data , gdzie zmienność amplitudy to tempo wzrostu, a zmienność w czasie wyjaśnia różnicę w wieku biologicznym dzieci, w których nastąpił okres dojrzewania i przed okresem dojrzewania. W obecności zmian w czasie, przekrojowa funkcja średnia może nie być efektywnym oszacowaniem, ponieważ szczyty i dołki są rozmieszczone losowo, a zatem znaczące sygnały mogą być zniekształcone lub ukryte.

Dopasowywanie czasu, znane również jako rejestracja krzywej, wyrównanie krzywej lub synchronizacja czasu, ma na celu identyfikację i oddzielenie zmian amplitudy i zmian czasu. Jeśli obecne są zarówno zmiany czasu ${\ Displaystyle Y_ {i} (t) = X_ {i} [h_ {i} ^ {- 1} (t)], t \ in [0,1]} ,$$,$ obserwowane dane funkcjonalne modelować jako gdzie ${\ Displaystyle X_ {i} {\ overset {iid} {\ sim}} X}$ jest ukrytą funkcją amplitudy i ${\ displaystyle h_ {i} {\ overset {iid} {\ sim} }h}$ jest ukrytą funkcją dopasowania czasu, która odpowiada skumulowanej funkcji rozkładu. $\ Displaystyle \ mathbb {E} (h ^ {- 1} (t)) =$ funkcje dopasowania czasu są odwracalne i spełniają mi $)$ .

$liniowa$ rodziny funkcji wypaczających określających zmianę fazy jest która podstawowa funkcja szablonu przez przesunięcie i skalę specyficzną dla podmiotu. Bardziej ogólna klasa funkcji wypaczających obejmuje dyfeomorfizmy domeny do samej siebie, to znaczy, mówiąc luźno, klasę funkcji odwracalnych, które odwzorowują domenę zwartą na siebie tak, że zarówno funkcja, jak i jej odwrotność są gładkie. Zbiór transformacji liniowych zawiera się w zbiorze dyfeomorfizmów . Jednym z wyzwań związanych z dopasowaniem czasu jest identyfikowalność zmienności amplitudy i fazy. Aby przełamać tę nieidentyfikowalność, wymagane są określone założenia.

Metody

Wcześniejsze podejścia obejmowały dynamiczne dopasowanie czasu (DTW) używane w aplikacjach takich jak rozpoznawanie mowy . Inną tradycyjną metodą zakrzywiania czasu jest rejestracja punktów orientacyjnych, która wyrównuje specjalne cechy, takie jak lokalizacje szczytów, z lokalizacją średnią. $odpowiednie metody wypaczania obejmują wypaczanie$ , rejestrację przy użyciu odległości i wypaczanie elastyczne

Dynamiczne zakrzywianie czasu

Funkcja szablonu jest określana w procesie iteracji, zaczynając od średniej przekroju, wykonując rejestrację i ponownie obliczając średnią przekroju dla wypaczonych krzywych, oczekując zbieżności po kilku iteracjach. DTW minimalizuje funkcję kosztu poprzez programowanie dynamiczne. Problemy niepłynnych różniczkowalnych wypaczeń lub zachłannych obliczeń w DTW można rozwiązać, dodając składnik regularyzujący do funkcji kosztu.

Rejestracja punktu orientacyjnego

Rejestracja punktu orientacyjnego (lub wyrównanie cech) zakłada, że ​​wszystkie krzywe próbki zawierają dobrze wyrażone cechy i wykorzystuje lokalizację takich cech jako złoty standard. Funkcje specjalne, takie jak lokalizacje szczytów i dolin w funkcjach lub pochodnych, są wyrównane do ich średnich lokalizacji w funkcji szablonu. Następnie funkcja wypaczenia jest wprowadzana poprzez płynne przekształcenie z lokalizacji średniej do lokalizacji tematycznych. Problem z rejestracją punktów orientacyjnych polega na tym, że cechy mogą być niedostępne lub trudne do zidentyfikowania z powodu szumu w danych.

Rozszerzenia

Do tej pory rozważaliśmy proces stochastyczny o wartościach skalarnych, zdefiniowany w jednowymiarowej dziedzinie czasu ${\ Displaystyle \ {X (t) \} _ {t \ in {\ mathcal {T}}}}$ .

Wielowymiarowa domena ${\ Displaystyle X (\ cdot)}$

Dziedziną może być $na$ przykład $losowych$

Wielowymiarowy proces stochastyczny

Zestaw zakresów procesu stochastycznego można rozszerzyć od do ${$$\ displaystyle R ^ {p}}$ i dalej do rozmaitości nieliniowych, przestrzeni Hilberta i ostatecznie do przestrzeni metrycznych

Pakiety Pythona

Istnieją pakiety Pythona do pracy z danymi funkcjonalnymi i ich reprezentacją, wykonywania analiz eksploracyjnych lub przetwarzania wstępnego, a także innych zadań, takich jak wnioskowanie, klasyfikacja, regresja lub grupowanie danych funkcjonalnych.

• scikit-fda

Pakiety R

Niektóre pakiety mogą obsługiwać dane funkcjonalne zarówno w projektach gęstych, jak i podłużnych.

• fda
• refundacja
• fdapace
• FDboost
• classiFunc
• fda.usc
• dtw
• fdasrvf

Zobacz też

• Funkcjonalna analiza składowych głównych
• Twierdzenie Karhunena-Loève'a
• Tryby zmienności
• Regresja funkcjonalna
• Uogólniony funkcjonalny model liniowy
• Procesy stochastyczne
• Przestrzeń LP
• Funkcja wariancji

Dalsza lektura

•   Ramsay, JO i Silverman, BW (2005) Funkcjonalna analiza danych , wyd. 2, Nowy Jork: Springer, ISBN 0-387-40080-X
•   Horvath, L. i Kokoszka, P. (2012) Wnioskowanie dla danych funkcjonalnych z aplikacjami , Nowy Jork: Springer, ISBN 978-1-4614-3654-6
•   Hsing, T. and Eubank, R. (2015) Theoretical Foundations of Functional Data Analysis, with an Introduction to Linear Operators , szereg Wileya w prawdopodobieństwie i statystyce, John Wiley & Sons, Ltd, ISBN 978-0-470-01691-6
• Morris, J. (2015) Regresja funkcjonalna, Roczny przegląd statystyk i ich zastosowanie, tom. 2, 321 - 359, https://doi.org/10.1146/annurev-statistics-010814-020413
• Wang i in. (2016) Funkcjonalna analiza danych, roczny przegląd statystyk i ich zastosowanie, tom. 3, 257-295, https://doi.org/10.1146/annurev-statistics-041715-033624

Kategoria: Analiza regresji