Majoryzacja stresu

Majoryzacja naprężeń to strategia optymalizacji $}$ w skalowaniu wielowymiarowym $($ MDS ${\ displaystyle n$$dla$ zbioru $}$ elementów danych konfiguracja punkty w $poszukiwana$$minimalizuje$ jest tak zwaną funkcję ${\ Displaystyle \ sigma (X)}$ . Zwykle jest to 2 $Displaystyle$$2}$ lub $\ Displaystyle 3}$${\ Displaystyle 2-}$ , tj. $r$ wymienia punkty $}$ lub ${\ Displaystyle 3-}$ wymiarowa przestrzeń euklidesowa tak aby wynik mógł być zwizualizowany (tj. wykres MDS ). Funkcja funkcją kosztu lub $straty$ , która mierzy kwadratowe różnice między idealnymi ( $)$ a rzeczywistymi odległościami w przestrzeni r -wymiarowej. Jest zdefiniowany jako:

${\ Displaystyle \ sigma (X) = \ suma _ {i <j \ równoważnik n} w_ {ij }(d_{ij}(X)-\delta _{ij})^{2}}$

w ${\ Displaystyle w_ {ij} \ geq 0} jest wagą$ pomiaru między parą punktów ${\ Displaystyle (i, j)}$ , ${\ displaystyle d_ {ij} (X)}$ to odległość euklidesowa między ${\ displaystyle i}$ i ${\ displaystyle j}$ i ${\ displaystyle \ delta _ {ij}}$ jest idealną odległością między punktami (ich separacją) w $przestrzeni$ danych. Zauważ, że $.$ użyć do określenia stopnia pewności co do podobieństwa między punktami (np. 0 można określić, jeśli nie ma informacji dla określonej

Konfiguracja , która minimalizuje, $.$ wykres, na którym punkty, które są blisko siebie, odpowiadają punktom, $również$$są$ -wymiarowa przestrzeń danych.

Istnieje wiele sposobów, które można zminimalizować. ${\ displaystyle \ sigma (X)}$ Na przykład Kruskal zalecił iteracyjne podejście do najbardziej stromego zejścia . Jednak znacznie lepszą (pod względem gwarancji i tempa konwergencji) metodę minimalizacji stresu wprowadził Jan de Leeuw . Iteracyjna metoda majoryzacji De Leeuw każdym kroku minimalizuje prostą funkcję wypukłą, która zarówno ogranicza z góry, jak i dotyka powierzchni ${\ displaystyle \ sigma}$${\ displaystyle \ sigma}$ w punkcie , zwanym punktem $podparcia$ W analizie wypukłej taką funkcję nazywamy funkcją majoryzującą . Ten iteracyjny proces majoryzacji jest również nazywany algorytmem SMACOF („Skalowanie przez MAjorowanie złożonej funkcji”).

Algorytm SMACOF

Funkcję stresu można rozwinąć w następujący sposób: ${\ displaystyle \ sigma}$

${\ Displaystyle \ sigma (X) = \ suma _ {i <j \ równoważnik n} w_ {ij} (d_ {ij} (X )-\delta _{ij})^{2}=\sum _{i<j}w_{ij}\delta _{ij}^{2}+\sum _{i<j}w_{ij}d_ {ij}^{2}(X)-2\suma _{i<j}w_{ij}\delta _{ij}d_{ij}(X)}$

$macierzy$ że pierwszy człon jest stałą $V$$a$ drugi człon jest kwadratowy w ${\ displaystyle X'VX}$ dla Hesji drugi człon jest równoważny tr ) i dlatego stosunkowo łatwo rozwiązać. Trzeci wyraz jest ograniczony przez:

${ij} \ delta _{ij}d_{ij}(X)=\,\nazwa_operatora {tr} \,X'B(X)X\geq \,\nazwa_operatora {tr} \,X'B(Z)Z}$

gdzie ${\ Displaystyle B (Z)}$ ma:

${\ Displaystyle b_ {ij} = - {\ Frac {w_ {ij} \ delta _ {ij}} {d_ {ij} (Z)} }}$ dla re $(Z) \ neq 0, i \ neq j}$

i ${\ Displaystyle b_ {ij} = 0}$ dla ${\ Displaystyle d_ {ij} (Z) = 0, i \ neq j}$

i ${\ Displaystyle b_ {ii} = - \ suma _ {j = 1, j \ neq i} ^ {n} b_ {ij}}$ .

Dowodem tej nierówności jest nierówność Cauchy'ego-Schwarza , patrz Borg (s. 152–153).

Mamy więc prostą funkcję kwadratową , która zwiększa naprężenie: ${\ Displaystyle \ tau (X, Z)}$

${\ Displaystyle \ sigma (X) = C + \, \ nazwa operatora {tr} \, X'VX-2 \, \ nazwa operatora {tr} \,X'B(X)X}$

${\ Displaystyle \ równoważnik C + \, \ nazwa operatora {tr} \, X'VX-2 \, \ nazwa operatora {tr} \, X'B (Z) Z = \ tau (X, Z)}$

Iteracyjna procedura minimalizacji wygląda wtedy następująco:

• k ${\ Displaystyle k ^ {th}}$${\ Displaystyle Z \ leftarrow X ^ {k-1}}$ ustawiamy
• ${\ Displaystyle X ^ {k} \ lewa strzałka \ min _ {X} \ tau (X, Z)}$
• przestań, jeśli ${\ Displaystyle \ sigma (X ^ {k-1}) - \ sigma (X ^ {k}) <\ epsilon}$ w przeciwnym razie powtórz.

Wykazano, że ten algorytm zmniejsza stres monotonicznie (patrz de Leeuw).

Użyj w rysowaniu wykresów

Majoryzacja naprężeń i algorytmy podobne do SMACOF mają również zastosowanie w dziedzinie rysowania wykresów . Oznacza to, że można znaleźć dość atrakcyjny estetycznie układ sieci lub wykresu, minimalizując funkcję naprężeń względem pozycji węzłów na wykresie. $} styl wyświetlania w_{ij}}$ tym przypadku są zwykle ustawiane na teoretyczne odległości między węzłami i grafami ${$ δ ja $\ Displaystyle \$$}$${\ Displaystyle \ delta _ {ij} ^ {- \ alfa}$ jot . Tutaj wybiera się jako kompromis między zachowaniem idealnych odległości dalekiego lub krótkiego $zasięgu$ Dobre wyniki zostały pokazane dla ${\ displaystyle \ alpha = 2}$ .