Średni kwadratowy błąd kwantyzacji

Średniokwadratowy błąd kwantyzacji (MSQE) jest wartością merytoryczną procesu konwersji analogowo-cyfrowej .

W tym procesie konwersji sygnały analogowe w ciągłym zakresie wartości są konwertowane na dyskretny zestaw wartości poprzez porównanie ich z sekwencją progów. Błąd kwantyzacji sygnału to różnica między oryginalną wartością ciągłą a jej dyskretyzacją, a średniokwadratowy błąd kwantyzacji (przy pewnym rozkładzie prawdopodobieństwa wartości wejściowych) to oczekiwana wartość kwadratu błędów kwantyzacji.

Załóżmy matematycznie, że dolny próg dla danych wejściowych, które generują skwantyzowaną wartość, t ja , że istnieją poziomy i że funkcja gęstości prawdopodobieństwa dla wejściowych wartości analogowych wynosi . Niech oznaczają skwantyzowaną wartość odpowiadającą wejściu ; to znaczy, że której ja . Następnie

  •   Joshi, Madhuri A. (2006), Cyfrowe przetwarzanie obrazu: podejście algorytmiczne (wyd. 3), PHI Learning Pvt. z oo, str. 12, ISBN 9788120329713 .
  •   Shi, Yun Q.; Sun, Huifang (2008), Kompresja obrazu i wideo dla inżynierii multimediów: podstawy, algorytmy i standardy (wyd. 2), CRC Press, s. 38, ISBN 9781420007268 .