平均二乗量子化誤差

平均二乗量子化誤差(MSQE) は、アナログからデジタルへの変換プロセスの性能指標です。

この変換プロセスでは、連続した値の範囲にあるアナログ信号を、一連の閾値と比較することで離散的な値に変換します。信号の量子化誤差は、元の連続値とその離散化値との差であり、平均二乗量子化誤差（入力値に何らかの確率分布が与えられた場合）は、量子化誤差の二乗の 期待値です。

数学的には、量子化値を生成する入力の下限閾値が、上限閾値が、量子化レベルが 、入力アナログ値の確率密度関数が であると仮定します。入力 に対応する量子化値をとします。つまり、は となる値です。すると、 ${\displaystyle q_{i}}$ ${\displaystyle t_{i-1}}$ ${\displaystyle t_{i}}$ ${\displaystyle k}$ ${\displaystyle p(x)}$ ${\displaystyle {\hat {x}}}$ ${\displaystyle x}$ ${\displaystyle {\hat {x}}}$ ${\displaystyle q_{i}}$ ${\displaystyle t_{i}-1\leq x<t_{i}}$

${\displaystyle {\begin{aligned}\operatorname {MSQE} &=\operatorname {E} [(x-{\hat {x}})^{2}]\\&=\int _{t_{0}}^{t_{k}}(x-{\hat {x}})^{2}p(x)\,dx\\&=\sum _{i=1}^{k}\int _{t_{i-1}}^{t_{i}}(x-q_{i})^{2}p(x)\,dx.\end{aligned}}}$

参考文献

• ジョシ、マドゥリ A. (2006)、『デジタル画像処理：アルゴリズムアプローチ（第3版）』、PHI Learning Pvt. Ltd.、p. 12、ISBN 9788120329713。
• Shi, Yun Q.; Sun, Huifang (2008)、「マルチメディアエンジニアリングのための画像およびビデオ圧縮：基礎、アルゴリズム、および標準（第2版）」、CRC Press、p. 38、ISBN 9781420007268。