量子化によるノイズ

測定値などを表す数字のうちで、位取りを示すだけの0を除いた、意味のある数字を有効数字と言う。 たとえば、1.234g±0.012gという測定結果があり、これを 不確かさ を無視して１つの値y=1.234gとして表すことを考える。 不確かさ を考慮した値はおおむね1.222g～1.246gの範囲にあると考えられる。 ^{1 )}

このことは、測定値に限ったことではありません。 たとえば、円周率という数には、確かな値がありますが、数字で表現しようすれば、 3.14あるいは3.14159という具合に表現しなければなりません。 やはり有効数字が存在するのです。

さらにこれは10進数に限ったことではありません。 コンピュータの内部では、2進数で表現されることが多くあります。 その表現形式もさまざまです。 単精度浮動小数点や倍精度浮動小数点といった形式があるのは、そのためです。

倍精度浮動小数点は、実数を64ビットで表現します。 実数は無限集合です。それに対して64ビットの表現は2⁶⁴の有限集合です。 実数とデジタル数値を１：１対応させることはできません。 必ず量子化誤差が入ります。

デジタルコンピュータのようなデジタルデバイスでは、 データは、 デジタル情報として記憶または記録されます ^{2 )} 。

連続的な 量の大きさをいくつかの区間に区分し、各区間内を同一の値とみなすことを量子化と言う。 ・・・ 量子化誤差 が生じる。 量子化誤差は、実際の アナログ信号と変換時に丸められた近似的デジタル信号との差のことである。

^{3 )}

センサー で電圧に変換した光や音を、デジタル情報に変換します。 たとえばマイクで電圧に変換し、 ＡＤ変換で、デジタル情報にすれば、音声をＣＤやフラッシュメモリにデジタル 記録 できます。

誤差（error）は、測定値から真値を引いた値です。特に、測定誤差と言うこともあります。 ^{4 )}

誤差が検査や測定にかかるのに対して、 公差は設計にかかります。 不適合を出さない設計をするには、研究開発段階から、公差の設計が大切です。