量子化によるノイズ

元の信号(左)と量子化された信号(右)

下記の制御スライダーをドラッグして、量子化の程度を変えてみましょう。

制御と結果
振幅 A
周波数 fHz〕 :
ビット :
サンプリング間隔 :

ダイナミックレンジが大きく、分解能が小さいと、 振幅 が小さいとき誤差が増えます。


量子化によるノイズ(ビット深度と分解能)

  1 127 量子化によるノイズ(ビット深度と分解能)
©K. Tachibana
https://edu.yz.yamagata-u.ac.jp/Public/56307/_14/Quantization.asp

デジタル記憶、記録での数値の表現

  1 デジタル記憶、記録での数値の表現
プログラミング言語
単精度浮動小数点 実数 Basic(Single), C(float),
倍精度浮動小数点 実数 Basic(Double), C(double), Python (float)
複素数 Python (complex)

測定値などを表す数字のうちで、位取りを示すだけの0を除いた、意味のある数字を有効数字と言う。 たとえば、1.234g±0.012gという測定結果があり、これを 不確かさ を無視して1つの値y=1.234gとして表すことを考える。 不確かさ を考慮した値はおおむね1.222g~1.246gの範囲にあると考えられる。 1 )

このことは、測定値に限ったことではありません。 たとえば、円周率という数には、確かな値がありますが、数字で表現しようすれば、 3.14あるいは3.14159という具合に表現しなければなりません。 やはり有効数字が存在するのです。

さらにこれは10進数に限ったことではありません。 コンピュータの内部では、2進数で表現されることが多くあります。 その表現形式もさまざまです。 単精度浮動小数点や倍精度浮動小数点といった形式があるのは、そのためです。

倍精度浮動小数点は、実数を64ビットで表現します。 実数は無限集合です。それに対して64ビットの表現は264の有限集合です。 実数とデジタル数値を1:1対応させることはできません。 必ず量子化誤差が入ります。

デジタルコンピュータのようなデジタルデバイスでは、 データは、 デジタル情報として記憶または記録されます 2 )


ビット深度と解像度


ビット深度と解像度

  2 ビット深度と解像度
https://edu.yz.yamagata-u.ac.jp/Public/52210/_05/QuantizationImage.asp 03.情報処理概論 05.情報処理概論 09.情報処理概論 機能界面設計工学特論 明日からやろう インピーダンス測定から解析まで

アナログとデジタル

  2 アナログ表示とデジタル表示
項目 デジタル アナログ
表現
17:40
装置例 デジタル時計
データロガー
ファンクションジェネレータ
アナログ時計
ペンレコーダ
発振器
特徴 数字(文字

測定数値を正確に表現

角度長さ

連続的で微妙な変化を一目で直感的に表現

精度 有限(桁数) 無限
時間遅れ※1 あり なし
媒体 間のコピー 容易・高速
順序※2 あり なし
約束事 あり なし
曖昧さ なし あり
感覚 論理的 直感的
画像
音声

※1. 地上デジタル放送になって、テレビから時報が消えました。 それはデジタル情報には、時間遅れが必ず生じるからです。

※2. デジタルを送るには順序が必要です。エンディアンやバイトオーダーなどと言われます。 シリアライズと同等の概念です。 本質的には言語の線条化と同じ概念です。

https://car-me.jp/articles/14046 http://www.mmjp.or.jp/south/06.html

アナログ-デジタル変換(ADC)

  3 アナログデジタル変換 *
方式 特徴 製品例
逐次比較 そこそこ高速
VF
二重積分 ゆっくり、ノイズ小 デジタル電圧計
フラッシュ もっとも高速

連続的な の大きさをいくつかの区間に区分し、各区間内を同一の値とみなすことを量子化と言う。 ・・・ 量子化誤差 が生じる。 量子化誤差は、実際の アナログ信号と変換時に丸められた近似的デジタル信号との差のことである。

3 )

第三次産業革命は、 デジタルコンピュータとAD変換といっていいでしょう。 量を 測定し、 デジタルコンピュータ記録可能なデータにするには、AD変換が必須です。AD変換の分解能は確度を支配します。

センサー で電圧に変換した光や音を、デジタル情報に変換します。 たとえばマイクで電圧に変換し、 AD変換で、デジタル情報にすれば、音声を CDやフラッシュメモリにデジタル 記録 できます。

センサーで電圧に変換した光や音を、デジタル情報に変換します。 たとえばマイクで電圧にした


デジタル-アナログ変換(DAC)

  4 デジタルアナログ変換 * * *
方式 特徴製品例
デコード 消費電力が小さい
ラダー 線形性がよい
スイッチング 消費電力が少ない スイッチングレギュレータ デジタルアンプD級アンプ

  5  誤差の種類
数値 区分 細分 説明
測定値 系統誤差 反復測定において、一定のままであるか、または予測可能な変化をする測定誤差の成分。
機械的誤差 ノギス、天秤、メスシリンダーなど測定器の精度や 精確さ確度) による誤差
個人的誤差 測定者のくせによる誤差
理論的誤差 理論の省略などによる誤差
偶然誤差
random error
反復測定において、予測が不可能な変化をする測定誤差の成分。 誤差論(確率・統計)の対象
計算値 計算誤差 AD変換DA変換、丸め誤差や計算精度による誤差、 数値 データの格納方式による誤差。
設計値 公差
tolerance
製品の仕様図や設計図で、基準値から許容される値。 方向が指定されてより具体的なものは許容値と呼ばれる。

誤差(error)は、測定値から真値を引いた値です。特に、測定誤差と言うこともあります。 4 )

誤差が検査や測定にかかるのに対して、 公差は設計にかかります。 不適合を出さない設計をするには、研究開発段階から、公差の設計が大切です。

化学で使われる量・単位・記号 5 ) 誤差とノイズ 6 )
感量:検出限界。
感度:ゲイン、増幅率
秤量(ひょうりょう):フルスケール、最大計測可能重量
読み取り限度・目量:最小目盛りの1/10、精度 = 目量 / 秤量:分解能:ビット深度

交流の大きさと周波数(正弦波の振幅)

  3 84 交流の大きさと周波数(正弦波の振幅)
©K. Tachibana
🖱 交流の大きさと周波数

参考文献


エネルギー化学特論
✏ 平常演習
✏ 課外報告書 Web Class

QRコード
https://edu.yz.yamagata-u.ac.jp/Public/56307/_14/Quantization.asp

🎄🎂🌃🕯🎉
山形大学 データベースアメニティ研究所
〒992-8510 山形県米沢市城南4丁目3-16
3号館(物質化学工学科棟) 3-3301
准教授 伊藤智博
0238-26-3573
http://amenity.yz.yamagata-u.ac.jp/

Copyright ©1996- 2024 Databese Amenity Laboratory of Virtual Research Institute,  Yamagata University All Rights Reserved.