数値 | 区分 | 細分 | 説明 |
---|---|---|---|
測定値 | 系統誤差 | 反復測定において、一定のままであるか、または予測可能な変化をする測定誤差の成分。 | |
機械的誤差 | ノギス、天秤、メスシリンダーなど測定器の精度や 精確さ( 確度) による誤差 | ||
個人的誤差 | 測定者のくせによる誤差 | ||
理論的誤差 | 理論の省略などによる誤差 | ||
偶然誤差
random error |
反復測定において、予測が不可能な変化をする測定誤差の成分。 誤差論(確率・統計)の対象 | ||
計算値 | 計算誤差 | AD変換 、 DA変換、丸め誤差や計算精度による誤差、 数値 データの格納方式による誤差。 | |
設計値 |
公差
tolerance |
製品の仕様図や設計図で、基準値から許容される値。 方向が指定されてより具体的なものは許容値と呼ばれる。 |
誤差(error)は、測定値から真値を引いた値です。特に、測定誤差と言うこともあります。 1 )
誤差が検査や測定にかかるのに対して、 公差は設計にかかります。 不適合を出さない設計をするには、研究開発段階から、公差の設計が大切です。
化学で使われる量・単位・記号 2 ) 誤差とノイズ 3 )用語 | 定義 | 備考 |
---|---|---|
|
||
|
反復測定において、予測が不可能な変化をする測定誤差の成分 | |
|
反復測定において、一定のままであるかまたは予測可能な変化をする測定誤差の成分 | |
|
測定値がそろっていあいこと。また、ふぞろいの程度。 | 偶然誤差とほぼ同義。 |
|
測定値の期待値と真値の差 | 系統誤差とほぼ同義。 |
|
測定値に付随する、合理的に測定対象量にむすびづけられる値の広がりを特徴づけるパラメータ | 知識の曖昧さも含む |
|
同一の測定対象量に対する測定を複数回行うこと | 測定条件が同一かどうかによらない。 実験計画法では、ブロック単位での実験を指す。 |
|
同一の測定対象量に対する測定手順、オペレータ、操作条件、場所が同一の、短期間での測定の反復 | 操作条件は、因子。繰り返し数は、標本数に相当する。 |
|
測定の再現条件下での測定の精密さ | |
|
精度。 ばらつきの小ささを表す。 | |
|
確度 | |
測定値 | 規定された測定手順に実施によって得られる 量の 値 | 測定を反復するときは、個々の値、もしくは代表値(平均値や中央値など)のいずれも測定値と呼ぶ。 |
指示値 | 測定器が提示する 量の 値 |
こういう意味のある 数字 を有効数字というのであるが、有効数字が三桁というのは、例えば56.2とか7.31とかいう数である。数字で書いて見ると三桁位のものは極めて簡単な数で、小学校の三年生位ならば楽々と取り扱える程度のものである。ところが物理の方では三桁目まで精確な測定値が得られれば、大抵の場合には、それで先ず充分に精密な測定と思って差支えない。そして普通の物理的性質は、それ位の 精度 で分れば、それで充分に壮麗な物理学の殿堂を築き上げる材料として採用することが出来るのである。
もっとも三桁というのは、一般の場合であって、精密な 物理の測定では四桁も五桁もちゃんと測定がなされていることもしばしばある。こういう場合に意味のある数字を一桁増すことは、誤差を更に十分の一に縮めることであって、実は非常に骨の折れる仕事なのである。 学生実験の報告書とか、 独逸の学位論文の或るものとかを見ると、六桁位の数字が平気で沢山並んでいることがあるが、そういうものは大抵は、計算の途中に割算で沢山桁数を出したもので、此処ここでは問題とするまでもないものである。本当の意味で有効数字が六桁も並んでいる測定があったら、その数字には正に脱帽して接すべきである。
……(途中略)……
最後に、全く役には立たないが、ちょっと面白い一つの考察がある。 それは大抵の物理的性質は、三桁位の 精度で分れば、それで充分であるということと、人智の極致をつくした精密な測定が、殆んど例外なく六桁で止っているということである。 即ち観測の精度には、三桁と六桁とに何か意味があるらしく思われるのである。 もっとも六桁の方は前に注意した人もあって、10-6というのが極めて広い意味での 物理恒数であるというような珍説を出した人もある。 普通の物理は三桁程度というのは、それに輪をかけた迷説で、自分の実験の技術の程度を言っているのかも知れないが、その程度でも物理で生活が出来るところを見ると、何か意味があるらしくも思われるのである。
中谷宇吉郎、地球の丸い話より
対応する基本単位 | 定義定数の説明 | 記号 | 定義値 |
---|---|---|---|
秒 (s) | セシウム 133 原子の摂動を受けない基底状態の 超微細構造遷移 周波数 | ΔνCs | 9192631770 Hz |
メートル (m) | 真空中の光の速さ | c | 299792458 m/s |
キログラム (kg) | プランク定数 | h | 6.626 070 15 × 10−34 J s |
アンペア (A) | 電気素量 | e | 1.602 176 634 × 10−19 C | ケルビン (K) | ボルツマン定数 | k | 1.380 649 × 10−23 J/K |
モル (mol) | アボガドロ定数 | NA | 6.022 140 76 × 1023 /mol |
カンデラ (cd) | 周波数 540×1012Hz の 単色放射の視感効果度 | Kcd | 683 lm/W |