0001.0004.  測定値と精度、有効数字

「あなたは私より身長 x 〔m〕が高いですね」

比べることができる身長 x 〔m〕や体重 x 〔kg〕を量と言います。単位を決めることで量を数で表せます。

「今日は、寒いですね」

といってもどれくらいかわかりません。でも棒温度計の赤く着色された灯油の長さを見れば、どれくらい寒いかわかります。温度という量が、長さという量に変換されたのです。このような変換をアナログ変換と言います。

アナログ量はたしかに数なので、方眼紙に書き取ることはできますが、言葉で話したり、文字で書いたりすることができません。数を数字で表すと便利です。数字に変換することをデジタル変換と言います。

数を数字で表した数値にはかならず誤差が含まれます。デジタル表示は数字で直読できる便利さがありますが、誤差まで読み取る危険があります。

測定値と精度、有効数字

誤差＝測定値−真の値

【関連講義】

¹⁾

²⁾

³⁾

⁴⁾

【関連書籍】⁵⁾

• (1) 妹能晴弥;立花和宏;仁科辰夫;. 品質管理：品質管理と品質保証、仕様書、チェックシート、数値化、管理（Ｈ２０）. /amenity/Syllabus/@Lecture.asp?nLectureID=2146.  (参照2008-04-30).
• (2) 伊藤 智博、立花 和宏、仁科 辰夫. 卒業研究（Ｃ１-電気化学２００４〜）：再現性、誤差と精度. /amenity/Syllabus/@Lecture.asp?nLectureID=2151.  (参照2008-04-02).
• (3) 立花和宏. 工業技術概論：工業数理基礎（工業数学、数値と単位）. /amenity/Syllabus/@Lecture.asp?nLectureID=4458.  (参照2016-02-21).
• (4) 仁科 辰夫. 無機化学基礎：物理量と有効数字−物質の質量と体積―. /amenity/Syllabus/@Lecture.asp?nLectureID=4451.  (参照2016-02-20).
• (5) 小林一也. 工業技術基礎. 実教出版, 2002. p.31.