👨‍🏫有効数字

応用化学演習では、「特になし」の中で、「有効数字」について述べられています ⇒#329@講義;。

2.1　測定値と物理量
物理量とは質量、長さ、体積、圧力など、客観的に測定できる量のことである。一般に数値と単位の積で表される。測定値には必ず誤差が含まれる。それがどの程度であるかは測定器具の精度に支配される。同じ量を測定していても使用する器具によって測定値の精度は違ってくる。

2.2　有効数字
有効数字とは数値の精度に関する表現のことで、最小桁で示す場合と、全桁数で示す場合がある。最小桁で示す場合は「小数第○位まで有効」と表現する。数値が整数の場合は「1の位まで有効」と表現する。9.876 mlℓ は小数第3位まで有効である。最小桁は測定器具の性能によって決まる。全桁数で示す場合は「有効数字○桁」あるいは「○桁が有効」と表現する。9.87 mℓ は有効数字3桁である。全桁数は測定器具の性能と試料の物理量によって決まる。

例題1　容量 100 mℓ のメスシリンダに 9.9 mℓ の水が入っている。ここに、0.001 mℓ の水を加えたときの体積を求めよ。
解説
何も考えなければ、9.9mℓ + 0.001mℓ = 9.901 mℓ となるが、これで、よいのだろうか？ 9.9 mℓ は 9.85～9.95 mℓ の呼称であり、0.1 mℓ の幅がある。そこに0.001 mℓ （= 0.0005～0.0015 mℓ ）を加えると、9.8505～9.9515 mℓ と幅（の可能性）が 0.101 mℓ に広がる。しかし、1の位は信頼でき、小数第1位には不確かさがあり、小数第2位以下には信頼性はない。これは 0.001 mℓ を加える前と変わりはない。したがって、上式は
9.9mℓ + 0.001mℓ = 9.9 mℓ

👨‍🏫 000. 有効数字

関連の展示品

◇ 参考文献( 書籍・雑誌・URL )

👨‍🏫 000. 有効数字

関連の展示品

◇ 参考文献( 書籍 ・雑誌 ・URL )

◇ 参考文献( 書籍・雑誌・URL )