Advertisements
有効数字
まずは、いくつか値とその有効数字の桁数を挙げます。
No. 1 1.0：2桁
No. 2 1.860：4桁
No. 3 23554：5桁
No. 4 12.000：5桁
No. 5 0.003：1桁
No. 6 0.011：2桁
基本的にはNo. 1-4のように書いている値の桁数がそのまま有効数字になります。しかし、No. 5と6のような値の場合は注意が必要です。
0ではない数字より前に0がある場合、その0は有効ではありません。なのでNo. 5の3より左の3つの0は無効となります。No. 6も同様です。
掛け算と割り算
計算式とその答えの有効数字をいくつか挙げます。
7.65 × 3.554：3桁
1.0 × 9.524：2桁
3.642 ÷ 2.86：3桁
0.065 × 0.2234：2桁
0.6 ÷ 0.0047：2桁
0.543 × 0.78245 ÷ 652：3桁
掛け算と割り算で算出した値の有効数字は、計算で使用した数値の有効数字の中で最も桁数の小さいものになります。
足し算と引き算
計算式とその答えの有効数字をいくつか挙げます。
1.35 + 2.3457：3桁
24.6 + 2.64：3桁
Advertisements
3 - 0.07：1桁
0.96 - 0.0236：2桁
足し算と引き算の場合は縦に桁を合わせて数字を並べると分かりやすいです。一番上の例では、
1.35
2.3457
となります。この場合、2.3457の57は1.35の桁から外れるので有効数字には数えません。そのまま計算すると5桁の値が算出されますが、答えの有効数字は3桁となります。
上から2番目の例では、
24.6
2.64
となります。この場合、2.64の4は24.6の桁から外れるので有効数字には数えません。そのまま計算すると4桁の値が算出されますが、答えの有効数字は3桁となります。
上から3番目の例では、
3
0.07
となります。この場合、0.07の07は3の桁から外れるので有効数字には数えません。そのまま計算すると3桁の値が算出されますが、答えの有効数字は1桁となります。
足し算と引き算の方が難しく見えますが慣れれば簡単です。
複雑な計算
複雑な計算例を1つ挙げますので、答えの有効数字を考えてみましょう。
600.0 × (34.9 - 6.47) / 0.9632
まず(34.9 - 6.47)を計算します。
34.9
6.47
この部分の有効数字の桁数は先に述べた通りの判断方法から3桁で答えは28.43となります。
※計算途中は有効数字+1桁以上で計算するのが普通なのでここで四捨五入はしないのが普通です。有効数字に合わせるための四捨五入は全ての計算が終わった後にすることをお勧めします。
あとは掛け算と割り算だけなので判断は容易になります。600.0は4桁、28.43は3桁、0.9632は4桁なので答えの有効数字は3桁です。
有効数字を考えるのは面倒臭いですが精度、信頼性に影響する重要なことなので意識することは大切です。
