（２）有効桁の考え方

■測定装置の限界による誤差

　測定値の精度は 測定装置の最小桁の尺度で決まります。

ちなみに，５１．５トンの石炭を０．１トンまで測れるハカリで

測ったとすると，このとき有効桁は３桁という言い方をします。

たとえば，米国で用いられる単位ショートトンへの換算の場合，

　　　　５１．５×２０００(lb/Ton)×４５３．５９２４（g/lb）
　　　　＝４６，７２０，０１７．２（ｇ）

となりますが，有効桁３桁ですから，４．６７×１０７ｇ　とすべきです 。


■計算相手の桁数

　換算係数に４桁の４５３．６を用いると

　　　　５１．５×２０００(lb/Ton)×４５３．６（g/lb）
　　　　＝４６，７２０，８００（ｇ）

となり，有効桁３桁で切ると，４．６７×１０７ｇで結果は同じになります。


■四捨五入と切捨て

　四捨五入と切捨てには注意が必要です。

　　(a) 四捨五入 ： 最終桁が５未満のとき切捨て，５以上のとき切り上げる
　　(b) 切捨て　　： 最終桁をすべて無視

　たとえば，１．９９９９を四捨五入すると２，切捨てると１になります。

平均すると，切捨てにおける最終桁の誤差は，四捨五入の２倍になります。

なお，計算機では基本的に切り捨てであることに注意しましょう。