有効数字の数え方
- 0以外の数字はすべて数えます: 347は3桁。
- 0以外の数字にはさまれた0は数えます: 4007は4桁。
- 先頭の0は数えません: 0.0045は2桁。
- 小数点より後ろにある末尾の0は数えます: 0.00450は3桁、2.50も3桁。
- 小数点のない整数の末尾の0はあいまいです: 1200は2桁、3桁、4桁のどれもありえます。
指数表記で迷いをなくす
1200を有効数字2桁なら1.2 × 103、4桁なら1.200 × 103と書きます。× 10の前に書かれた数字はすべて有効数字です。
結果の丸め方
- 掛け算と割り算: 最も精度の低い値の有効数字の桁数に合わせます。4.56 × 1.4 = 6.384は6.4に丸めます。
- 足し算と引き算: 小数点以下の桁数が最も少ない値に合わせます。12.11 + 0.3 = 12.41は12.4に丸めます。
- 丸めるのは計算の最後だけにし、途中では丸めません。
- 数えた個数や定義された換算係数のような正確な数は、結果の桁数を制限しません。