有効数字の計算

有効数字の数え方

1. 0.004560 や 1.20e5 のような数値を入力します。
2. 有効数字の桁数が表示されます。
3. 丸める桁数を選びます。

よくある質問

どの0を数えますか？

数字の間の0は常に数え、先頭の0は数えず、末尾の0は小数点があるときだけ数えます。1200 はあいまいなので、4桁を示すには 1.200e3 と書きます。

結果は有効数字何桁にすべきですか？

掛け算と割り算では、最も精度の低い値の桁数に合わせます。足し算と引き算では、最も精度の低い小数の位に丸めます。

有効数字に丸めるには？

最初のゼロでない数字からその桁数だけ残し、最後の桁を丸めます。0.004567 を有効数字 2 桁にすると 0.0046 です。