数量:B(小数点第5位四捨五入)
金額:C(小数点第3位四捨五入)
Cに影響を与えないAの範囲を教えていただけませんか?(式も含めて)
回答ではありませんので、ポイントは無用です。
これは有効桁の問題であって、小数点以下の桁数の問題ではないと思います。
仮に、(小数点以下5位を四捨五入)で表記するとして グラムあたり単価を1.0003円(円/g) 数量が(123,456,789kg)のようなものを、123.4568mt(メガトン)で表記して 金額が 123.827(2)×1,000,000円と計算しても、正しいとは言わないでしょう。
通常かけ算の場合は、答えは(計算に使った数の有効桁の少ない方)の桁になります。
丸めた数字を使った場合には、次のような結果にもなることがあります。
仮に、丸めた数字A 456 元の範囲(455.500~456.499) 完全な数 B 765 乗算の答えC 348,840 元の数字を掛けた場合(348,457.5~349,221.7) これで見ると、小数点以下どころでなくて、1,000の桁でさえも答えが違います。 元は有効桁3桁同士なのですが、答えは有効桁3桁目で違っています。
有効桁の問題は私には難しいので、よくわかりません。
元々解決したいことに合わせて、やり方を考えてはいかがでしょうか。
回答者 | 回答 | 受取 | ベストアンサー | 回答時間 | |
---|---|---|---|---|---|
1 | hathi | 216回 | 153回 | 49回 | 2010-06-16 18:08:41 |
コメント(0件)