人力検索はてな
モバイル版を表示しています。PC版はこちら
i-mobile

単価:A
数量:B(小数点第5位四捨五入)
金額:C(小数点第3位四捨五入)

Cに影響を与えないAの範囲を教えていただけませんか?(式も含めて)



●質問者: bamboodragon
●カテゴリ:学習・教育 経済・金融・保険
✍キーワード:四捨五入 小数点
○ 状態 :終了
└ 回答数 : 1/2件

▽最新の回答へ

1 ● hathi
●60ポイント

回答ではありませんので、ポイントは無用です。

これは有効桁の問題であって、小数点以下の桁数の問題ではないと思います。

 仮に、(小数点以下5位を四捨五入)で表記するとして
    グラムあたり単価を1.0003円(円/g)
    数量が(123,456,789kg)のようなものを、123.4568mt(メガトン)で表記して
    金額が  123.827(2)×1,000,000円と計算しても、正しいとは言わないでしょう。

通常かけ算の場合は、答えは(計算に使った数の有効桁の少ない方)の桁になります。

丸めた数字を使った場合には、次のような結果にもなることがあります。

 仮に、丸めた数字A  456  元の範囲(455.500?456.499)
    完全な数 B  765
    乗算の答えC 348,840  元の数字を掛けた場合(348,457.5?349,221.7)
    これで見ると、小数点以下どころでなくて、1,000の桁でさえも答えが違います。
    元は有効桁3桁同士なのですが、答えは有効桁3桁目で違っています。

有効桁の問題は私には難しいので、よくわかりません。

元々解決したいことに合わせて、やり方を考えてはいかがでしょうか。

関連質問


●質問をもっと探す●



0.人力検索はてなトップ
8.このページを友達に紹介
9.このページの先頭へ
対応機種一覧
お問い合わせ
ヘルプ/お知らせ
ログイン
無料ユーザー登録
はてなトップ