単価:A

数量:B(小数点第5位四捨五入)
金額:C(小数点第3位四捨五入)

Cに影響を与えないAの範囲を教えていただけませんか?(式も含めて)

回答の条件
  • 1人2回まで
  • 13歳以上
  • 登録:2010/06/15 21:11:21
  • 終了:2010/06/22 21:15:02

回答(2件)

id:hathi No.1

hathi回答回数205ベストアンサー獲得回数462010/06/16 10:14:17

ポイント60pt

回答ではありませんので、ポイントは無用です。

これは有効桁の問題であって、小数点以下の桁数の問題ではないと思います。

 仮に、(小数点以下5位を四捨五入)で表記するとして
    グラムあたり単価を1.0003円(円/g)
    数量が(123,456,789kg)のようなものを、123.4568mt(メガトン)で表記して
    金額が  123.827(2)×1,000,000円と計算しても、正しいとは言わないでしょう。

通常かけ算の場合は、答えは(計算に使った数の有効桁の少ない方)の桁になります。

丸めた数字を使った場合には、次のような結果にもなることがあります。

 仮に、丸めた数字A     456  元の範囲(455.500~456.499)
    完全な数 B     765
    乗算の答えC 348,840  元の数字を掛けた場合(348,457.5~349,221.7)
    これで見ると、小数点以下どころでなくて、1,000の桁でさえも答えが違います。
    元は有効桁3桁同士なのですが、答えは有効桁3桁目で違っています。

有効桁の問題は私には難しいので、よくわかりません。

元々解決したいことに合わせて、やり方を考えてはいかがでしょうか。

質問者が未読の回答一覧

 回答者回答受取ベストアンサー回答時間
1 hathi 205 148 46 2010-06-16 18:08:41

コメントはまだありません

この質問への反応(ブックマークコメント)

「あの人に答えてほしい」「この質問はあの人が答えられそう」というときに、回答リクエストを送ってみてましょう。

これ以上回答リクエストを送信することはできません。制限について

絞り込み :
はてなココの「ともだち」を表示します。
回答リクエストを送信したユーザーはいません