人力検索はてな
モバイル版を表示しています。PC版はこちら
i-mobile

1÷3×3を電卓ですると「0.999999999・・・・・」となります。
エクセルでその計算をすると小数点以下何十位にしても「1」(もしくは「1.00000・・・・」とでます。これはどのような計算方法なのでしょうか?当たり前と言えば当たり前ですが。

●質問者: nakimusibomber
●カテゴリ:コンピュータ 科学・統計資料
✍キーワード:エクセル 小数点 計算 電卓
○ 状態 :終了
└ 回答数 : 7/7件

▽最新の回答へ

1 ● きゃづみぃ
●15ポイント

http://www.hatena.ne.jp/awindow?

Windowsについてる電卓も 1となります。

純循環小数というフラグでも もってるのでは?


2 ● web_nao
●15ポイント

http://d.hatena.ne.jp/web_nao/

四捨五入されるためです。

◎質問者からの返答

どういう条件で四捨五入されるのでしょうか?


3 ● diabah_blue
●14ポイント

http://www.hatena.ne.jp/

はてな

URLはダミーです。

電卓が逐次的に計算をしているのに対し、

エクセルでは式をまとめて評価しているからだと思います。

つまり、電卓では1÷3=0.333333・・・と言う計算がなされた時点である程度の桁数で数値が終わっているので3を掛けてもその桁までしか得られないということです。


4 ● jp0134
●14ポイント

http://www2.cty-net.ne.jp/~hidenori/kansuu/kan8/

エクセルの計算結果は、上のURLページに書かれているとおり、切り捨てなどの設定がなされています。

このページから、色々な関数を調べると判りますよ。


5 ● aki73ix
●14ポイント

http://nifberry.727.net/test/hatena81.xls

A1とA4のセルをごらん下さい

両方0.3333333333333330です

しかし *3かけると値が違います

つまり、1÷3×3を計算する過程で、セルを直接参照するわけではなく、計算結果を保持しながら計算してるのでしょうね


1-5件表示/7件
4.前の5件|次5件6.
関連質問


●質問をもっと探す●



0.人力検索はてなトップ
8.このページを友達に紹介
9.このページの先頭へ
対応機種一覧
お問い合わせ
ヘルプ/お知らせ
ログイン
無料ユーザー登録
はてなトップ