二進数で1.1−1−0.1を計算したら8.32667268468867×E-17になり、0になりません。(Eは10のー17乗です。)コンピューター内での計算の内容は?誤差の原因、防止方法を教えてください。

回答の条件
  • URL必須
  • 1人2回まで
  • 登録:2006/02/07 03:53:21
  • 終了:--

回答(6件)

id:aska186 No.1

aska186回答回数158ベストアンサー獲得回数02006/02/07 04:32:11

ポイント40pt

http://e-words.jp/w/E6A181E890BDE381A1.html

桁落ちとは ─ 意味・解説 : IT用語辞典 e-Words

桁落ちの問題です。プログラミングの教科書には、たいてい載っていると思われます。

http://www.asahi-net.or.jp/~UC3K-YMD/Lesson/Section03/section03_...

行列ライブラリの設計(2) 13 誤差

こちらのページでは、①誤差をどう防ぐか、②それでも生じる誤差をどう処理するか、を具体例で説明されています。

以下、いくつかページを紹介しておきます。

id:p243 No.2

p243回答回数142ベストアンサー獲得回数62006/02/07 05:02:04

ポイント40pt

http://www.hatena.ne.jp/1139252001#/dummy

人力検索はてな - 二進数で1.1−1−0.1を計算したら8.32667268468867×E-17になり、0になりません。(Eは10のー17乗です。)コンピューター内での計算の内容は?誤差の原因、防止方法を..

URL=dummy

原因にについては分からないですが10のー10乗とかで四捨五入

コンピューターの近似のアルゴリズムが分かれば正確性が分かるので、どの桁で切ればいいか分かると思う

id:Asuca No.3

Asuca回答回数281ベストアンサー獲得回数42006/02/07 09:48:19

ポイント40pt

桁落ちの誤差 と言うそうです

id:non-pvc

ありがとうございました。

2006/02/10 16:22:54

質問者が未読の回答一覧

 回答者回答受取ベストアンサー回答時間
1 KazuhisaNagata 87 80 4 2006-02-07 11:42:31
2 Baku7770 2832 2531 181 2006-02-07 12:47:54
3 tezcello 460 419 69 2006-02-10 13:50:30

コメントはまだありません

この質問への反応(ブックマークコメント)

「あの人に答えてほしい」「この質問はあの人が答えられそう」というときに、回答リクエストを送ってみてましょう。

これ以上回答リクエストを送信することはできません。制限について

絞り込み :
はてなココの「ともだち」を表示します。
回答リクエストを送信したユーザーはいません