人力検索はてな
モバイル版を表示しています。PC版はこちら
i-mobile

二進数で1.1-1-0.1を計算したら8.32667268468867×E-17になり、0になりません。(Eは10のー17乗です。)コンピューター内での計算の内容は?誤差の原因、防止方法を教えてください。

●質問者: non-pvc
●カテゴリ:科学・統計資料
✍キーワード:E-1 コンピューター 計算 進数
○ 状態 :終了
└ 回答数 : 3/6件

▽最新の回答へ

1 ● aska186
●40ポイント

http://e-words.jp/w/E6A181E890BDE381A1.html

桁落ちとは ─ 意味・解説 : IT用語辞典 e-Words

桁落ちの問題です。プログラミングの教科書には、たいてい載っていると思われます。

http://www.asahi-net.or.jp/~UC3K-YMD/Lesson/Section03/section03_...

行列ライブラリの設計(2) 13 誤差

こちらのページでは、?誤差をどう防ぐか、?それでも生じる誤差をどう処理するか、を具体例で説明されています。

以下、いくつかページを紹介しておきます。

http://jubilo.cis.ibaraki.ac.jp/~isemba/PROGRAM/CPROG/921.pdf

http://www.k-cube.co.jp/wakaba/server/numerical_problem.html

$B?tCM$N07$$$K4X$9$k=tLdBj(J

http://www.ritsumei.ac.jp/se/rv/joen/program05_2/program2_05.htm...

計算と誤差


2 ● p243
●40ポイント

http://www.hatena.ne.jp/1139252001#/dummy

人力検索はてな - 二進数で1.1-1-0.1を計算したら8.32667268468867×E-17になり、0になりません。(Eは10のー17乗です。)コンピューター内での計算の内容は?誤差の原因、防止方法を..

URL=dummy

原因にについては分からないですが10のー10乗とかで四捨五入

コンピューターの近似のアルゴリズムが分かれば正確性が分かるので、どの桁で切ればいいか分かると思う


3 ● Asuca
●40ポイント

http://www.asahi-net.or.jp/~FV6N-TNSK/gates/excel.txt

桁落ちの誤差 と言うそうです

◎質問者からの返答

ありがとうございました。

関連質問


●質問をもっと探す●



0.人力検索はてなトップ
8.このページを友達に紹介
9.このページの先頭へ
対応機種一覧
お問い合わせ
ヘルプ/お知らせ
ログイン
無料ユーザー登録
はてなトップ