MySQLのFLOAT型とDECIMAL型について質問です。
FLOAT型では桁数が足りないことに気付いたので、DECIMAL(20,13)に変更したのですが
ALTER TABLE `tablename` CHANGE `hoge` `hoge` DECIMAL( 20, 13 ) NULL DEFAULT NULL ;
ところがこのSQLを投げると、hogeカラムに入っていた999.999だった値が999.9990234375000に変更されてしまいます。
固定桁数の小数点表示になるので足りない部分が補足されるのはわかるのですが、元が無い値なので0で足りない部分を埋めてくるものだと思っていたのですが、そうではないのでしょうか。
この勝手に増やされた0.0000234375という値はどこから着たのでしょうか。
どなたかわかる方いらっしゃいましたらお教えいただけますと幸いです。
よろしくお願いいたします。
ベストアンサー
-
JULY
満足200pt
これを理解するには、浮動小数点型というものが、どういうものかを理解する必要があります。
computer programming I
上記ページが分かりやすいと思うのですが、浮動小数点型は、２進数の世界でデータを表現しているため、10 進数でキリの良い数値であっても、２進数では循環小数となってしまう場合があります。
その「２進数では循環小数」を、浮動小数点型では、決められたビット長の範囲でしか保存出来ないので、無限の桁数を有限の桁数で切り取ってしまうことになります。
この為、浮動小数点型は、人間が考えている 10 進数の数字と誤差を持っている事が多いです。10 進数表示で有効桁が数桁のうちは、誤差なく浮動小数点で表現できているように見えますが、有効桁数を大きくすると、実際には誤差が生じている事が分かります。
で、DECIMAL 型の場合は、10 進数の一桁一桁を、そのままの形で保存します。
MySQL :: MySQL 5.1 リファレンスマニュアル (オンラインヘルプ) :: 7.14.2 DECIMAL データ型の変更
つまり、浮動小数点型が２進数でデータを保持しているために生じる 10 進数との誤差が、DECIMAL 型へ変換することで現れた、ということになります。 -
その他の回答
この質問へのコメント
-
きゃづみぃ2012/07/25 20:42:33
それは不具合ですね。
質問の情報
- 登録日時
- 2012-07-25 16:07:19
- 終了日時
- 2012-07-25 17:26:05
- 回答条件
- 1人5回まで
この質問のカテゴリ
この質問に含まれるキーワード
人気の質問
-
この英文どうなってますか？ The boy seemed to be waiting for his mother to come.（その少年は母親が来…
匿名質問者
1
1
-
不定詞の形容詞的用法らしいんですけど、副詞的用法と書いたら✖️ですか？ I want to buy a book to read …匿名質問者11
-
日向陽葵という○V女優が好きなのですが似ている○V女優はいますか匿名質問者
-
共通テストで使われるプログラミング言語は共通テスト特有の言語と聞いたのですが、受験勉強で身につけたプ…匿名質問者1
-
内定してほしいポケモンはいますか？匿名質問者