　あるプログラムをBASICからVB.NETへ移植しているのですが、Double型などの小数の誤差に困っています。BASICでの計算結果は小数何位から丸められるなどの、参考になる資料やページがありましたら教えていただけませんか？

Question

33

100pt

回答の条件

※ 有料アンケート・ポイント付き質問機能は2023年2月28日に終了しました。

コメントはまだありません

「あの人に答えてほしい」「この質問はあの人が答えられそう」というときに、回答リクエストを送ってみてましょう。

これ以上回答リクエストを送信することはできません。制限について

回答リクエストを送信したユーザーはいません

Beirii · Answer 1 · 2007-01-19T12:15:41+09:00

実数型の有効桁数ですが、単精度で7桁、倍精度で16桁くらいと考えていいそうです。

＃有効桁数ですので、小数何位という表現ではないところご注意ください。

ちなみに、

3.3.数値型のところに、『N88BASICでは，整数型と実数型(単・倍精度)があります。記号(%,!,#)を省略した場合は単精度実数型です。』とあります。

即ち、N88BASICの場合は変数名の最後に#がついていない変数はSingle型（単精度）となるそうですが、この辺は大丈夫でしたでしょうか？

＃もちろん知ってるよ！と言う場合はゴメンナサイ＞＜

なお、1つ目のサイトのBASICは厳密には『N88互換BASIC for Windows95』となっており、このBASICでは#がついていない場合は倍精度なのだそうです。

また、元のプログラムで使用したBASICがN88BASIC（およびN88互換BASIC for Windows95）以外の場合は、必ずしも上記のような仕様でははい可能性もあります。

元のプログラムで使用したBASICについて詳しい情報を教えていただければ、ピンポイントな回答が得られる場合もあると思いますのでご一考ください。

回答（1件）