| |
「秀丸エディタ、浮動小数点数バージョン」
message str(3.1234567890);
は 3.12346 になりますが、意識して丸めていますか。
あちきがサポートしているインタプリタは、浮動小数点数しかサポートしていま
せん。昔は、自動的に丸めていましたが、いまは精度を上げるために丸めをして
いません。浮動小数点数を計算すると MPU は 2 の n 乗であらわすときに切り
捨てが普通だと思います。昔から FORTRAN とかではそれを防ぐためにすごく小
さな値を加えて丸めるのが常識でした。浮動小数点数を使用する人にはそちらが
便利な気がします。
round 関数が必要になるかも知れません。
|
|