2006年7月 6日

[ruby-list:42535] Re: float の値がずれる

小林です。

----- Original Message -----
From: "Tadayoshi Funaba" <tadf@xxxxx>
Subject: [ruby-list:42533] Re: float の値がずれる


> ruby -r bigdecimal -r bigdecimal/util -e 'p 100000000000000.1.to_d'

....................
> 100000000000000.1.to_d.to_r.to_f #=> 1.0e-14
ああ、bigdecimal/util.rb がバグってますね。

後ほど、'_' の処理も含めてパッチをだしますが、
どなたかそのパッチを適用していただけますでしょうか?
こちらはCVSにログインできる環境にないので...
お手数ですが、よろしくお願い致します。

ところで、rational.so でも
 100000000000000.1.to_r !="100000000000000.1".to_r
ですよね?

投稿者 xml-rpc : 2006年7月 6日 12:25
役に立ちました?:
過去のフィードバック 平均:(0) 総合:(0) 投票回数:(0)
本記事へのTrackback: http://hoop.euqset.org/blog/mt-tb2006.cgi/42465
トラックバック
コメント
コメントする




画像の中に見える文字を入力してください。