2006年7月 4日

[ruby-list:42509] Re: floatの値がずれる

原です。

拡張ライブラリ[RAA:rational]を使って

require "rational"
class Float
def +(o)
(rationalize + o.rationalize).to_f

end
end
x = [0.0]
100.times { x << (x[-1] + 0.001) }
p x

とする方法があります。でも、人の生死にかかわるような場所では
使わないで下さい。:-)


投稿者 xml-rpc : 2006年7月 4日 21:58
役に立ちました?:
過去のフィードバック 平均:(0) 総合:(0) 投票回数:(0)
本記事へのTrackback: http://hoop.euqset.org/blog/mt-tb2006.cgi/42436
トラックバック
コメント
コメントする




画像の中に見える文字を入力してください。