2006年7月 4日

[ruby-list:42507] Re: floatの値がずれる

出沢です

今回は解が見つかったようなので、こんな方法もある、という例に。

単調増加なのでしたら、加算ではなく、積算という方法もあります。

i=0 ; 100.times{ x << 0.001*i ; i += 1}

加算よりはコストが掛かりますがいちどだからそう気にしないでも良いかと。

投稿者 xml-rpc : 2006年7月 4日 21:07
役に立ちました?:
過去のフィードバック 平均:(0) 総合:(0) 投票回数:(0)
本記事へのTrackback: http://hoop.euqset.org/blog/mt-tb2006.cgi/42434
トラックバック
コメント
コメントする




画像の中に見える文字を入力してください。