2011年5月 9日

[ruby-list:48067] Re: 小数点つき時刻情報とTime#parse 【解決だと思う】

sora_h

2011/5/9 Mitsuo KASAHARA <m.kasahara13@xxxxx>:
> 笠原です。
>
> 早速の助言ありがとうございます。
>
> 切り捨てて良いのか(*)分からなかったのですが・・・ご助言いただいた

> BigDecimal
> を使って以下のような感じで書いたら、ほしい結果が得られました。

切り捨て? BigDecimalは切り捨てじゃなくて、浮動小数点数とは違う演算方法で少数を表現しています。

> (*)参考に教えて頂いたURLを熟読すれば分かるのかもしれないのですが、
> 私にはチンプンカンプンでした。ごめんなさい。

とりあえずFloat (浮動小数点数)には誤差がつきものだ、と覚えておけば大丈夫だとおもいます ;)


P.S.: 件名の変更でスレッドが分断されるので、なるべく変更しないことが望ましいです。

--
Shota Fukumori a.k.a. @sora_h - http://codnote.net/


投稿者 xml-rpc : 2011年5月 9日 11:40
役に立ちました?:
過去のフィードバック 平均:(0) 総合:(0) 投票回数:(0)
本記事へのTrackback: http://hoop.euqset.org/blog/mt-tb2006.cgi/103659
トラックバック
コメント
コメントする




画像の中に見える文字を入力してください。