2011年5月 9日

[ruby-list:48071] Re: 小数点つき時刻情報とTime#parse

むらたです。

On 2011年5月9日月曜日 at 12:55, Tanaka Akira wrote:
> 2011年5月9日10:29 Mitsuo KASAHARA <m.kasahara13@xxxxx>:
>
> > と、小数点以下6桁の情報を持つ時刻情報の差分を計算したら、何故か
> > 一つ目の方では
> > 0.00629800000000004

> > と
> > 00000000004
> > が余計にくっついて出力されました。

有効桁数は10進法で16桁のはずですが、なぜか17桁も出力されてますね。これはおそらく ruby_dtoa か flt_to_s のバグです。

--
Kenta Murata
Sent with Sparrow


投稿者 xml-rpc : 2011年5月 9日 13:43
役に立ちました?:
過去のフィードバック 平均:(0) 総合:(0) 投票回数:(0)
本記事へのTrackback: http://hoop.euqset.org/blog/mt-tb2006.cgi/103663
トラックバック
コメント
コメントする




画像の中に見える文字を入力してください。