2011年5月 9日

[ruby-list:48072] Re: 小数点つき時刻情報とTime#parse

2011年5月9日13:43 EGUCHI Osamu <eguchi@xxxxx>:
> 2011年5月9日12:55 Tanaka Akira <akr@xxxxx>:
>> 2011年5月9日10:29 Mitsuo KASAHARA <m.kasahara13@xxxxx>:
>>> と、小数点以下6桁の情報を持つ時刻情報の差分を計算したら、何故か
>>> 一つ目の方では
>>> 0.00629800000000004
>>> と
>>> 00000000004

>>> が余計にくっついて出力されました。
>
>> 桁落ちというものでは。
>
> 桁落ちという見立ては同じですが、

こっちはどうかなぁ。

> class Time
> TICK = 1000000
> def -(y)
> return ((self.tv_sec * TICK + self.tv_usec) -
> (y.tv_sec * TICK + y.tv_usec)).to_f / TICK
> end
> end
>
> の様に、1マイクロ分解能で固定小数点処理したほうが
> よりロバストではないでしゅうか?

C に Bignum が組み込まれてればいいんですが。
--
[田中 哲][たなか あきら][Tanaka Akira]


投稿者 xml-rpc : 2011年5月 9日 14:23
役に立ちました?:
過去のフィードバック 平均:(0) 総合:(0) 投票回数:(0)
本記事へのTrackback: http://hoop.euqset.org/blog/mt-tb2006.cgi/103664
トラックバック
コメント
コメントする




画像の中に見える文字を入力してください。