2006年7月 5日

[ruby-list:42524] Re: float の値がずれる

どうも、斎藤と申します。

On Wed, 5 Jul 2006 19:18:44 +0900
Shin-ichiro HARA <sinara@xxxxx> wrote:

> 問題の設定の仕方ではBigDecimalが解答にならない場合があります。
>
> 例えば意外なことにFloatをBigDecimalに変換することはできません。

> BigDecimalのインプットはStringですから。意外じゃなくて、原理的に
> 当然ですけど。
>
> もちろん、BigDecimal(0.01.to_s)などとすればいいわけですけど、例え
> ば、BigDecimal(100000000000000.1.to_s)は、0.1E15であって、
> 0.1000000000000001E15ではありません。つまりFloat->BigDecimalには
> 標準的な手段がなく、別の方法つまりRational経由とかに話が飛んだり
> するわけです。

なるほど、そういうお話もあるわけですね。
ご教授ありがとうございました。

--
斎藤ただし

投稿者 xml-rpc : 2006年7月 5日 23:32
役に立ちました?:
過去のフィードバック 平均:(0) 総合:(0) 投票回数:(0)
本記事へのTrackback: http://hoop.euqset.org/blog/mt-tb2006.cgi/42453
トラックバック
コメント
コメントする




画像の中に見える文字を入力してください。