2006年7月 5日

[ruby-list:42518] Re: floatの値がずれる

斎藤と申します。

On Tue, 4 Jul 2006 18:51:38 +0900
rubikitch <rubikitch@xxxxx> wrote:

> または、固定小数点数ライブラリ(BigDecimal)を使ってみましょう。

完全にちゃちゃですが、誤差が発生しない⇒固定小数点数っていうのは

誤解だと思います。

http://ja.wikipedia.org/wiki/%E5%9B%BA%E5%AE%9A%E5%B0%8F%E6%95%B0%E7%82%B9%E6%95%B0
> 固定小数点数では整数部分に用いるビット数と小数部分に用いるビット数をあらかじめ
> 固定して表現する。

BigDecimalにこのような部分は見当たらないと思うのですが。

--
斎藤ただし

投稿者 xml-rpc : 2006年7月 5日 14:22
役に立ちました?:
過去のフィードバック 平均:(0) 総合:(0) 投票回数:(0)
本記事へのTrackback: http://hoop.euqset.org/blog/mt-tb2006.cgi/42446
トラックバック
コメント
コメントする




画像の中に見える文字を入力してください。