メイン コーダーズルーム【スクリプト系】 浮動小数点の演算について | 投稿するにはまず登録を |
フラット表示 | 前のトピック | 次のトピック |
投稿者 | スレッド |
---|---|
kumaneko | Åê¹ÆNo.13644 投稿日時: 2004-12-25 23:30 |
新米 居住地: 北海道 投稿: 4
使用環境:
|
Re: 浮動小数点の演算について 野中さん、回答有り難うございます。
今まで、こんなに細かい値を扱うことがなかったもので、ちょっと気になってしまいまして。 で、色々実験してみたらJavaScriptと違うな?って思ってしまったもので。(苦笑) 引用: 有効桁数15桁ということは、値をすべて16桁目で四捨五入して扱うということではなく、16桁目以降の値が誤差を含んでいることを意味するだけです。 その辺は、まだまだ認識不足ですね。勉強になりました。 まずは、野中さんの「太鼓判」が出たので安心致しました。 「数値計算の落とし穴」と「IEEE754 Floating Point Number」は今後の参考にさせて頂きます。 あとは、自分なりに調べて勉強していこうと思います。 いろいろと分かりやすく解説していただき、有り難うございました。m(_ _)m |
フラット表示 | 前のトピック | 次のトピック |
題名 | 投稿者 | 日時 |
---|---|---|
浮動小数点の演算について | kumaneko | 2004-12-21 17:17 |
Re: 浮動小数点の演算について | mayor | 2004-12-21 19:21 |
Re: 浮動小数点の演算について | Fumio | 2004-12-21 21:13 |
Re: 浮動小数点の演算について | kumaneko | 2004-12-23 19:01 |
Re: 浮動小数点の演算について | Fumio | 2004-12-23 21:45 |
» Re: 浮動小数点の演算について | kumaneko | 2004-12-25 23:30 |
Re: 浮動小数点の演算について | salvox | 2004-12-26 4:58 |
Re: 浮動小数点の演算について | Fumio | 2004-12-26 6:07 |
Re: 浮動小数点の演算について | salvox | 2004-12-26 16:19 |
Re: 浮動小数点の演算について | kumaneko | 2004-12-29 11:34 |
投稿するにはまず登録を | |