トップへ戻るニュースフォーラムFLASH-ML 過去ログBak@Flaダウンロードよくある質問と答
ログイン
ユーザ名:

パスワード:


パスワード紛失

新規登録
メインメニュー
メイン
   コーダーズルーム【スクリプト系】
     浮動小数点の演算について
投稿するにはまず登録を

フラット表示 前のトピック | 次のトピック
投稿者 スレッド
kumaneko
Åê¹ÆNo.13644
投稿日時: 2004-12-25 23:30
新米
居住地: 北海道
投稿: 4
使用環境:
Re: 浮動小数点の演算について
野中さん、回答有り難うございます。

今まで、こんなに細かい値を扱うことがなかったもので、ちょっと気になってしまいまして。
で、色々実験してみたらJavaScriptと違うな?って思ってしまったもので。(苦笑)

引用:
有効桁数15桁ということは、値をすべて16桁目で四捨五入して扱うということではなく、16桁目以降の値が誤差を含んでいることを意味するだけです。


その辺は、まだまだ認識不足ですね。勉強になりました。
まずは、野中さんの「太鼓判」が出たので安心致しました。

数値計算の落とし穴」と「IEEE754 Floating Point Number」は今後の参考にさせて頂きます。
あとは、自分なりに調べて勉強していこうと思います。

いろいろと分かりやすく解説していただき、有り難うございました。m(_ _)m
フラット表示 前のトピック | 次のトピック

題名 投稿者 日時
   浮動小数点の演算について kumaneko 2004-12-21 17:17
     Re: 浮動小数点の演算について mayor 2004-12-21 19:21
       Re: 浮動小数点の演算について Fumio 2004-12-21 21:13
         Re: 浮動小数点の演算について kumaneko 2004-12-23 19:01
           Re: 浮動小数点の演算について Fumio 2004-12-23 21:45
           » Re: 浮動小数点の演算について kumaneko 2004-12-25 23:30
               Re: 浮動小数点の演算について salvox 2004-12-26 4:58
                 Re: 浮動小数点の演算について Fumio 2004-12-26 6:07
                   Re: 浮動小数点の演算について salvox 2004-12-26 16:19
                     Re: 浮動小数点の演算について kumaneko 2004-12-29 11:34

投稿するにはまず登録を
 
Copyright (C) 2003 FLASH-japan. All rights reserved.
Powered by Xoops