トップへ戻るニュースフォーラムFLASH-ML 過去ログBak@Flaダウンロードよくある質問と答
ログイン
ユーザ名:

パスワード:


パスワード紛失

新規登録
メインメニュー
メイン
   コーダーズルーム【スクリプト系】
     浮動小数点の演算について		投稿するにはまず登録を

フラット表示 前のトピック | 次のトピック
投稿者 スレッド
Fumio
Åê¹ÆNo.13555
投稿日時: 2004-12-21 21:13
ちょんまげら
居住地: 東京
投稿: 4531
使用環境:
Re: 浮動小数点の演算について
最終的な参照ドキュメントは、「演算結果が半端な値になる(丸め誤差)」になります。サイトのサーバー移設などがあったため、古いリンクが一部切れてしまっているようです。
引用：
ひろゆきさんは書きました：
このあたり が参考になるかもしれません。

コンピュータの立場に立ってみるとよいでしょう。
a = 1;
// どこかにこのaの値をメモってください。
b = a / 3;
// bの値を、可能なかぎりの「小数値で」メモってください。
c = b * 3;
// メモった「bの値から」cを計算し、その値をメモってください。
d = a - c;
// aおよびcの値として記載した「メモの数値を元に」、dの値を計算してください。
// 0になりますか?

なお、人間は通常10進法、コンピュータは2進法で計算します。ですから、人間の目から見て切りのいい数値でも、コンピュータにとってもそうとはかぎりません。人間に理解できる10進法に表示する時点で、誤差を発生していることがあります(たとえば、上記cの値を小数点以下15桁で教えてと聞かれたら1.00...と答えますよね?)。
引用：
kumanekoさんは書きました：
内部演算の仕方とかは分からないし、
ましてプログラマーってわけでもないので、
浮動小数点の演算の仕組みとか詳しいこともわからないですし、
もしかしたら見当違いのことを言っているかもしれません。
だけど、なぜ「表示上では同じ値」なのに「0」にならないのか不思議なのです。


----------------
　
フラット表示 前のトピック | 次のトピック

題名 投稿者 日時
   浮動小数点の演算について kumaneko 2004-12-21 17:17
     Re: 浮動小数点の演算について mayor 2004-12-21 19:21
     » Re: 浮動小数点の演算について Fumio 2004-12-21 21:13
         Re: 浮動小数点の演算について kumaneko 2004-12-23 19:01
           Re: 浮動小数点の演算について Fumio 2004-12-23 21:45
             Re: 浮動小数点の演算について kumaneko 2004-12-25 23:30
               Re: 浮動小数点の演算について salvox 2004-12-26 4:58
                 Re: 浮動小数点の演算について Fumio 2004-12-26 6:07
                   Re: 浮動小数点の演算について salvox 2004-12-26 16:19
                     Re: 浮動小数点の演算について kumaneko 2004-12-29 11:34

投稿するにはまず登録を
 
Copyright (C) 2003 FLASH-japan. All rights reserved.
Powered by Xoops