トップへ戻るニュースフォーラムFLASH-ML 過去ログBak@Flaダウンロードよくある質問と答
ログイン
ユーザ名:

パスワード:


パスワード紛失

新規登録
メインメニュー
メイン
   ActionScript 3.0 特設会議室
     Number型変数の桁数が不安定
投稿するにはまず登録を

スレッド表示 | 新しいものから 前のトピック | 次のトピック | 下へ
投稿者 スレッド
Telkun
Åê¹ÆNo.40972
投稿日時: 2008-12-8 23:36
半人前
居住地: 博多区
投稿: 37
使用環境:
WinXP-Pro,Flash CS4 Pro(Player10,AS3.0)
AIR1.5
Number型変数の桁数が不安定
こんばんは。
AS3.0でNumber型変数の桁数が不安定で悩んでいます。

最初 val_a=1.0; として、ボタンB01またはB02を押す間、これがフレーム(30fps)毎に0.01増加または
減少するように
val_a+=0.01;
val_a-=0.01;

としました。これでtraceすると、最初は0.02づつ(←これもおかしいのですが)増減するのですが、
途中から

val_a= 1.09
val_a= 1.11
val_a= 1.1300000000000001
val_a= 1.1500000000000001

のように不要な桁(浮動小数点の最大桁?)が現れます。

この現象は、過去に取り組んだFlashでも現れており、テキストフィールドに出力する際にはみ出して
しまい困っています。
特に複雑なasファイルを書いている訳ではなく単純な足し算・引き算です。

考えられる原因と解決策を教えて下さい。
野中文雄
Åê¹ÆNo.40973
投稿日時: 2008-12-9 0:16
ちょんまげら
居住地: 東京
投稿: 4531
使用環境:
CS5.5 .6.8 Vista Home Premium (SP1)
Re: Number型変数の桁数が不安定
F-site「演算結果が半端な値になる(丸め誤差)」をお読みください。


----------------
 

Telkun
Åê¹ÆNo.40974
投稿日時: 2008-12-9 0:51
半人前
居住地: 博多区
投稿: 37
使用環境:
WinXP-Pro,Flash CS4 Pro(Player10,AS3.0)
AIR1.5
Re: Number型変数の桁数が不安定
う?ん、成る程というか・・・

Flash8以前(AS2.0以前)ではこういう症状を見たことがないので、「AS3.0になって劣化したか?」と思いました 
スレッド表示 | 新しいものから 前のトピック | 次のトピック | トップ

投稿するにはまず登録を
 
Copyright (C) 2003 FLASH-japan. All rights reserved.
Powered by Xoops