メイン ActionScript 3.0 特設会議室 Number型変数の桁数が不安定 | 投稿するにはまず登録を |
スレッド表示 | 新しいものから | 前のトピック | 次のトピック | 下へ |
投稿者 | スレッド |
---|---|
Telkun | Åê¹ÆNo.40972 投稿日時: 2008-12-8 23:36 |
半人前 居住地: 博多区 投稿: 37
使用環境:
WinXP-Pro,Flash CS4 Pro(Player10,AS3.0) AIR1.5 |
Number型変数の桁数が不安定 こんばんは。
AS3.0でNumber型変数の桁数が不安定で悩んでいます。 最初 val_a=1.0; として、ボタンB01またはB02を押す間、これがフレーム(30fps)毎に0.01増加または 減少するように val_a+=0.01; val_a-=0.01; としました。これでtraceすると、最初は0.02づつ(←これもおかしいのですが)増減するのですが、 途中から val_a= 1.09 val_a= 1.11 val_a= 1.1300000000000001 val_a= 1.1500000000000001 のように不要な桁(浮動小数点の最大桁?)が現れます。 この現象は、過去に取り組んだFlashでも現れており、テキストフィールドに出力する際にはみ出して しまい困っています。 特に複雑なasファイルを書いている訳ではなく単純な足し算・引き算です。 考えられる原因と解決策を教えて下さい。 |
野中文雄 | Åê¹ÆNo.40973 投稿日時: 2008-12-9 0:16 |
ちょんまげら 居住地: 東京 投稿: 4531
使用環境:
CS5.5 .6.8 Vista Home Premium (SP1) |
Re: Number型変数の桁数が不安定 F-site「演算結果が半端な値になる(丸め誤差)」をお読みください。
|
Telkun | Åê¹ÆNo.40974 投稿日時: 2008-12-9 0:51 |
半人前 居住地: 博多区 投稿: 37
使用環境:
WinXP-Pro,Flash CS4 Pro(Player10,AS3.0) AIR1.5 |
Re: Number型変数の桁数が不安定 う?ん、成る程というか・・・
Flash8以前(AS2.0以前)ではこういう症状を見たことがないので、「AS3.0になって劣化したか?」と思いました |
スレッド表示 | 新しいものから | 前のトピック | 次のトピック | トップ |
投稿するにはまず登録を | |