メイン ActionScript 3.0 特設会議室 Number型変数の桁数が不安定 | 投稿するにはまず登録を |
フラット表示 | 前のトピック | 次のトピック |
投稿者 | スレッド |
---|---|
Telkun | Åê¹ÆNo.40972 投稿日時: 2008-12-8 23:36 |
半人前 居住地: 博多区 投稿: 37
使用環境:
|
Number型変数の桁数が不安定 こんばんは。
AS3.0でNumber型変数の桁数が不安定で悩んでいます。 最初 val_a=1.0; として、ボタンB01またはB02を押す間、これがフレーム(30fps)毎に0.01増加または 減少するように val_a+=0.01; val_a-=0.01; としました。これでtraceすると、最初は0.02づつ(←これもおかしいのですが)増減するのですが、 途中から val_a= 1.09 val_a= 1.11 val_a= 1.1300000000000001 val_a= 1.1500000000000001 のように不要な桁(浮動小数点の最大桁?)が現れます。 この現象は、過去に取り組んだFlashでも現れており、テキストフィールドに出力する際にはみ出して しまい困っています。 特に複雑なasファイルを書いている訳ではなく単純な足し算・引き算です。 考えられる原因と解決策を教えて下さい。 |
フラット表示 | 前のトピック | 次のトピック |
題名 | 投稿者 | 日時 |
---|---|---|
» Number型変数の桁数が不安定 | Telkun | 2008-12-8 23:36 |
Re: Number型変数の桁数が不安定 | Fumio | 2008-12-9 0:16 |
Re: Number型変数の桁数が不安定 | Telkun | 2008-12-9 0:51 |
投稿するにはまず登録を | |