回転自体が原因ではありませんね。

Native3Dを用いて、DisplayObjectを3D空間として表示しようとした時点で、
DisplayObjectに対して、何らかの3D変換がされているはずです。
そのため、3D回転しているように見えるわけです。

z座標を指定しただけで、アンチエイリアスのような表示になってしまうことから、
Native3Dを用いた段階で、3D変換をする上で誤差が生じているように思われます。

なので、基本的には回避策はないと思った方が良いでしょう。
あるいは、Native3Dを用いないで、誤差が表示しにくいような3Dライブラリを用いるとか。

----------------
質問する際は、回答者に具体的な情報を与えてください。