ハードウェアによるエンコードは限界がある。そういうもん。
綺麗さを求めるなら、ソフトウェアでエンコードすべき