Hola, recién estuve haciendo una animación y me surgió el mismo problema, no sabía cómo solucionarlo y entré a 3dpoder, y solo vi tu mensaje aquí, el tema es que ya lo solucioné y quería compartirlo o serle útil a alguien. La vibración puede ser por que los objetos a filmar no están cerca del origen de coordenadas, con cerca me refiero a que debe poder verse la grilla típica del 3d.
Selecciona todos, y los agrupas para no causar problemas, luego trasladarlos al (0,0,0) (0 en x 0 en y 0 en z) y luego reproduce el video, así se me solucionó a mí.
Otra cosa que puede ser, es que los objetos sean demasiado grandes o demasiado chicos, es decir debe poder verse la grilla típica del 3ds Max, al parecer si no es así es como que estas en el límite del universo 3d y se produce el fallo.
Técnicamente no se bien que sucede, pero a mí se me solucionó el problema.
Abrazo y suerte, ha y eso sí, espero respuesta para reconfirmar mi burda teoría.