Normalmente los formatos con mayor calidad son tif y (*.tga), además que tanto uno como el otro guardan el canal alpha (son 32 bits).
Por otro lado, el tamaño de tus renders dependerá para que lo uses. No es lo mismo preparar una animación para formato televisión, que seria de 720 por 576 (si mal no recuerdo), si va en formato DVD ira en otra, etc. Aunque sea un video, siempre deberías tirar los renders en formato imagen (*.tif) o (*.tga), no en formato video (avi, mpg). La ventaja de este modo es que, si estas tirando una animación y tu PC se queda colgado, solo perderás el fotograma que actualmente se este lanzando. Luego lo montas en un editor de video y podrás jugar con la calidad del video final, pero siempre partiendo de la mejor calidad posible.
En caso que vaya para formato papel dependerá del tamaño del mismo. Un truco para saber la resolución exacta según el tamaño de papel es abrir el Photoshop y hacer un archivo nuevo. En resolución pones 300 píxeles/pulgada, y el tamaño en centímetros o mm. Una vez creado te vas al menú imagen->tamaño de imagen y obtendrás el tamaño en píxeles.