Y si le pones un plano grande de piso? (en los parámetros del plano le puedes poner un valor grande a scale para que en el render se vea más grande y en el viewport no).
No sé es sólo una idea (a mí me funciona bien así), seguramente con el matte shadow funcionara igualmente bien, pero como no tengo Vray para probar. Saludos.