Hola prueba activando la casilla Affect Shadow. Si es un plano o un box fino puede resultar bien, lo suyo son las causticas.
Pero primero prueba con esto.
Si el material lo has hecho tu prueba a descargar uno de la página gratuita de Vray materiales, simplemente para comparar si te ocurre lo mismo. Un saludo y espero haberte ayudado algo.