Prueba con área shadows. E insisto, si quieres llegar a sacarle jugo a esto del 3d empieza por el principio (ya no se ni cuántas veces habré escrito lo mismo), pégale fuerte al max tal cual, olvídate de plugins y motores de render, que te aseguro que con el max a pelo puedes conseguir cosas que ni creerías.
Iluminar no es poner dos o tres luces y activar emitir sombras, es mucho más que eso y se aprende a base de probar, probar, probar, probar, probar, probar, probar, probar, probar, probar, probar, probar, probar, probar, probar, probar, probar, probar y probar.
Aprende qué significa y para qué sirve cada parámetro de las luces y de las sombras, ¿cómo afecta esto a los materiales. Destripa los materiales y prueba, y cuando esto lo tengas claro te metes con el Vray o el que quieras y a empezar de nuevo a ver de que va eso de la GI, porque cómo vas a comprender cómo funciona un motor de GI si no tienes bien claro ¿cómo hace el para iluminar? En fin, tú mismo.