Vray y su famosa luz

La traslucided (o al menos eso pasa en XSI), solo sirve para que un objeto se ilumine con la luz que lo impacta por detrás. Osea, lograras que las cortinas parezcan estar iluminadas aún que la luz este fuera.

Si tu problema es que la luz no pasa por las cortinas, pues mi recomendación es.
-Deja de esperar que los software de 3d hagan milagros con la física de los fotones. Un programa de 3d es muy y muy limitado respecto la realidad. Por eso a menudo existen lo que conocemos como fakes. Que son apaños, aparentemente irreales, pero que a la hora del render, simulan mucho mejor la realidad.

Lo que podrías hacer es. (o al menos lo que yo haría en XSI).
-Iluminar todo ignorando cortina (diciéndole a las luces que ignoren por completo la cortina, que ni la iluminen ni que dejen que proyecte sombras).
-Después crearía algunas luces que solo afectasen a la cortina, para iluminar a esta correctamente.

Osea, tener 2 iluminaciones, la de la cortina y la de lo demás.

También te podría servir simplemente haciendo que la cortina no proyecte sombras + una ligera translucidez de esta.