Dentro de los production Shaders de Mental Ray 3.6 (max 200 hay un matte shadows, esa librería la hicieron para unificar y mejorar la compatibilidad (recuerden que Mental viene en varias aplicaciones).
De todas formas, para eso existen los pases de render, esas cosas se hacen en postproducción porque resulta mucho más rápido y versátil ajustar todo en tiempo real frente a sacar un nuevo render ante cada cambio. Saludos.