Puedes usar el material matte/shadow, si es para Brazil o Scanline. Si es para Vray:
1: dale click derecho al objeto que quieres que sea la superficie donde quieres que salgan las sombras.
2: Vray properties.
3: en matte options. Activas matte object en alpha distribution le das a 1 y activas en (Direct Light) shadows y affect alpha.
Y listo ya las sombras están con el canal alpha. Saludos.