La varita no por dios. Te vas a canales y pulsando control pinchas encima del canal alfa, así ya tienes la selección de ese canal para hacer lo que quieras con ella.
Y si la opción de hacerlo en 3dsmax no te vale, pues renderiza en 3dsmax la escena sin fondo, la guardas como (*.tga) o cómo tif con canal alfa (esta es una buena opción) y en Photoshop haces lo que te he dicho y tendrás el render con el sin fondo y luego a meterle todas las capas que quieras.