El selector al que tú refieres de la ventana de interpretar material de archivo no sirve para definir un color como canal alfa.
Ahí defines cómo se debe interpretar el alfa y en caso de elegir el premultiplicado, defines el color de fondo con los canales que se premultiplicaron.
En la ayuda se explica lo del alpha premultiplicado y su efecto en los bordes de la transparencia (en la del max también recuerdo haberlo visto, bueno y supongo que, en cualquiera).
Si no se activa la opción de alfa es porque no tiene canal alfa, podrías comprobarlo en Photoshop, aunque supongo que, obtendrás el mismo resultado siendo ambos de Adobe.
Quizás algún experto te sabrá decir que efecto puede ser más apropiado, a mí sólo se me ocurre decir que pruebes cuál de los efectos clave, que hacen cosas similares, puede servirte mejor(si no lo has hecho ya)
Porque supongo que, el efecto definir mate no mejorara mucho la cosa.
.Suerte.