Pues se usa para conseguir que un objeto, en este caso un plano que hará de suelo, no aparezca en el render, pero sí que produzca reflejos, se proyecten sombras sobre él, etc. Algo como lo de la imagen de prueba con una tetera que he puesto ahí abajo, en tu caso incluso podrías aplicar un deflector o cómo se llame al plano que hace de suelo además del material matte/shadow, para que no solo parezca que se proyectan sombras sobre el suelo de la imagen de fondo sino que además parecerá que las partículas rebotan sobre él. Al menos en teoría creo que se podría (nunca he probado esto).
En cuanto a lo de cómo utilizarlo yo siempre he usado un plano al que aplico el material matte/shadow con los parámetros por defecto y nunca he tenido problemas, así que, no sé qué es lo que te está fallando.
Prueba a hacer una escena nueva sencilla (algo como lo que he hecho yo), sin partículas ni nada a ver si te funciona, y quizás así descubras el fallo.