He probado a hacerlo de todas las maneras: poniendo el matte shadow tanto en object settings como en el material, con luz Vray y standard, con Vray y Mental Ray, y nada.
Has probado de todas las maneras menos de la correcta.
Bueno, la verdad es que me parece raro que las partículas no proyecten sombra sobre un matte, habría que ver cómo tienes configurado el material de matte de Vray.
Si te hace la sombra bien como dices, prueba a hacer un mesher de las partículas o a cachearlas con algún programa externo tipo xmesh, para que sean geometría, y probar así a ver si te va. Saludos.