Duda con una malla

La verdad es que el tema del displacement no debería ser un problema el hecho de tener pocos polígonos. Lo digo porque es una técnica que trabaja a nivel de píxel y no de vértice. Algo, así como el Bump mapping (iluminación per-pixel) frente a la iluminación per-vertex donde efectivamente, una malla poco densa da como resultado una iluminación poco suave.

De todas formas, para aumentar el número de polígonos puedes utilizar el modificador Tessellate y meterle tantas iteraciones como te convengan. Saludos.

Posdata: el displacement al que me refiero es al que, por ejemplo, realiza Vray. Creo que el modificador displace estándar de 3ds Max sí es dependiente de geometría. En ese caso, como he dicho, con el modificador Tessellate podrás aumentar el número de polígonos de tu malla. Lo que pasa es que dependiendo de lo que quieras hacer, es posible que necesites una gran cantidad de polígonos y aun así puede que no obtengas un buen resultado. Si puedes, utiliza el displacement de Vray o cualquier otro motor de render que lo soporte. Es mucho mejor ya que, como he dicho, trabaja a nivel de píxel.