Una vez hice algo parecido, la idea es unir los pedazos de la tela que se va a romper, y pegar los vértices de cada uno. En el momento que pasa el proyectil le dices que no los pegue más esos vértices (por dónde pasara) y listo, se simulara con el Collider.
Este método funciona muy bien para hacer que las telas se rompan. No es un Cloth de Maya o c4d, puesto que el max hasta ahora no tiene algo parecido, pero con la maña todo se puede.