Ya he visto tu.blend y no está mal, ten en cuenta que Blender aún no tiene simulación de telas, así que, esto es una simple aproximación.
Para que no se vea cuadriculado, añade un modificador Subsurf debajo del de softbodies (si lo pones encima los cálculos se disparan) y por supuesto pulsa Setsmooth.
En el enlace te ha dado Klópes tienes una compilación reciente y ahí podrás ver el botón de autocolisión, aunque sigue siendo un hack, así que, para simulación real de telas, habrá que esperar.