Tif es un formato de imagen que admite 4 tipos de compresión: (*.lzw), (*.rle), (*.zip), o sin compresión. Ninguna de ellas aporta pérdidas de calidad (según ayuda de Photoshop), así que, en principio no debería aparecer la imagen más difuminada. Sobre las opciones de 3ds Max, aparecen algunas cosas que no estoy seguro de que efectos tienen sobre las imágenes, pero te puedo decir que si las guardas como 8 o 16 bits y lo más importante, seleccionando no compresión en el tipo de compresión, no deberías tener problemas. Las opciones SGI 16bit y 32 bit parece que sirven para crear imágenes tif con información del tipo HDRI. (véase. https://www.cg.tuwien.ac.at/research/…00000000000000. Por lo que ha efectos de guardar una imagen no hace falta que las uses (al menos hasta dentro de unos años).
Si continúas experimentando los mismos problemas, publica por favor dos imágenes para poder compararlas, junto con las opciones que has utilizado.
Como alternativa, yo te recomiendo guardarlas como (*.png), formato opensource sin pérdidas de calidad, con el que también puedes guardar canales alpha. Saludos.