¿No te sale esa ventana? Anda que problema más raro, desconozco si se puede desactivar, puede que tengas un problema en el archivo 3ds Max.ini y te este apareciendo en unas coordenadas de pantalla que no tienes.
Esto suele pasar si has tenido dos monitores y la última vez que hiciste render moviste la ventana al segundo monitor, después si quitas los uno de los monitores la ventana de render volverá a salir en el segundo, pero como no está no te aparece, un gran fallo de Discreet el no darse cuenta de esas cosas, puedes editar el 3ds Max.ini que si es eso te saldrán coordenadas muy grandes donde pone la posición de las ventanas, también puedes pillar el ini de otro max, o eliminarlo, por que el max lo crea de nuevo si no lo tienes, por si acaso create una copia de él.
De todos modos, para cancelar el render también le puedes dar a Esc y ya está. Un saludo.