El OpenGL puede trabajar con texturas a resolución de hasta 512, y maxtreme con resoluciones de hasta 4096, aunque no te recomiendo lo subas más de 1024, porque pierde rendimiento cada vez que tiene que subir el ordenador las texturas a la memoria de la tarjeta. Además, a 1024 se ve que ni pintado. Los filtros que usa maxtreme para la calidad de la textura son mejores que los que usa OpenGL, además puedes configurar el nivel de anisotrópico dentro de 3dsmax, sin necesidad de tener que salir del programa.
Además, tiene la capacidad de habilitar las funciones de compresión de texturas sin pérdida para el alojamiento en la memoria de la tarjeta pudiendo trabajar con texturas de 1024 o más sin que se quede sin memoria la tarjeta.
El rendimiento de maxtreme es muy superior que el de OpenGL, pero depende también de otros factores. Si tienes una Quadro 4 750/900 en un Pentium I 800 Mhz te va ir igual con OpenGL que con maxtreme, porque lo que frena el rendimiento es el procesador Pentium I. Pero si tienes un Pentium 4 de 2 Ghz o más notaras claras diferencias entre uno y otro, llegando a ser más del doble de rápido.
También depende de la tarjeta que escojas, no esperes que una GeForce 4 mx por pasarla a Quadro y usar maxtreme se va a convertir en una mala bestia del rendimiento. Las tarjetas que te van a permitir grandes rendimientos son las Quadro DC, Quadro 4 700/750/900 y las Quadro FX.
Si optas por pasar una GeForce 4 a Quadro (cosa que no funciona en todos los casos) entonces debería ser una GeForce 4 ti 4200/4400/4600 y todo esto siempre sobre un procesador lo suficientemente potente como para darle pista libre a la tarjeta. Un saludo.