Puedes renderizar todo menos el pelo, y luego cambiar a Mental Ray y renderizar el pelo guardando con png, tga con alfa sin premultiplicar, esto último es importante, y luego lo montas con after o Combustion.
El fliqueo es problema del antialiasing, súbelo, en ocasiones le pongo 4 y 64 en Mental Ray, eso sí, renderizando pelo es lento. Otra cosa importante es que dentro del modificador Hair and Fur, en la pestaña tools, dentro de render settings actives el modo Mental Ray Prim.