Según lo que entiendo de tu mensaje tienes un vídeo en el que vas a insertar un objeto 3d (del que ya tienes hecho el tracking con Boujou y supongo que, también tendrás exportada la animación de ese tracking en Maya) y en ese vídeo hay una persona que tiene que pasar por delante del objeto 3d ¿es así?
Bien pues una solución usar máscaras como decía bcb, aunque no en la capa del objeto 3d, sino en una copia del vídeo. Me explico:
En el programa de postproducción que uses (ae, Fusion, Nuke.) duplica la capa de vídeo y coloca una al final (como fondo) y otra arriba del todo, quedando la capa con la animación del objeto 3d en medio (como un sándwich), ahora en la capa superior haz una máscara para la persona (esto es como recortarla del vídeo), de esta forma solo se verá la persona en esta capa y no todo el vídeo. Y cómo está encima del todo cubrira a todas las demás capas, dando la sensación de pasar por delante.
Bueno, yo hablo de capas porque uso el After Effects y funciona así, desconozco como trabajan otros programas, pero si entiendes el concepto luego solo es cuestión de aplicarlo a tu software.
Eso sí, si la escena es compleja, es decir, si la persona es difícil de recortar (tiene pelo largo, ropa con pliegues,) con este método quizás necesitarías mucho tiempo y paciencia. En este caso si tienes oportunidad de grabar a la persona con fondo verde te ayudaría mucho, ya que a la hora de eliminar el fondo para quedarte con el recorte de la persona, es todo más automático (aunque siempre hay que hacer luego pequeños ajustes).