Al final parece que la cosa tiene que ver con algo que se llama Premul, que define como Blender trata el canal alpha y que en estos momentos no entiendo muy bien.
El caso es que en blenderartics me han dado una posible solución.
Consiste en utilizar un nodo alphaconvert al final de todo el tratamiento, esta solución no es perfecta, pero al menos lo hace factible, aunque tengo que hacer más pruebas para ver qué tal va.
La duda es que se supone que para que esto funcione hay que cambiar el tipo de alpha de Premul a straight, en Cycles no he encontrado por ningún lado donde se cambia esto, pero el caso es que funciona.