Hola, verifica lo siguiente en los VSS de cada server:
Ejecuta en ventana CMD con permisos de administrador el siguiente comando:
vssadmin List writers
Verifica en la lista que todo esté en estado 1 ó 5 y sin errores. si alguno presenta error debes corregirlo antes de seguir intentando hacer el SS del controlador de dominio.
Adicional cuando dices que te sale este mensaje: "no se encontro un proveedor de compatibilidad con disco virtual para el archivo especificado"
Debes constatar que Providers tienes en el server y que sean compatibles con tu sistema.
vssadmin List Providers
Luego:
vssadmin List Volumes
Debes encontrar allí la unidad de disco que tiene tu Sistema operativo (por ejemplo C: ó D:)
Si no la tienes no podrás hacer dicho Backup del SS (System State)
Revisa y continuamos con el diagnostico.