Source-linked AI summary
Multi-Resolution Flow Matching: Training-Free Diffusion Acceleration via Staged Sampling
Xingyu Zheng, Xianglong Liu, Yifu Ding, Weilun Feng, Junqing Lin, Jinyang Guo, Haotong Qin
TL;DR
Diffusion 모델의 규모가 커질수록 이미지 생성 비용이 증가하므로, 특수 시스템 지원 없이도 품질을 유지하는 가속 방법이 필요하다. MrFlow는 pixel-space super-resolution과 고해상도 refinement를 결합한 staged low-to-high-resolution sampling을 사용해 OneIG-Bench 손실을 native inference 대비 1% 이내로 유지하면서 10× 이상의 speedup을 달성하며, timestep distillation과 결합하면 최대 25×까지 높일 수 있다.
문제
고해상도 diffusion 생성의 증가하는 계산 비용으로 인해 생성 품질을 유지하는 hardware-agnostic 가속이 필요하다.
방법
MrFlow는 pretrained flow-matching 모델을 대상으로 저해상도 구조 생성, pixel-space GAN super-resolution, 저강도 latent noising, 고해상도 refinement를 단계적으로 수행한다.
결과
10× 이상의 end-to-end speedup으로 OneIG-Bench 손실을 native inference 대비 1% 이내로 유지하며, MrFlow를 timestep distillation과 결합하면 25× speedup을 달성한다.
시사점 및 한계
MrFlow는 runtime dynamic statistics 없이 training-free 가속을 제공하며, 추가 학습 없이 timestep distillation과 결합할 수 있다.
시사점 및 한계
저해상도 생성은 더 흐릿하게 보이고 세밀한 의미 표현에 어려움을 겪을 수 있으며, GAN super-resolution은 국소적 artifact와 문자 획의 변화를 유발할 수 있다.
Abstract
from arXiv · showhide
Hardware-agnostic strategies for accelerating text-to-image diffusion, such as timestep distillation and feature caching, can reduce inference time without custom kernels or system-level optimization. Among them, multi-resolution generation strategies have recently received broad attention, attaining more than 5x speedup without any training. However, the design of performing upsampling in the latent space, together with the selective modification of partial regions, causes these methods to exhibit noticeable blurring or artifacts. To this end, we propose MrFlow, a training-free multi-resolution acceleration strategy for pretrained flow-matching models built upon a staged low-to-high-resolution pipeline. MrFlow first rapidly generates the main structure at low resolution, then performs super-resolution in the pixel space using a lightweight pretrained GAN-based model, subsequently injects low-strength noise to enable high-frequency resampling, and finally refines the details at high resolution. Quantitative and qualitative results on FLUX.1-dev and Qwen-Image show that MrFlow exploits the quadratic token reduction and reduced step requirement of low-resolution sampling to achieve 10x end-to-end acceleration while keeping OneIG within a 1% gap relative to that before acceleration, significantly surpassing other training-free acceleration strategies, and requiring no training or runtime dynamic identification whatsoever. MrFlow can further be directly combined orthogonally with pre-trained timestep distillation strategies, achieving even higher generation acceleration of up to 25x.
1 서론
MrFlow는 저해상도 구조 생성, pixel-space super-resolution, noise 기반 고주파 재샘플링, 고해상도 세부 묘사를 결합한 training-free multi-resolution sampling 전략이다. 생성 품질을 1% gap 이내로 유지하면서 10× 이상의 가속을 달성하며, timestep distillation과 결합해 25× 이상의 가속을 제공한다.
- 동기: Diffusion model을 확장하면 계산 비용이 증가하며, Qwen-Image-20B는 Nvidia A100에서 1024 × 1024 text-to-image diffusion sampling에 최대 47s가 필요하다.
- 방법: MrFlow는 저해상도 latent space에서 이미지 구조를 생성하고, pixel-space super-resolution을 적용한 뒤, low-strength noise를 주입하고, high-resolution latent-space sampling을 통해 세부 묘사를 정제한다.이 pipeline에는 latent-space sampling과 pixel-space super-resolution 사이의 VAE decoding 및 encoding이 포함된다.
- 결과: 10× 이상의 speedup을 통해 생성 결과를 native trajectory-flow generation 대비 1% gap 이내로 유지하며, 품질과 속도에서 다른 training-free 전략을 크게 능가한다.실험에서는 OneIG-Bench와 실제 sample generation을 포함한 지표를 평가하며, training이나 runtime dynamic statistics 및 identification을 사용하지 않는다.
- 결과: MrFlow를 pretrained timestep distillation 전략과 orthogonally 결합하면 25×를 초과하는 acceleration을 달성할 수 있다.
2 관련 연구
관련 연구는 flow matching을 현대 diffusion model이 채택한 velocity-field formulation으로 정립한 뒤, timestep, feature, token, multi-resolution method를 중심으로 acceleration 연구를 배치한다. 또한 resolution expansion과 native-resolution acceleration을 구분하고 pixel-space super-resolution을 image repainting과 연결한다.
- Flow matching: Flow matching과 rectified flow는 diffusion training을 data와 noise 사이의 선형 보간을 따라 velocity field를 학습하는 문제로 재구성하며, sampling은 t=1에서 t=0까지 학습된 velocity를 적분한다.SD3 이후의 현대 model을 비롯해 FLUX와 Qwen-Image는 대체로 이 formulation을 채택한다.
- Diffusion generation acceleration: Diffusion acceleration에는 hardware 또는 system 의존적인 quantization과 efficient attention뿐 아니라, diffusion 특화 timestep reduction, feature caching, token pruning이 포함된다.이 문단은 diffusion에 적용한 일반적인 hardware 또는 system 의존 전략의 성능 향상이 상대적으로 제한적이라고 설명한다.
- Multi-resolution generation: Multi-resolution generation은 staged low-to-high-resolution synthesis를 사용하며, 한 부류는 달성 가능한 resolution을 확장하고 다른 부류는 multi-resolution을 native resolution에서의 acceleration strategy로 다룬다.Resolution-extension 부류는 native-resolution acceleration이 아니라 model의 native resolution을 넘어서는 image를 목표로 한다.
- Super-resolution과 image repainting: Pixel-space super-resolution은 regression-based, generative-adversarial-based, diffusion-based method로 나뉘며, image repainting은 추가 processing 전에 기존 image에 noise를 더한다.각각의 대표 method는 SwinIR, Real-ESRGAN, OSEDiff, SDEdit이다.
3 방법
MrFlow는 단계적 저해상도-고해상도 sampling을 통해 flow-matching 생성을 가속한다. 저해상도에서 전역 구조를 저비용으로 구축하고, pixel-space GAN super-resolution을 적용한 뒤, 고주파 세부 정보를 resampling하고 refinement한다. 이 설계는 low-strength noise와 최소한의 고해상도 연산으로 artifact를 보정하면서 저주파 content를 보존한다.
- 개요: MrFlow는 저해상도에서 전역 구조를 생성하고, pixel space에서 upsampling한 뒤, low-strength noise를 주입하고 최종 고해상도 세부 refinement를 수행한다.저해상도 출력은 prompt의 전역 구조와 거의 일치하지만 더 흐릿하며, text와 symbol 같은 세밀한 semantic을 표현하는 데 어려움이 있다.
- 저해상도 생성: 각 이미지 변의 크기를 2× 줄이면 약 4× speedup을 얻을 수 있는데, single-step inference cost가 image-token count에 거의 선형적으로 비례하기 때문이다.저해상도 sampling에는 더 적은 step도 필요하며, 이 방법은 일반적으로 저해상도 flow sampling에 K_L = 12를 사용한다.
- Pixel-Space Super-Resolution: MrFlow는 pixel-space Real-ESRGAN super-resolution을 사용해 coarse structure를 보존하면서 downstream refinement를 위한 선명하고 natural-image-like한 고주파 detail을 추가한다.Pixel-space upsampling은 super-resolution prior를 재사용하며, GAN output은 refinement가 주로 local residual을 보정하는 regime에 더 잘 부합한다.
- 고주파 Resampling: σ_t ∈[0.1, 0.15]에서 flow-matching noising은 low-frequency structure를 보존하면서 high-frequency SNR을 낮춰 refinement가 GAN으로 유도된 artifact를 resampling할 수 있게 한다.super-resolution error가 diffuse blur나 low-frequency deviation이 아니라 high-frequency direction에 국소화될 때 이 조건이 효과적이다.
- 고해상도 Refinement: 기본적으로 단일 고해상도 Euler step이면 충분하며, s = 0.1에서 8-step reference 대비 CLIP consistency 0.9974에 도달한다.noised super-resolution latent는 이미 clean endpoint에 가까우므로 velocity variation과 discretization error가 감소하며, 추가 step은 미미한 변화만 제공한다.
4 실험 결과
MrFlow는 FLUX.1-dev와 Qwen-Image를 대상으로 1024 × 1024 해상도에서 training-free 및 training-dependent 가속 전략과 비교 평가된다. 테스트한 모델 전반에서 naive timestep 설정을 일관되게 능가하며, high-resolution refinement와 super-resolution 선택에 따라 품질과 속도 사이의 중요한 trade-off가 나타난다.
- 실험 비교: 실험에서는 1024 × 1024 해상도에서 Geneval, DPG-Bench, OneIG-Bench를 사용해 FLUX.1-dev와 Qwen-Image에 대한 training-free 및 training-dependent 가속 방법을 비교한다.Training-dependent 비교에는 timestep distillation 방법과 LSSGen이 포함되며, training-free 비교에는 feature-cache, token-pruning, multi-resolution 전략이 포함된다.
- 서로 다른 step 설정: MrFlow는 다양한 timestep 설정에서 모델 전반에 걸쳐 naive 가속을 일관되게 능가하며, Figure 5에서는 GenEval과 speedup 사이의 trade-off를 보여준다.Qwen-Image sweep에서는 low-resolution step으로 10, 12, 16, 20을 사용하고 high-resolution step으로 1, 2, 3을 사용하며, Figure 5에는 FLUX.1-dev와 Qwen-Image가 모두 포함된다.
- 서로 다른 step 설정: low-strength noising으로 인해 trajectory가 clean-image endpoint 부근에서 충분히 직선에 가까워지므로, 단일 high-resolution refinement step이 효율적인 기본 설정이다.이 결론은 서로 다른 MrFlow step 설정에 대한 분석에서 도출된다.
- Super-resolution 네트워크: 대부분의 super-resolution 선택지는 automatic metric에서 서로 큰 차이를 보이지 않지만, OSEDiff는 Real-ESRGAN보다 약간 낮고 high-resolution refinement가 국소적인 high-frequency defect를 보정한다.비교에는 direct interpolation, SwinIR, OSEDiff, Real-ESRGAN 및 super-resolution-only output이 포함되며, 시각적 결과에는 12개의 low-resolution step과 1개의 high-resolution step을 사용한다.
5 결론 · A 배경
MrFlow는 저해상도 생성, pixel-space super-resolution, 저강도 noising, 고해상도 refinement를 통해 사전학습된 flow-matching 모델을 가속하는 training-free staged multi-resolution 전략이다. 이 논문은 이 접근법을 hardware-agnostic diffusion acceleration, multi-resolution generation, super-resolution, image-repainting 방법론의 맥락에서 다룬다.
- 5 결론: 10×를 넘는 end-to-end speedup에도 OneIG-Bench 손실은 학습이나 runtime dynamic statistics 없이 native inference 대비 1% 이내로 유지된다.MrFlow는 빠른 저해상도 구조 생성, 경량 GAN-based pixel-space super-resolution, 저강도 latent noising, one-step 고해상도 refinement를 결합한다.
- 5 결론: MrFlow는 사전학습된 flow-matching 모델을 가속하기 위한 training-free multi-resolution 전략이다.
- A 배경: Hardware-agnostic diffusion acceleration에는 timestep reduction, feature caching, token pruning이 포함되며, 더 넓게는 quantization과 efficient-attention 전략도 포함된다.Quantization과 efficient attention은 일반적으로 전반적인 구조를 대상으로 하며, 가속을 위해 hardware나 systems에 의존하는 경우가 많다.
- A 배경: Multi-resolution generation은 이미지 해상도 전반에 분산된 정보를 활용하며, 일반적으로 저해상도에서 고해상도로 이어지는 staged generation을 사용한다.관련 연구는 도달 가능한 해상도의 확장을 목표로 하는 방법 등을 포함한 여러 부류로 나뉘며, SR3, Cascaded Diffusion Models, Imagen 등이 그 예다.
- A 배경: Pixel-space super-resolution 방법에는 regression-based, generative-adversarial-based, diffusion-based 접근법이 포함된다.예로는 reconstruction-based super-resolution의 SwinIR와 더 넓은 분류 체계에 속하는 GAN-based 방법이 있다.
- A 배경: 기존 이미지를 보존하거나 수정하기 위해 noising-denoising을 사용하는 image-editing 방법과 달리, MrFlow는 저강도 noise를 frequency-selective mechanism으로 사용한다.논의되는 image editing 접근법에는 SDEdit, InstructPix2Pix, Imagic, Prompt-to-Prompt가 포함된다.
B 상세 실험 설정
실험은 주로 FLUX.1-dev와 Qwen-Image-20B에서 MrFlow를 평가하며, 추가 flow-matching 모델에 대한 확장 실험과 대표적인 가속 전략과의 비교도 수행한다. 정량 평가는 1024 × 1024 이미지와 상호보완적인 세 가지 text-to-image 품질 benchmark를 사용한다.
- 실험 모델과 baseline: 실험은 주로 FLUX.1-dev와 Qwen-Image-20B를 사용하며, FLUX.2 Klein, Z-Image, Z-Image-Turbo에 대한 확장 실험도 수행한다.비교에는 feature-cache 방식인 TeaCache와 DB-Taylor를 비롯한 대표적인 가속 전략이 포함된다.
- 평가 프로토콜: 정량 평가는 해상도를 1024 × 1024로 고정하고 Geneval, DPG-Bench, OneIG-Bench를 사용해 compositional semantics, dense alignment, bilingual multi-dimensional attributes를 측정한다.속성 평가는 중국어 및 영어 prompt에서 character rendering과 style consistency를 포함한다.
C 단계별 분석
이 부록에서는 MrFlow를 단계별로 분석하고, Section 3에서 도입한 설계 선택에 대한 실험적 근거와 이론적 특성화를 제시한다. 또한 저해상도 sampling이 구조를 결정하고 고해상도 sampling이 세부 사항을 정제하는 방식을 별도로 분석한다.
- C 단계별 분석: Sections C.1–C.4는 Sections 3.1–3.4에 대응하며, 각 MrFlow 단계의 설계 선택을 완전한 실험적 근거와 이론적 특성화로 보완한다.부록은 본문에서 제시한 순서와 동일하게 각 단계를 따른다.
- C 단계별 분석: Section C.5에서는 저해상도 구조 결정과 고해상도 세부 사항 정제 사이의 역할 분담을 별도로 분석한다.
C.1 저해상도 단계의 가속 원천 · C.2 픽셀 공간 super-resolution의 두 가지 설계 선택
MrFlow의 저해상도 단계는 더 저렴한 step과 더 빠른 구조 수렴을 통해 sampling을 가속하며, pixel-space GAN super-resolution은 latent-space artifact를 방지하고 refinement가 주로 high-frequency variation을 보정하도록 한다.
- C.1 저해상도 단계의 가속 원천: 저해상도 단계는 더 저렴한 sampling step과 식별 불가능한 global structure를 형성하는 데 필요한 더 적은 step을 결합하므로 주요 가속 원천이다.이 두 가지 이점은 Qwen-Image에서 각각 검토한다.
- C.1 저해상도 단계의 가속 원천: 2× spatial shrinking으로 image token이 4× 감소하면 측정된 single-step speedup은 약 4×에 이르며, self-attention의 이론적 상한은 16×에 도달한다.text token과 non-attention computation도 runtime에 기여하므로 전체 speedup은 희석된다.
- C.1 저해상도 단계의 가속 원천: 저해상도는 text condition을 더 충분히 활용하고 global skeleton을 형성하기 위해 더 짧은 ODE path를 통과하므로 더 적은 step으로 수렴한다.이 설명들은 상호 배타적이라기보다 상호 보완적이다.
- C.1 저해상도 단계의 가속 원천: 저해상도 attention은 측정된 layer에서 text key에 더 많은 mass를 할당하며, 동일한 step 수에서 LR10 HR1 schedule은 HR11보다 더 높은 CLIP score를 달성한다.attention 측정은 3 prompts와 20 trajectories의 평균이며, CLIP 비교는 3 prompts × 3 seeds를 사용한다.
- C.1 저해상도 단계의 가속 원천: 분해된 trajectory displacement 중 저주파 성분은 58%에 불과하며, 이는 저해상도 inference가 더 짧은 ODE path를 통해 global skeleton에 도달한다는 관점을 뒷받침한다.저해상도 target은 high-resolution distribution에 low-pass operator를 적용한 것과 bandwidth-equivalent하다고 간주한다.
- C.2 픽셀 공간 super-resolution의 두 가지 설계 선택: latent-space enlargement는 VAE-decoder의 spatial statistics를 교란하고 규칙적인 격자형 artifact를 생성하므로 pixel-space upsampling을 선호하며, 이는 MrFlow–LSSGen 비교에서 확인된다.Pixel space는 super-resolution model이 image statistics에 대해 작동하는 domain을 보존한다.
- C.2 픽셀 공간 super-resolution의 두 가지 설계 선택: refinement 이후 Gaussian noise와 high-frequency noise는 default SR starting point 부근에 남는 반면, low-frequency noise는 strength 0.3에서 0.498에 도달해 200% 넘게 증가한다.이는 refinement가 주로 high-frequency direction을 resample하며 low-frequency bias는 효과적으로 보정하지 못함을 나타내고, GAN-class super-resolution model을 사용하는 근거가 된다.
C.3 고주파 재샘플링의 형식적 특성화
MrFlow의 고주파 재샘플링은 비등방성 posterior mean 분해로 특성화된다. 저주파 방향은 super-resolution 추정치를 보존하는 반면, 고주파 방향은 noise가 증가할수록 prior 쪽으로 되돌아간다. 이에 따라 prior takeover를 위한 충분한 noise 하한이 도출되며, distribution-level analysis에서는 더 강한 overall-alignment 조건도 가능하다.
- posterior mean의 가중 분해: Tweedie/MMSE 특성화에 따르면 posterior mean은 refinement 방향별로 가중 SR content, prior mean, injected noise로 분해된다.clean latent prior는 자연 이미지의 분산이 spatial frequency에 따라 크게 다르므로 비등방성 Gaussian으로 국소 모델링된다.
- posterior mean의 가중 분해: κi = SNRi/(1 + SNRi)는 κi →1일 때 저주파 구조를 보존하지만, κi →0일 때 고주파 세부 정보를 재샘플링한다.Wiener gain은 clean-data variance와 injected noise에 의존하며, 이 bound는 SR output이 임의로 잘못된 것이 아니라 이미 국소적으로 타당하다고 가정한다.
- noise-level lower bound: 주입된 고주파 noise가 clean high-frequency signal 이상이면 SNRhf ≤1 and κhf ≤1이 성립한다.이 조건에서는 targeted high-frequency band에서 prior가 SR estimate 이상으로 영향력을 갖는다.
- noise-level lower bound: σt ≥√λhf/(1 + √λhf) = σ⋆는 충분조건이지 필요조건은 아니며, 측정 가능한 clean-data high-frequency variance에 의해 결정되는 bound다.SR high-frequency content가 신뢰할 만하면 더 작은 σt로 더 많은 SR 정보를 보존할 수 있다. 반면 이 bound는 prior가 high-frequency band를 포괄할 수 있음을 보장한다.
- noise-level lower bound: σt ≈0.075는 본문에서 선택한 σt ∈[0.1, 0.15]를 뒷받침하는 반면, mid- 및 low-frequency residual은 측정된 bound를 각각 0.16과 0.24로 높인다.distribution-level Gaussian-smoothing 논증은 direction-wise bound보다 강한 충분조건인 σt/(1 −σt) ≳W2(ˆp0, p0)를 제공한다.
C.4 고해상도 세부사항 정 refinement의 단일 스텝 충분성
권장되는 저강도 설정에서는 t = 0 부근의 trajectory가 더 직선적이므로, 고해상도 refinement는 denoising step 하나만으로도 사실상 충분하다. 따라서 제한된 step을 schedule의 저노이즈 끝에 배분하는 것이 가장 비용 효율적이다.
- 수치적 단일 step 충분성: s = 0.1에서 한 step으로 얻은 0.9974 CLIP similarity는 다섯 step으로 얻은 0.9999보다 겨우 0.0025 낮은 반면, s = 0.3에서는 더 많은 step이 필요하다.비교에서는 동일한 super-resolution 시작점, refinement noise seed, 8-step reference를 사용하며, s = 0.3은 더 큰 노이즈를 사용하는 진단 설정이다.
- 시간에 따른 velocity field 특성: 세 가지 velocity-field 통계는 모두 strength에 따라 단조롭게 증가하므로, 더 작은 strength에서는 trajectory가 더 평탄하고 bending이 약해지며 단일 step Euler error가 낮아진다.측정 항목은 Qwen-Image 고해상도 refinement 중의 velocity magnitude, 인접 velocity 변화량, turn angle이다.
- Step budget 배분: t = 0에 가까워질수록 trajectory가 곧아지므로, 제한된 step budget은 균등하게 분배하거나 앞부분에 집중하기보다 저노이즈 끝에 집중해야 한다.schedule 비교에서는 KH = 6을 고정하고 동일한 super-resolution 시작점에서 uniform, front-dense, end-dense allocation을 대조한다.
C.5 구조-디테일 분리
MrFlow의 low-resolution stage는 이미지의 전역 구조를 결정하고, high-resolution refinement는 주로 국소적인 고주파 디테일을 추가한다. Seed perturbation 실험은 low-resolution randomness에 대한 저주파 민감도가 크고 high-resolution variation이 고주파에 집중되는 양상을 통해 이러한 분리를 보여준다.
- 실험 설정: 실험은 네 개의 seed에 걸쳐 low- 또는 high-resolution seed를 각각 변화시키고, 세 개의 prompt에 대해 pairwise MSE를 계산하며, 전체·저주파·고주파 성분을 평가한다.이미지는 Gaussian low-pass filter로 분해하며, high-frequency/low-frequency MSE ratio를 통해 각 perturbation이 어느 주파수 대역에 집중되는지 식별한다.
- 구조-디테일 분리: low-resolution seed를 변경하면 high-resolution seed를 변경할 때보다 저주파 콘텐츠는 약 8000× 더 많이, 전체 이미지 콘텐츠는 약 1900× 더 많이 변한다.이러한 비대칭은 최종 구조적 콘텐츠가 거의 전적으로 low-resolution stage에 의해 결정됨을 보여준다.
- 구조-디테일 분리: High-resolution refinement는 고주파에 더 집중된 변화를 생성하며, high-frequency/low-frequency MSE ratio는 19.8로, low-resolution variation의 7.4보다 높다.low-resolution seed는 전역 구조를 제어하는 반면, high-resolution randomness는 고정된 low-resolution starting point에 주로 국소 디테일을 추가한다.
D 최신 오픈 모델에서의 MRFLOW
MrFlow는 FLUX.2 Klein과 Z-Image로 확장되며, native generation에 가까운 품질을 유지하면서 base, aggressive, distilled configuration 전반에서 상당한 가속을 달성한다. reduced-step model과 결합하면 최대 26.92×의 effective acceleration에 도달한다.
- FLUX.2 Klein: FLUX.2 Klein Base 9B에서 aggressive 12, 1 configuration으로 8.79× speedup을 달성하며, 20, 1에서는 매우 작은 OneIG-En gap과 함께 5.40×에 도달한다.대응하는 4B variant는 각각 8.03×와 5.16×에 도달하며, aggressive setting에서는 metric이 중간 정도로 하락한다.
- FLUX.2 Klein: FLUX.2 Klein 9B distilled에서 high-resolution refinement step 하나만으로 26.92× speedup을 달성하며, 대응하는 4B variant는 base model 대비 20.10×에 도달한다.이 결과는 distilled Klein variant에서 MrFlow‡ configuration을 사용한다.
- Z-Image: Z-Image-Turbo에서 8, 1 effective DiT-forward setting으로 21.0× effective speedup을 달성한다.이는 MrFlow를 reduced-step Z-Image model로 확장한 결과다.
- Z-Image: base Z-Image에서 12, 1 setting으로 10.8× speedup에 도달하면서 사용 가능한 metric 성능을 유지한다.덜 aggressive한 20, 1 setting은 6.66×를 달성하며, OneIG-En은 0.55, OneIG-Zh는 0.51로 유지해 native model에 가깝다.
E 효율성 분석 · F 추가 생성 예시
MrFlow의 12+1 Qwen-Image 구성은 실측 평균 end-to-end latency가 4.7이며, 실행 시간은 저해상도 sampling과 고해상도 refinement가 대부분을 차지한다. 추가 그림은 FLUX.1-dev에서 acceleration method별 생성 품질을 비교하며, PDF 압축으로 인해 시각적 선명도가 낮아 보일 수 있음을 언급한다.
- E 효율성 분석: Qwen-Image에서 MrFlow의 12+1 구성에 대해 보고된 평균 end-to-end latency는 4.7이다.측정에는 text encoding, noise generation, denoising, VAE 연산, pixel-space super-resolution, high-resolution noising이 포함된다.
- E 효율성 분석: 저해상도 sampling과 고해상도 refinement에 각각 3.24s와 1.03s가 소요된다.이는 Figure 6에서 MrFlow의 주요 실행 시간 비용으로 식별된다.
- E 효율성 분석: 초기 noise generation, 중간 VAE decoding, Real-ESRGAN super-resolution, VAE encoding으로 구성된 고정 overhead에 약 0.30s가 소요된다.이 breakdown은 이러한 denoising 이외의 단계가 주요 sampling 및 refinement 비용에 비해 작음을 보여준다.
- F 추가 생성 예시: PDF rasterized figure는 90%를 초과하는 compression을 사용하므로, 조밀하게 배치된 비교에서 세부 정보가 덜 선명하게 보일 수 있다.이는 생성 이미지나 MrFlow의 한계가 아니라 문서 준비 과정에서 발생한 artifact라고 설명된다.
- F 추가 생성 예시: Figure 7은 FLUX.1-dev에서 pretrained, training-free, timestep-distillation-based strategy를 비교한다.점선은 세 strategy group을 구분한다.
- F 추가 생성 예시: Figure 8은 FLUX.1-dev에서 multi-resolution acceleration method의 세부 비교를 제공한다.제공된 본문은 비교 범위만 식별하며 개별 시각적 결과는 보고하지 않는다.
F.1 다양한 SOTA 전략과의 비교 · F.2 MrFlow 추가 예시 · F.3 논문 이미지의 프롬프트
MrFlow는 FLUX.1-dev와 Qwen-Image 전반에서 기존 training-free 가속 전략보다 우수한 정성적 생성 품질을 보이면서, 다양한 해상도와 종횡비에서 8–10× 이상의 speedup을 유지한다. 또한 부록에는 재현성과 논문 이미지 예시 검토를 위해 사용한 프롬프트가 수록되어 있다.
- F.1 다양한 SOTA 전략과의 비교: MrFlow는 FLUX.1-dev DPG-Bench 예시에서 기존 training-free 전략보다 생성 품질과 효율이 우수하며, MrFlow†는 timestep distillation을 통해 더 높은 speedup을 달성한다.비교 결과는 Figure 7에 제시되어 있으며, MrFlow†에는 추가 학습이 필요하지 않다.
- F.1 다양한 SOTA 전략과의 비교: LSSGen, RALU, SPEED와 비교하면, 일부 FLUX.1-dev 지표에서 SPEED가 부분적으로 더 높은 성능을 보여도 MrFlow는 뚜렷한 perceptual-fidelity 우위를 보인다.LSSGen은 중간 수준의 speedup에서 조밀한 artifact를 보이는 반면, RALU와 SPEED는 8×를 넘는 구간에서 경쟁력 있는 정량 점수를 유지한다.
- F.1 다양한 SOTA 전략과의 비교: 다양한 Qwen-Image 프롬프트에서 MrFlow는 다른 advanced training-free 전략보다 우수하며, 더 높은 speedup을 위해 timestep distillation과 직접 결합할 수 있다.이 관찰은 FLUX.1-dev 예시에서도 일관되게 나타난다.
- F.2 MrFlow 추가 예시: 8–10× speedup에서 MrFlow는 12회의 low-resolution step과 1회의 high-resolution step을 사용해 임의의 종횡비와 해상도 전반에서 뛰어난 결과를 생성한다.Figures 9 and 10은 각각 FLUX.1-dev와 Qwen-Image에서 이러한 생성 효과를 보여준다.
- F.2 MrFlow 추가 예시: Qwen-Image에서 Figure 9는 12회의 low-resolution step, 1회의 high-resolution step, 10×를 넘는 speedup을 적용한 MrFlow 예시를 보고한다.그림 캡션에는 해당 구성과 speedup 범위가 명시되어 있다.
- F.3 논문 이미지의 프롬프트: 수록된 프롬프트는 사실적인 사진, 공상과학 장면, 음식 및 공예 설정, 풍경, 야생동물, 포스터, 텍스트 제약이 있는 구성을 아우른다.†로 표시된 프롬프트는 원래 중국어로 작성되었으며, pdfLaTeX 호환성을 위해 영어 번역 또는 설명으로 제공된다.