AI 요약 · 영어에서 AI 번역

Wave Forcing: Towards Speed-of-Light Streaming Video Generation

Yijie Jin, Yuxuan Liu, Jiajun Xu, Ye Huang, Chuzhi Wang, Jiayang Li, Ruiyang Chen, Chenling Hong, Xu Wang, Zhijie Deng

arXiv:2611.00859v1cs.CVcs.DC

TL;DR

청크 단위 자기회귀 비디오 생성은 디노이징과 깨끗한 이력 갱신을 순차적으로 수행하므로, 한 단계 디노이징에서도 순전파를 두 번 해야 한다. Wave Forcing은 인과적 웨이브프런트 생성, 단계별 학습, 중첩 실행을 결합해 전반적인 품질을 유지하면서 움직임을 개선하고 높은 처리량의 스트리밍을 구현한다.

  • 문제

    청크 단위 자기회귀 방식은 일관된 외관과 자연스러운 움직임을 유지하면서 재생 가능한 출력을 지속적으로 생성해야 하지만, 순차적 디노이징과 깨끗한 이력 갱신으로 한 단계 디노이징에서도 순전파를 두 번 해야 한다.

    출처: §1 · p. 1
  • 방법

    Wave Forcing은 청크 단위 인과적 attention으로 새 청크가 더 깨끗한 이전 청크를 참조하도록 하고, 혼합 노이즈 문맥과 자체 생성 이력을 사용해 학습하며, 전체 모델 복제본에 걸쳐 디노이징과 캐시 갱신을 파이프라인화한다.

    출처: §1 · pp. 1–2
  • 결과

    WF는 전반적인 생성 품질을 유지하면서 움직임을 개선한다. 100초 비디오에서 5-step WF의 Dynamic Degree는 RF 대비 36.63에서 91.45로 상승한다.

    출처: §1 · p. 2, §9 · p. 11
  • 시사점 및 한계

    보고된 결과는 생성 문맥, 학습, 실행을 함께 설계하면 품질을 유지하면서 움직임을 개선하고 높은 처리량의 스트리밍 비디오 생성을 달성할 수 있음을 보여준다.

    출처: §9 · p. 11

    고정 조건 실험만으로는 입력부터 출력이 화면에 표시되기까지의 지연이 짧다고 입증할 수 없으며, 프롬프트 전환, 카메라·동작 제어, 폐루프 작업, 다중 스트림의 마감 시간 보장도 평가하지 않았다.

    출처: §7 · p. 10

Abstract

from arXiv · show

Real-time long-video generation requires continuous output with consistent appearance and natural motion. Existing chunk-wise autoregressive methods face challenges in both generation efficiency and long-video quality: serialized denoising and history-cache refresh require two forward passes even with one-step denoising, and longer rollouts can degrade quality and cause camera drift. We propose Wave Forcing (WF), which co-designs generation, training, and execution for continuous video output with multi-step denoising. WF uses chunk-wise causal attention to access earlier, cleaner chunks before their denoising is complete, and distributes staggered denoising and cache-refresh stages across full-model replicas to achieve 1F1C: one output chunk per concurrent forward round after pipeline fill. To adapt the model to this continuous generation process, we develop a three-stage training procedure that successively introduces mixed-noise denoising, motion supervision, and causal adaptation using self-generated history. To execute this process efficiently, Wave Runtime (WaveRT) uses Wave Parallelism (WP) for early K/V delivery and communication-computation overlap, together with optimized kernels and pipelined VAE decoding. Experiments on Wan2.1-T2V-1.3B show that 5-step WF maintains overall quality comparable to Rolling Forcing while achieving higher Dynamic Degree on both short and long videos. Our system efficiency experiments show that 4-step WF achieves 147.6 DiT FPS and 134.8 end-to-end FPS on eight H200 GPUs, yielding 7.07x the single-GPU end-to-end throughput. In DiT-only tests with matched SageAttention+W8A8 backends, denoising steps, and GPU counts, WP delivers up to 2.53x the throughput of the faster of the Ulysses and Ring context-parallel baselines across six model scales (1.3B-14B).

1 서론

청크 단위 자기회귀 생성에서는 디노이징과 깨끗한 이력 갱신이 직렬화되어, 한 단계 디노이징에서도 순전파를 두 번 수행해야 한다. Wave Forcing은 인과적 웨이브프런트 생성, 단계별 학습, 중첩 실행을 결합해 품질을 유지하면서 모션과 스트리밍 처리량을 높인다.

1 서론

  • 5-step WF는 전반적인 품질에서 RF와 동등하며, 100초 비디오에서 Dynamic Degree를 36.63에서 91.45로 높인다.VBench Total은 81.64 대 81.15, VBench-Long Quality는 81.26 대 81.18이며, Subject Preservation은 97.10 대 92.75로 높아지는 반면 Camera Drift는 0.37 대 0.17로 유지된다.출처: §1 · p. 2
  • 4-step WF는 H200 GPU 8개에서 종단 간 134.8 FPS를 달성하며, 단일 GPU 기준선인 19.06-FPS보다 7.07× 빠르다.BF16/FA3 백엔드에서는 147.6 DiT FPS도 달성한다.출처: §1 · p. 2
  • WF는 전체 모델 복제본에 걸쳐 디노이징과 깨끗한 이력 갱신을 시차를 두고 파이프라인화해, 파이프라인이 채워진 뒤에는 모든 디노이징 업데이트를 유지하면서 동시 순전파 라운드마다 청크 하나를 생성한다.새 청크는 디노이징이 끝나기 전에 앞선 더 깨끗한 청크를 조건으로 사용한다.출처: §1 · pp. 1–2
  • 3단계 학습법은 혼합 노이즈 초기화, 교사 유도 모션 감독, 자체 생성 이력을 이용한 인과적 적응을 결합해 RF와 비슷한 장기 롤아웃 품질을 달성한다.보고된 결과에는 우수한 모션과 피사체 보존이 포함된다.출처: §1 · p. 2
  • WaveRT는 조기 계층별 K/V 전달과 통신·연산 중첩에 최적화된 로컬 연산 및 부하 균형 VAE 디코딩을 결합해 종단 간 처리량을 유지한다.WP의 효율성은 1.3B부터 14B까지의 모델에서 검증된다.출처: §1 · p. 2

2 사전 지식

각 청크는 이력 조건부 디노이징 업데이트를 거치며, clean-history 관례에서는 K/V를 갱신하기 위한 store pass가 추가된다. 따라서 순차 실행에서는 디노이징 단계 수보다 한 번 더 forward를 수행한다.

2 사전 지식

  • 청크는 노이즈에서 시작해 점차 낮아지는 노이즈 timestep에서 S회의 이력 조건부 디노이징 업데이트를 거친다.VAE는 잠재 프레임 청크를 비디오로 디코딩한다.출처: §2 · p. 3
  • 각 디노이징 단계는 다음 timestep을 위해 다시 노이즈를 추가할 clean latent를 예측하며, 별도의 full-model store forward가 clean-history K/V를 갱신한다.store는 K/V를 보존하고 예측값은 버리므로, 순차 생성에서는 청크마다 N = S + 1회의 forward가 필요하다.출처: §2 · p. 3
  • 파이프라인이 채워진 뒤에는 각 runtime tick에서 활성 디노이징 단계가 진행되고 새로운 노이즈가 투입되어, 청크별 작업량을 바꾸지 않고도 파이프라인 채움 후 1F1C를 구현한다.스케줄에는 store 단계도 포함된다.출처: §2 · p. 3

3 Wave Forcing

Wave Forcing은 인과적 wavefront attention과 혼합 노이즈 문맥 및 자체 생성 이력에 대한 학습을 결합해, 이전 청크의 denoising이 끝나기 전에 다음 청크들을 생성한다.

3 Wave Forcing

  • WF는 더 새롭고 노이즈가 많은 청크가 이전의 더 깨끗한 상태를 읽도록 하면서, 이후 청크가 이전 청크를 조건화하지 못하게 한다.이 인과적 wavefront를 혼합 노이즈 문맥 및 자체 생성 이력에 대한 학습과 결합한다.출처: §3 · p. 3

3.1 제한된 폭의 인과적 wavefront

  • 청크 단위 인과 마스크는 각 query가 자기 자신과 더 깨끗한 선행 청크에 접근하도록 하며, store는 후속 이력에 사용할 청크의 K/V를 갱신한다.store는 청크 스케줄의 마지막 단계에서 수행된다.출처: §3.1 · p. 3
  • 후속 학습 없이는 보고된 평가에서 짧은 동영상의 Quality와 Dynamic Degree가 하락하므로, 인과적 조건화 변화에 맞춘 적응이 필요하다.인과 마스크는 이후의 노이즈가 더 많은 활성 청크에 대한 접근을 차단해 RF가 학습한 조건화를 바꾼다.출처: §3.1 · p. 3

3.2 배포 그래프를 위한 학습

  • 4-step student는 SF의 ODE 초기화에서 시작하는 반면, 5-step student는 공개된 RF 가중치를 재사용하고 Stage 1을 건너뛴다.인과 마스크가 RF가 학습한 조건화를 바꾸므로 학습 적응이 필요하다.출처: §3.2 · p. 3
  • 학습은 혼합 노이즈 RF/SF DMD에서 teacher-chunk DMD와 LPIPS를 거쳐 자체 생성한 RF, WF 또는 SF 롤아웃에 대한 on-policy DMD로 진행된다.마지막 단계에서 WF는 자체 출력으로 store 갱신한 이력을 사용하며, 배포되는 것은 WF뿐이다.출처: §3.2 · pp. 3–4

4 Wave Runtime

Wave Runtime은 full-model replica, 조기 K/V 전달, 연산 중첩을 조율해 Wave Parallelism을 구현한다. 연산자 최적화와 파이프라인 방식의 VAE 디코딩으로 지속적인 출력을 완성한다.

4 Wave Runtime

  • Wave Runtime은 단계별 full-model replica를 사용해 K/V를 조기에 전달하고, 더 깨끗한 producer가 앞서 나갈 때 전달과 연산을 중첩한다.Wave Parallelism은 이러한 동시성을 실현하는 런타임 메커니즘이다.출처: §4 · p. 4, §4.1 · p. 4

4.1 단계 배치와 의존성

  • Attention은 저장소와 허용된 모든 더 깨끗한 rank를 기다리는 한편, WF의 causal mask는 RF에서 노이즈가 더 많은 rank에 존재하는 역방향 의존성을 제거한다.동기화된 기준 방식은 대신 계층마다 모든 rank의 K/V를 모은다.출처: §4.1 · p. 4

4.2 Producer lead와 비동기 전달

  • 더 깨끗한 rank는 더 적은 key를 읽으므로 후속 계층에서 producer가 앞서 나갈 수 있다. 모든 edge의 비용이 확보된 lead 안에 들어올 때만 전달이 완전히 감춰진다.WaveRT는 QKV projection과 RoPE 이후 K/V를 전달하고, attention 직전에 준비 상태를 확인한다.출처: §4.2 · p. 5
  • Paged delivery는 K/V를 정렬된 attention 슬롯에 직접 기록하고, K/V 양자화는 페이로드를 줄이며, 더 빠른 로컬 연산자는 producer와 consumer의 진행 양상을 바꾼다.가중치, noise draw, 위치, 로컬 연산자를 고정하면 attention은 동기화 실행과 동일한 K/V 값을 사용한다.출처: §4.2 · p. 5, §4.3 · p. 5

4.3 로컬 연산과 스트리밍 디코딩

  • WaveRT는 프로파일링한 스트리밍 시간을 기준으로 연속된 VAE partition을 전용 GPU에 균형 배치하면서 요청별 causal cache를 보존한다.첫 디코딩 출력에는 여전히 파이프라인 채우기 지연이 발생한다.출처: §4.3 · p. 5
  • 실행 폭은 denoising 단계 수에 따라 달라지며, 논리적 K/V fan-out은 단계 수에 대해 여전히 제곱에 비례하고 attention 작업량은 단계마다 다르다.출처: §4.3 · p. 5

5 실험

생성 품질과 움직임, 학습 절제 실험, 종단 간 실행 시간, 시스템 구성 요소, 컨텍스트 병렬화 비교를 평가한다. Wave Forcing은 품질, 움직임, 안정성의 균형을 이루며 Wave Runtime과 Wave Parallelism은 스트리밍 효율을 높인다.

5.1 생성 품질과 움직임

  • 5-step WF는 VBench Total (81.64)과 Quality (84.40)에서 가장 높은 점수를 기록한다. 100초 영상에서는 Dynamic Degree 91.45, Subject Preservation 97.10, Camera Drift 0.37을 달성한다.Rolling Forcing은 Camera Drift가 가장 낮지만(0.17), 장시간 영상에서 Dynamic Degree는 36.63이다. Causal Forcing은 움직임이 크지만 피사체 손실과 카메라 드리프트가 동반된다.출처: §5.1 · pp. 6–7, Table 1 · p. 7

5.2 학습 절제 실험

  • 전체 4-step 모델은 Quality (80.89), Dynamic Degree (74.97), Subject Preservation (91.88), Camera Drift (0.36)의 균형을 이룬다.Stage 2를 건너뛰면 Quality는 80.89에서 76.68로, Dynamic Degree는 74.97에서 15.73으로 하락한다. 학습 분기를 제거해도 움직임과 피사체 안정성 사이에 상충이 발생한다.출처: Table 2 · p. 7, §5.2 · pp. 7–8

5.4 시스템 절제 실험

  • Paged는 여섯 그룹 모두에서 tick p50이 가장 낮다. Sync-to-Paged는 BF16 tick p50을 1.3B에서 14.2%, 14B에서 10.9% 낮춘다.인접한 구성 간 최대 감소 폭은 그룹마다 다르며, 14B BF16에서는 Overlap-to-One-sided에서 가장 크다.출처: §5.4 · p. 8, Figure 7 · p. 9

5.3 종단 간 추론 효율

  • 1.3B에서 WaveRT + Sage는 E2E FPS 134.79를 달성하며, 동일한 실행에서 DiT FPS는 147.78이다. 단일 GPU 대비 E2E 성능 향상 폭은 1.3B에서 7.07×, 14B에서 6.08×로 가장 크다.테스트에는 더미 DiT 가중치를 사용한다. 8-GPU 구성에서는 디노이징에 GPU 4개, 저장에 1개, VAE 디코딩에 3개를 할당한다.출처: §5.3 · p. 8, Figure 7 · p. 9

5.5 기존 컨텍스트 병렬화와의 비교

  • WP는 여섯 규모 중 다섯 규모에서 BF16을 앞서며(WP/CP 비율 0.985–1.862×), 여섯 규모 모두에서 Sage+W8A8을 앞선다(더 빠른 CP 기준선 대비 1.025–2.530×).BF16 처리량 테스트는 1.3B–9B에서 5 steps/6 GPUs, 14B에서 4 steps/5 GPUs를 사용한다. Sage+W8A8 측정은 동일한 백엔드 조건의 비교를 사용한다.출처: §5.5 · pp. 8–9, Figure 7 · p. 9

6 관련 연구

관련 연구는 스트리밍 비디오의 학습과 추론, 다른 영역의 블록 단위 생성, 병렬 실행, 비디오 평가를 아우른다. WF는 더 깨끗한 중간 문맥을 활용하도록 비디오 청크를 학습시키고, 벤치마크 점수를 넘어 긴 스트림의 안정성을 평가하는 데 초점을 둔다.

효율적인 스트리밍 비디오 생성

  • 기존 스트리밍 비디오 연구는 노출 편향, 과거 K/V supervision, 증류, 혼합 노이즈 denoising, 장기 문맥을 다루며, 학습과 추론에서의 문맥을 함께 연구할 필요성을 제기한다.예시로 Self Forcing [Huang et al., 2025a], SGF [Zhuang et al., 2026], Helios [Yuan et al., 2026]가 있다.출처: §6 · p. 9

다중 청크 생성

  • 블록 단위 diffusion은 언어, 행동, 멀티모달 생성에 걸쳐 연구되어 왔다. WF는 방향성 인과 웨이브프런트를 통해 더 깨끗한 중간 문맥을 활용하도록 비디오 청크를 학습시킨다.예시로 D2F [Wang et al., 2025], BlockVLA [Wang et al., 2026c], Multimodal Diffusion Forcing [Huang et al., 2025c]가 있다.출처: §6 · pp. 9–10

병렬 실행

  • Ulysses와 Ring은 개별 forward pass를 분할하는 반면, WP는 전체 모델 복제본에서 청크–단계 작업을 스케줄링한다.관련 연구에서는 WP를 파이프라인 실행 시스템 및 최적화된 attention 런타임과 함께 다룬다.출처: §6 · p. 10

비디오 평가

  • VBench 점수와 피사체 소실 및 카메라 드리프트는 함께 나타날 수 있으므로, 이 논문은 벤치마크 점수에 표적 안정성 진단을 추가한다.논의에서는 남은 방법론 및 시스템 한계를 향후 평가와 인터랙티브 생성 방향과 연결한다.출처: §6 · p. 10

7 한계

평가는 고정 조건과 테스트한 구성에 한정되며, 품질 진단, 출력 경로의 병목 귀인, 학습 복잡도, 파이프라인 확장성에는 여전히 중요한 경계가 있다.

평가 범위

  • 스트리밍 생성은 고정 조건과 테스트한 모델, 샘플링 및 하드웨어 구성에서만 평가했다.온라인 상호작용과 더 폭넓은 서빙 조건은 평가 범위에 포함되지 않는다.출처: §7 · p. 10

품질 평가와 진단 범위

  • VBench 기반 점수만으로는 장시간 스트림의 품질을 완전히 설명하지 못하며, 표적 진단은 프롬프트 100개로 구성된 주제 중심 하위 집합과 기하학적 휴리스틱에 의존한다.임계값과 누락 관측에 대한 민감도, 의도적인 장면 전환의 포괄성, 사람의 판단과의 일치도는 아직 밝혀지지 않았다.출처: §7 · p. 10

출력 경로 용량과 병목 귀인

  • 집계된 실행 시간으로는 VAE 연산, 전송, 큐잉, 역압을 구분할 수 없으며, 시스템 수준의 DiT 실행 시간에는 디코더 간섭이 반영될 수 있다.관측된 DiT/E2E 격차는 출력 경로의 한계와 부합하지만, 병목을 규명하려면 VAE를 켜고 끈 조건을 맞춘 실행과 단계별 측정이 필요하다.출처: §7 · p. 10

학습 복잡도

  • WF는 현재 복잡한 다단계 학습 절차를 사용하며, 저자들은 생성 품질과 장시간 비디오의 안정성을 유지하면서 이를 간소화하고자 한다.출처: §7 · p. 10

고정 샘플링 예산에서의 확장성

  • 디노이징 단계 수를 고정하면 WF 파이프라인은 S개의 디노이징 단계와 하나의 캐시 갱신 단계를 사용하므로, 단계 병렬성이 제한되고 단일 파이프라인의 확장성도 한정된다.실험에서는 더 큰 모델에서 WP가 context parallelism보다 보이는 처리량 이점도 줄어드는 것으로 나타났다.출처: §7 · p. 10

상호작용 및 서빙 범위

  • 정상 상태에서 높은 처리량을 보인다고 해서 입력부터 출력 가시화까지의 지연 시간이 짧다는 뜻은 아니며, 고정 문맥 실험은 온라인 조건 변경을 평가하지 않는다.프롬프트 전환, 카메라/동작 제어, 폐루프 작업, 다중 스트림의 마감 시간 보장에는 별도의 평가가 필요하다.출처: §7 · p. 10

8 향후 연구

제안하는 연구 방향은 실행과 확장성, 동시 스트림 서비스, 상호작용 조건, 월드 모델 확장, 더 폭넓은 품질 평가를 다룬다.

종단 간 실행과 확장성

  • 저자들은 디코더 단계, 전송, 큐, 백프레셔를 프로파일링하고, 더 세분화된 실행 방식이나 context parallelism과의 조합을 연구할 계획이다.또한 동작과 장기 안정성을 유지하면서 WF 학습을 단순화하고자 한다.출처: §8 · p. 11

동시 스트림 서비스

  • 향후 동시 스트림 연구에서는 문맥 의존성을 고려하면서 admission control, 배치 처리, 자원 할당을 살펴볼 예정이다.평가에는 처리량과 함께 시작 지연, 출력 지터, 재생 중단, 공정성, 품질을 포함해야 한다.출처: §8 · p. 11

상호작용형 스트리밍 생성

  • 상호작용형 생성에서는 어떤 활성 청크에 프롬프트 업데이트를 적용할지 정하고, 영향을 받은 상태를 갱신하며, 조건 변화에 맞게 학습을 조정해야 한다.저자들은 프롬프트 입력부터 가시적 출력까지의 지연 시간, 프롬프트 준수도, 시각적 연속성을 평가할 것을 제안한다.출처: §8 · p. 11

상호작용형 월드 모델

  • 상호작용형 월드 모델의 향후 방향에는 학습 기반 세계 예측과, 엔진이 세계 상태를 유지하면서 비디오 모델이 관측 장면을 렌더링하는 시스템이 포함된다.두 접근법 모두 제어 인터페이스 학습과 제어 정합성, 상태 일관성, 폐루프 동작 평가가 필요하다.출처: §8 · p. 11

더 풍부한 품질 평가

  • 저자들은 자동 진단, 이해 기반 판단, 사람 평가를 결합해 품질을 더 풍부하게 평가하고자 한다.자동 평가자를 사용하려면 타임스탬프가 있는 근거, 사람 주석을 기준으로 한 보정, 누락된 실패 사례 점검이 필요하다.출처: §8 · p. 11

9 결론

Wave Forcing은 동시 비디오 청크 디노이징을 위해 인과적 컨텍스트, 학습, 다중 GPU 실행을 함께 설계한다. 전반적인 생성 품질을 유지하면서 움직임을 개선하고 실제 스트리밍 효율도 높였다고 보고한다.

결론

  • Wave Forcing은 여러 비디오 청크를 동시에 디노이징하기 위해 인과적 컨텍스트, 학습 전략, 다중 GPU 파이프라이닝을 함께 설계한다.앞선 청크의 더 깨끗한 중간 상태가 후속 청크의 조건이 되며, 파이프라인이 채워진 뒤에는 전체 모델 복제본들이 동시 순전파 라운드마다 청크 하나를 생성한다.출처: §9 · p. 11

AI 사용 명시

AI 보조 도구는 개념적 틀 설정, 원고 구성, 방법론 논의, 이용 가능한 근거의 해석, 텍스트 편집, 그림 개발을 지원했다.

AI 사용 명시

  • AI 보조 도구는 연구의 틀 설정, 원고 구성, 방법론 논의, 근거 해석, 번역과 편집, 그림 개발을 지원했다.저자들은 이러한 지원이 독립적인 검증은 아니며, 논문의 주장과 인용, 공개 사항에 대한 책임은 자신들에게 있다고 밝혔다.출처: AI Use Statement · p. 12

A 학습 구현 세부 사항

이 부록에서는 WaveRT의 학습 구현, 실행 의미론, 평가 프로토콜을 설명한다. 파이프라인 채우기, 자원 할당, 출력 경로 작업이 초래하는 제약을 포함해 웨이브프런트의 스케줄링과 측정 방식을 자세히 다룬다.

A 학습 구현 세부 사항

  • 학습에서는 각 모델의 디노이징 스케줄을 유지한다. 4-step 모델은 세 단계를 사용하고, 5-step 모델은 공개된 RF 가중치에서 시작해 Stage 2로 바로 진행한다.Stage 2에서는 연속된 teacher 청크에 시차를 둔 타임스텝으로 노이즈를 다시 추가하고, 동일한 클린 예측에 DMD와 LPIPS를 적용한다. Stage 3에서는 RF, WF 또는 SF 롤아웃을 샘플링한다.출처: A Training Implementation Details · p. 17

B.1 프로세스 소유권과 기준 실행

  • WaveRT는 각 디노이징 단계와 클린 상태 저장소를 각각 전체 DiT 복제본 하나에 할당하고, 전용 GPU에는 연속된 VAE 디코더 파티션을 배정한다.4-step 할당은 4+1+3 GPUs이고 5-step 할당은 5+1+2다. 저장소는 디노이징을 한 번 더 수행하는 대신 클린 상태의 K/V를 갱신한다.출처: §B.1 · pp. 17–18

B.2 K/V 게시와 버퍼 수명

  • WaveRT는 레이어 K/V를 적법한 더 클린한 단계의 소비자에게 게시하고, 어텐션 직전에 준비 상태를 확인해 대기하며, 원격 데이터를 고정된 어텐션 슬롯에 직접 배치한다.생성 플래그는 버퍼의 연속 사용을 구분하며, 라운드 경계에서 슬롯을 재사용하려면 송신 복사가 완료되어야 한다.출처: §B.2 · p. 18, §B.3 · p. 18

B.3 라운드 스케줄과 캐시 의미론

  • 컨텍스트 순서는 앵커, 제한된 클린 히스토리, 라이브 저장소, 자신, 더 클린한 디노이징 슬롯이다. 각 라운드가 끝나면 라이브 저장소 페이지는 보존 히스토리가 된다.첫 번째 클린 청크는 영구 앵커로 유지하고, 나머지 페이지는 저장된 RoPE 적용 키를 재사용한다.출처: §B.3 · pp. 18–19

B.4 출력 주기, 연산량, 채우기/비우기

  • 파이프라인이 채워지면 직렬 1-step 추론보다 빠른 속도로 출력을 생성할 수 있지만, 복제본을 더 많이 사용하고 연산량이나 첫 출력 지연 시간을 줄이지 않으며, 짧은 요청에서는 파이프라인이 채워지지 않을 수 있다.잠재 프레임 399개(청크 133개)에서 S=4일 때 슬롯 점유율은 97.1%다. Nchunk ≤ S인 요청에서는 파이프라인이 채워지지 않는다.출처: §B.4 · p. 19

B.5 스트리밍 VAE 파티셔닝

  • VAE 파티션은 추정된 로컬 처리 시간을 균형 있게 맞추도록 선택하며, 출력 간격에는 디코더 처리와 아직 중첩되지 않은 잔여 데이터 전달이 포함된다.디코딩이 느리면 대기열이 늘거나 제한된 버퍼의 역압이 발생할 수 있다. 모델에는 파이프라인 채우기/비우기와 파일 인코딩이 포함되지 않는다.출처: §B.5 · p. 19

B.6 동일 그래프 의미 보존

  • 모델, 스케줄, 입력, 히스토리 규칙을 고정하면, 어텐션에 순서가 보장된 적법한 K/V 컨텍스트가 제공되는 경우 의존성을 준수하는 비동기 실행과 동기 실행은 동일한 잠재 시퀀스를 생성한다.시간 측정 계약에는 생산자의 준비 상태와 데이터 전달 대기가 포함된다. 동시 실행 구간을 합산하면 중첩 시간을 중복 계산하게 되므로 합산해서는 안 된다.출처: §B.6 · pp. 19–20, §B.7 · p. 20

B.8 제한된 어텐션 저장 공간과 통신

  • 어텐션 페이지 저장 공간은 생성 영상 길이와 무관하지만, 정상 상태에서 K/V를 게시하려면 웨이브프런트 전반에 걸쳐 여러 논리적 페이로드 대상이 필요하다.이 상한은 어텐션 페이지에 적용되며 모델 가중치나 기타 요청 상태에는 적용되지 않는다. 실제 링크 트래픽은 전송 방식과 토폴로지에 따라 달라진다.출처: §B.8 · p. 20, Table 3 · p. 20

C.3 런타임 구현 및 측정 프로토콜

런타임 측정은 DiT 실행과 종단 간 비디오 출력을 구분하고, 지정된 설정에서 통신 전략을 비교한다. 출력 경로의 제약, 동일 그래프의 정확성 검사, 백엔드·단계 수·GPU 할당에 따라 범위가 달라지는 처리량 비교를 보고한다.

C.3 런타임 구현 및 측정 프로토콜

  • WaveRT 측정은 H200 8개가 장착된 노드 하나에서 워밍업 후 잠재 프레임 399개를 대상으로 고정 반복 3회 수행한다. DiT 시간에는 채우기와 비우기가 포함되며, VAE 동시 실행의 영향이 포함될 수 있다.DiT 전용 병렬 전략 스윕에서는 VAE를 비활성화하며, 실행 테스트는 생성 품질을 측정하는 대신 더미 DiT 가중치를 사용한다.출처: §C.3 · pp. 22–23, Table 6 · p. 23

C.4 처리량 산정 및 재현성

  • 5-step, 8-GPU 설정에서 BF16과 SageAttention은 각각 104.82 및 104.80 DiT FPS를 달성하고, 종단 간 처리량은 각각 96.46 및 96.48 FPS다.설정에서는 denoising에 GPU 5개, Store에 1개, 2단계 VAE에 2개를 할당한다. 종합 측정으로는 역압을 분리하거나 SageAttention의 큰 잠재적 속도 향상을 입증할 수 없다.출처: §C.4 · p. 23

C.5 메커니즘 진단

  • 동일한 1.3B, 4-step WF 그래프를 동기식, 단방향, 페이징 방식으로 실행한 결과, 앞선 검사에서 잠재 출력이 비트 단위까지 동일했다.고정 연산량의 4-step, 14B tick p50은 Sync의 464.270 ms에서 Paged의 413.795 ms로 감소하며, 중간 전략은 별도로 보고한다.출처: §C.5 · p. 24, §C.6 · p. 24

C.6 노출된 통신·동기화 및 페이로드 크기

  • WaveRT는 조기 K/V 전달, 사용 시점의 준비 상태 확인, 페이징 배치를 통해 소비자 측에 노출되는 대기를 줄이는 것을 목표로 한다. 페이로드 또는 조립 비용 감소가 종단 간 영향으로 곧바로 이어지는 것은 아니다.영향은 전송 시간이 노출되는지에 따라 달라지며, 양자화도 실행 시간에 변화를 줄 수 있다.출처: §C.6 · pp. 24–25

D.1 생성 스케줄 및 조건화

  • WF는 적법한 더 깨끗한 청크와 store의 현재 계층 live K/V를 보존하며, 더 노이즈가 많은 청크를 노출하거나 다른 캐시 규칙을 사용하는 방법들과 조건화 방식을 구분한다.Self Forcing은 다음 청크를 시작하기 전에 한 청크를 완료한다. 반면 Rolling Forcing은 혼합 노이즈 청크를 함께 진행하고 양쪽 시간 방향의 활성 윈도 K/V 의존성을 유지한다.출처: §D.1 · p. 25

D.2 순전파 분할과 단계 분산

  • 대응시킨 DiT 전용 비교는 각 규모 내에서 파라미터 규모, 백엔드 등급, GPU 수, denoising 단계를 통제하지만, WP의 WF 마스크와 CP의 RF 활성 윈도 어텐션을 비교한다.WP는 WF 그래프와 충분한 생산자 선행 시간에 의존하며, 그 대가로 전체 모델을 복제한다. 따라서 이 비교에는 실행 전략과 어텐션 가시성의 차이가 함께 반영된다.출처: §D.2 · pp. 25–26, Table 10 · p. 26

E 확장 향후 연구

확장 연구 논의에서는 WF를 통한 평가가 아직 이루어지지 않은 방향으로 상호작용, 서빙, world model 통합, 이해 기반 확장을 제시한다. 각 방향은 고정 컨텍스트 생성 설정을 넘어서는 추가 사양이나 검증이 필요하다.

E 확장 향후 연구

  • 제안된 상호작용, 서빙, world model 또는 이해 지원 확장에 대해서는 WF를 평가하지 않았다.논문은 명시한 학습 및 실행상의 한계에 이어 이들 확장을 향후 연구 과제로 제시한다.출처: E Extended Future Work · p. 27
  • 생성 중 프롬프트를 변경하려면 활성 청크의 프롬프트 할당, 캐시 상태 갱신, 진행 중인 작업의 완료 또는 폐기 여부를 확장 설계에서 명시해야 한다.고정 컨텍스트 등가성 논증만으로는 조건 변경 시 정확성이 입증되지 않는다. 평가는 지시 준수도와 연속성뿐 아니라 응답이 화면에 나타나기까지 걸리는 시간도 측정해야 한다.출처: E Extended Future Work · p. 27
  • 마감 시간 인지 서빙은 아직 연구가 필요하며, 여기에는 승인 제어, 스트림 우선순위, 자원 할당, 실시간 컨텍스트 의존성에 따른 배치가 포함된다.평가에는 처리량과 품질에 더해 시작 지연, 출력 지터, 정지율, 공정성을 포함해야 한다.출처: E Extended Future Work · p. 27
  • 제어 가능한 world evolution과 WF를 통합하려면 카메라 또는 행동 입력이 진행 중인 청크에 전달되는 시점을 명시하고, 의존성과 폐루프 제어 충실도를 검증해야 한다.제안된 평가에는 폐루프 작업에서의 예측 일관성과 정책 성능이 포함된다.출처: E Extended Future Work · p. 27
  • 렌더러를 통합하려면 구조·비디오 학습을 정렬하고 시간 조건화를 검증해야 한다. 인용된 렌더러 중 어느 것도 WF의 웨이브프런트와의 호환성을 입증하지 않았다.평가에서는 렌더링된 관측이 기반 상태를 보존하는지, 피드백에 충분히 빠르게 행동 효과를 드러내는지 시험해야 한다.출처: E Extended Future Work · p. 27
  • 더 폭넓은 품질 평가에는 국소 결함 검사와 장기 범위의 지시 인지 판단을 결합할 수 있지만, 사람을 기준으로 보정한 검증과 감사 가능한 시간적 근거가 필요하다.제안된 검사에는 사람 주석과의 일치 여부, 압축 메모리가 짧게 나타나는 결함이나 앞서 제시된 사실을 놓치는지 여부가 포함된다.출처: E Extended Future Work · p. 27
Loading 2611.00859v1…