AI 요약 · 영어에서 AI 번역

AnimeCeleb: Large-Scale Animation CelebHeads Dataset for Head Reenactment

Kangyeol Kim, Sunghyun Park, Jaeseong Lee, Sunghyo Chung, Junsoo Lee, Jaegul Choo

arXiv:2111.07640v2cs.AIcs.CV

TL;DR

애니메이션 head reenactment는 인간 동영상 데이터셋과 애니메이션 외형 간 불일치로 제약된다. 본 논문은 3D 모델 기반 데이터셋 AnimeCeleb과 반자동 파이프라인을 제시하고, 도메인 간 동작 전이를 위한 pose mapping과 AniMo를 제안하며, 높은 품질의 결과와 최신 방법 대비 우수성을 보고한다.

  • 문제

    대규모 인간 동영상 데이터셋으로 학습한 인간 head reenactment 방법은 애니메이션 캐릭터의 독특한 외형 때문에 애니메이션으로의 일반화 성능이 낮다.

    출처: §1 · p. 2
  • 방법

    본 논문은 제어 가능한 3D 애니메이션 모델로 AnimeCeleb을 구축하고, 인간 동작을 애니메이션 헤드로 전이하기 위해 pose mapping과 AniMo를 제안한다.

    출처: §1 · pp. 2–3
  • 결과

    실험 결과, AnimeCeleb은 고품질 애니메이션 head reenactment를 가능하게 하며, AniMo는 도메인 간 head reenactment에서 최신 방법보다 우수하다.

    출처: §1 · p. 3, §2.3 · p. 9
  • 핵심 시사점 및 한계

    AnimeCeleb은 애니메이션 head reenactment 모델 개발을 위한 실용적인 자원을 제공하며, 인간의 머리 동작을 애니메이션 헤드로 전이할 수 있게 한다.

    출처: §1 · p. 2, §4 · p. 14

Abstract

from arXiv · show

We present a novel Animation CelebHeads dataset (AnimeCeleb) to address an animation head reenactment. Different from previous animation head datasets, we utilize 3D animation models as the controllable image samplers, which can provide a large amount of head images with their corresponding detailed pose annotations. To facilitate a data creation process, we build a semi-automatic pipeline leveraging an open 3D computer graphics software with a developed annotation system. After training with the AnimeCeleb, recent head reenactment models produce high-quality animation head reenactment results, which are not achievable with existing datasets. Furthermore, motivated by metaverse application, we propose a novel pose mapping method and architecture to tackle a cross-domain head reenactment task. During inference, a user can easily transfer one's motion to an arbitrary animation head. Experiments demonstrate the usefulness of the AnimeCeleb to train animation head reenactment models, and the superiority of our cross-domain head reenactment model compared to state-of-the-art methods. Our dataset and code are available at https://github.com/kangyeolk/AnimeCeleb.

1 서론

AnimeCeleb은 제어 가능한 3D 모델로부터 대규모 포즈 주석 애니메이션 헤드 데이터셋을 구축해 애니메이션 도메인에서의 약한 일반화 문제를 다룬다. 또한 사람의 움직임을 애니메이션 헤드로 전달하기 위한 포즈 매핑과 AniMo를 제안하며, 실험을 통해 크로스도메인 리엔액트먼트에서 우수한 성능을 보인다.

1 서론

  • 사람 영상으로 학습한 리엔액트먼트 방법은 애니메이션 캐릭터의 외형이 사람의 머리와 크게 달라 애니메이션 도메인에서 일반화가 약하다.이 논문은 도메인 차이의 예로 뚜렷한 윤곽선과 큰 눈을 든다.출처: §1 · p. 2
  • AnimeCeleb은 3D 애니메이션 모델을 제어 가능한 이미지 샘플러로 사용해, 세부 의미 포즈 벡터를 갖춘 무제한 다중 포즈 이미지와 임의 해상도의 렌더링을 제공한다.데이터셋 구축 파이프라인은 모델 수집, 의미 주석, 이미지 렌더링을 결합한다.출처: §1 · pp. 2–3
  • 반자동 제작 과정은 주석 시스템과 Blender 기반 헤드 검출, 포즈 조작, 자동 렌더링을 사용한다.파이프라인은 주석이 달린 이미지를 렌더링하기 전에 표정과 무관한 모프를 필터링한다.출처: §1 · p. 2
  • 포즈 매핑 방법은 AnimeCeleb 포즈 벡터를 3DMM 파라미터로 변환해 AnimeCeleb과 VoxCeleb이 포즈 표현을 공유하도록 한다.AniMo는 이 공유 표현을 사용해 도메인 간에 학습된 움직임에 따라 애니메이션 헤드를 조작한다.출처: §1 · pp. 2–3
  • 실험 결과, AnimeCeleb은 효과적인 애니메이션 헤드 리엔액트먼트 기준 모델 학습에 유용하며, AniMo는 크로스도메인 헤드 리엔액트먼트에서 최신 방법을 능가한다.두 가지 기여로 데이터셋의 유용성과 크로스도메인 성능 우위를 주장한다.출처: §1 · p. 3

2 애니메이션 CelebHeads 데이터셋

AnimeCeleb은 의미 주석이 달린 표정과 머리 회전을 적용해 제어 가능한 3D 애니메이션 모델을 렌더링하여 애니메이션 얼굴 데이터셋을 구축한다. 이 파이프라인은 포즈 조건부 재연을 지원하며, 실험 결과 데이터셋의 일관성이 재연 품질에 영향을 미치고 포즈 벡터를 사용한 학습이 강한 성능을 보인다.

데이터셋 생성

  • 생성 파이프라인은 모델을 수집하고, 얼굴을 렌더링하며, 모프에 의미 주석을 달고, 표정과 회전 조합을 샘플링한다.Blender는 렌더링과 포즈 조작을 지원하며, 주석 작업은 원본 모프를 통일된 대상 의미에 대응시킨다.출처: §2.1 · pp. 3, 5, 6, Figure 2 · p. 4
  • AnimeCeleb은 3D 애니메이션 모델을 사용해 해당 포즈 주석이 포함된 제어 가능한 다중 포즈 얼굴 이미지를 생성한다.파이프라인은 대상 모프와 머리 회전을 샘플링해 렌더링된 이미지를 조건화하는 포즈 벡터를 구성한다.출처: Figure 2 · p. 4, §2.1 · p. 4

의미 주석

  • 주석 시스템은 눈, 눈썹, 입을 아우르는 23개의 대상 모프를 정의하며, 개별 검토를 통해 그룹 수준 대응을 수정한다.이 대상 모프는 포즈 벡터에 사용되는 표정 차원을 제공한다.출처: §2.1 · p. 5

데이터셋 속성

  • 데이터셋에는 3,613개의 3D 모델이 포함되며, 주석 작업 후 대부분 모델에 20개가 넘는 대상 모프가 있다.원본 모프 수는 평균 49개이며, 주석된 데이터 모음은 밀도 높은 실용적 표정 주석을 제공한다.출처: §2.1 · p. 3, §2.2 · p. 7

애니메이션 얼굴 재연

  • AnimeCeleb으로 학습한 재연 모델은 AnimeCeleb에서 키포인트로 학습한 PIRenderer와 FOMM보다 성능이 뛰어나지만, iCartoonFace 학습은 동일 정체성 내 변이가 큰 탓에 흐릿한 결과를 낳는다.정량 비교는 Table 2에 제시되어 있으며, iCartoonFace에 대한 진단은 정성적 분석과 inception score 분석으로 뒷받침된다.출처: Figure 4 · p. 6, §2.3 · p. 9

3 도메인 간 헤드 재연출

논문은 AnimeCeleb 포즈를 공유 3DMM 표현으로 매핑하고 도메인별 네트워크를 결합해 도메인 간 헤드 재연출을 다룬다. AniMo는 도메인 간 이미지 품질과 헤드 포즈 모방에서 기준 모델보다 우수한 성능을 보인다.

3.2 학습 파이프라인

  • 직접적인 도메인 간 지도 학습을 사용할 수 없으므로, 학습에서는 도메인 내 소스–구동 쌍으로 애니메이션 이미지와 인간 이미지를 각각 재구성한다.모델은 포즈 처리 설계를 공유하면서 애니메이션 쌍과 인간 쌍을 따로 사용한다.출처: §3 · p. 10

3.1 구동 포즈 표현

  • 포즈 매핑 함수는 AnimeCeleb의 20차원 포즈 벡터를 3DMM 표정, 회전, 이동 파라미터로 변환한다.17개의 표정 계수와 세 개의 머리 각도를 공유 인간 포즈 공간으로 매핑하고, 이동값은 0으로 추가한다.출처: §3.1 · p. 11

3.2 학습 파이프라인

  • 도메인 불변 모션 네트워크는 매핑된 애니메이션 포즈와 인간 3DMM 포즈를 공통 잠재 포즈 표현으로 인코딩한다.생성된 코드는 워핑 및 편집 네트워크에서 적응형 인스턴스 정규화에 사용할 아핀 파라미터를 제공한다.출처: §3.2 · p. 11, Figure 7 · p. 12

3.3 실험

  • 실험은 AnimeCeleb과 VoxCeleb을 사용하며, FID, SSIM, Head Angle Error로 동일 정체성 및 도메인 간 재연출을 평가한다.학습에는 다운로드 가능한 VoxCeleb 동영상 18,503개, 테스트에는 504개를 사용한다.출처: §3.3 · pp. 12–13
  • AniMo는 이미지 품질과 헤드 포즈 모방 모두에서 도메인 간 재연출 기준 모델을 모두 능가한다.Table 3은 정량적 비교를 제시하며, 저자들은 그 결과를 도메인 간 우수한 포즈 전이로 설명한다.출처: Table 3 · p. 13, §3.3 · p. 14
  • 정성적 평가에서 AniMo는 도메인별 네트워크의 도움으로 소스 정체성과 생생한 질감을 보존하면서 구동 포즈를 정확히 반영한다.기준 모델은 정체성이 섞이고 결과가 흐려지거나, 구조는 유지하지만 질감의 세부 묘사가 부족하다.출처: Figure 8 · p. 13, §3.3 · p. 14

4 결론

AnimeCeleb은 3D 모델과 Blender 기반 반자동 파이프라인으로 구축한 대규모 고주석 애니메이션 머리 데이터셋이다. 또한 논문은 사람의 머리 움직임을 애니메이션 머리에 전달하는 pose mapping과 AniMo를 제안한다.

4 결론

  • AnimeCeleb은 3D 애니메이션 모델에서 시뮬레이션한 얼굴 표정과 머리 회전을 활용해 풍부한 포즈 주석이 포함된 정돈된 이미지를 생성한다.Blender 기반 반자동 파이프라인과 의미 주석 도구를 통해 데이터셋을 구축한다.출처: §4 · p. 14
  • 제안하는 pose mapping과 AniMo 아키텍처는 사람의 머리 움직임을 애니메이션 머리에 전달해 도메인 간 재연기를 구현한다.실험을 통해 도메인 간 재연기와 직관적인 이미지 편집에 대한 효과를 입증한다.출처: §4 · p. 14

관련 연구

기존 애니메이션 데이터셋에는 일반적으로 세밀한 포즈 주석이 부족해 생성형 헤드 리인액트먼트를 직접 지원하는 데 한계가 있다. 반면 AnimeCeleb은 세밀한 포즈 정보와 짝지어진 동일 정체성 이미지 그룹을 제공한다.

관련 연구

  • 기존 애니메이션 데이터셋은 전처리된 헤드를 제공하지만, 세밀한 포즈 주석이 없어 생성 모델링은 여전히 쉽지 않다.수집한 애니메이션 이미지의 정확한 포즈 표현을 얻기도 어렵다.출처: A Related Work · p. 18
  • 헤드 리인액트먼트는 키포인트나 3DMM 파라미터와 같은 표현을 사용해 소스 정체성 정보와 다른 프레임의 모션 정보를 결합한다.대부분의 접근법은 동일한 동영상에서 샘플링한 두 프레임으로 학습한다.출처: A Related Work · p. 18
  • AnimeCeleb은 생성 작업을 위해 세밀한 포즈 주석이 포함된 다수의 동일 정체성 이미지 그룹을 제공한다.이 데이터셋은 기존 애니메이션 헤드 자료를 보완하는 것으로 제시된다.출처: A Related Work · p. 18

B 데이터 생성 과정의 세부 사항

데이터 생성 과정에서는 애니메이션 모델의 morph를 주석화하고, 의미 표현과 머리 각도를 샘플링한 뒤 정면화 이미지와 회전 이미지를 쌍으로 렌더링한다. 도구는 시각적 검토, 매핑 기록, 포즈 샘플링 절차를 제공한다.

B 데이터 생성 과정의 세부 사항

  • 이 과정은 주석이 달린 타깃 morph를 source morph로 인덱싱하는 것부터 시작하며, 샘플링한 값으로 pose vector를 구성한다.의사코드는 pose vector를 초기화한 뒤 샘플링한 눈, 눈썹, 입, roll, pitch, yaw 값을 할당한다.출처: B Details of Data Creation Process · pp. 19, 23
  • 파이프라인은 타깃 morph 시각화, 주석 인터페이스, source-to-target 매핑, 포즈 샘플링, 렌더링 예시를 기록한다.이 구성 요소는 Figures 9–11, Table 4, Algorithm 1에 제시되어 있다.출처: B Details of Data Creation Process · p. 19, Table 4 · p. 21, Figure 11 · p. 22
  • 주석 시스템은 조작된 타깃 morph를 시각화하고, source morph를 눈, 눈썹, 입의 의미적 타깃에 대응시킨다.눈과 눈썹의 의미 구분에는 왼쪽 관련, 오른쪽 관련, 양쪽 관련 제어 항목이 있으며, 머리 회전과 입에는 각각 단일 값이 사용된다.출처: B Details of Data Creation Process · pp. 19–20
  • 포즈 샘플링은 의미 morph를 무작위로 선택하고 값을 샘플링하며, roll, pitch, yaw를 U(−20°, 20°)에서 추출한다.샘플링한 값은 표현 및 머리 각도 항목을 포함하는 pose vector에 입력된다.출처: B Details of Data Creation Process · pp. 20, 23
  • 3D 애니메이션 모델을 입력으로 받아 렌더링하면 정면화된 표현 이미지와 회전된 표현 이미지가 생성되며, 네 가지 셰이딩 스타일을 적용한다.후자는 샘플링한 머리 각도를 추가한 뒤 생성된다.출처: Figure 10 · p. 21

C AnimeCeleb 추가 샘플 및 실험 결과

추가 결과는 AnimeCeleb이 다양한 샘플 이미지, 애니메이션 헤드 재연, 색상화 및 이미지 조화 작업을 지원함을 보여준다.

AnimeCeleb의 추가 예시

  • AnimeCeleb은 여러 캐릭터, 포즈 그룹 및 렌더링 스타일을 아우르는 추가 샘플 이미지를 제공한다.샘플에는 정면화된 표정 그룹과 회전된 표정 그룹이 포함되며, 동일한 포즈 벡터를 서로 다른 셰이더로 렌더링했다.출처: C Additional AnimeCeleb Samples and… · p. 24, Figure 12 · p. 26

다른 애니메이션 이미지의 헤드 재연

애니메이션 색상화

이미지 조화

  • AnimeCeleb은 애니메이션 전경을 비슷한 스타일의 배경 및 액세서리와 자연스럽게 합치는 이미지 조화 작업을 지원한다.조화화 결과는 애니메이션 캐릭터 주변의 배경과 액세서리를 정교하게 다듬는다.출처: C Additional AnimeCeleb Samples and… · p. 25, Figure 16 · p. 28

D AniMo와 기준 방법의 구현 세부사항

AniMo는 지각, 스타일, 재구성 목적 함수를 사용해 모션, 워핑, 편집 네트워크를 결합하고, 비교를 위해 기준 방법들을 구현한다.

모션 네트워크

워핑 및 편집 네트워크

목적 함수

  • 지각 재구성 손실은 사전 학습된 VGG-19 특징 공간에서 워핑된 소스 이미지와 구동 이미지가 정렬되도록 워핑 네트워크를 학습시킨다.이 손실은 픽셀값이 아닌 활성화 맵 간 ℓ1 거리를 최소화한다.출처: D Implementation Details of the AniMo… · p. 30
  • 편집 네트워크는 재구성 손실과 스타일 손실을 사용하며, 전체 AniMo 목적 함수에서는 워핑 손실도 함께 결합한다.스타일 손실은 Gram 행렬 통계를 일치시키며, 프레임워크는 AnimeCeleb과 VoxCeleb을 사용해 공동 학습한다.출처: D Implementation Details of the AniMo… · pp. 30–31

학습 및 기준 방법

  • AniMo는 두 단계로 학습하며, 비교에는 지정된 데이터셋 설정에 따른 FOMM, PIRenderer, LPD가 포함된다.학습에는 초기 학습률 0.0001, 배치 크기 12의 Adam을 사용한다.출처: D Implementation Details of the AniMo… · p. 31

E AniMo의 추가 헤드 리인액트먼트 결과

추가 실험에서는 동일 인물, 교차 인물, 도메인 간 리인액트먼트와 포즈 편집, 미관측 애니메이션 이미지에 대한 성능을 평가한다.

VoxCeleb 리인액트먼트

AnimeCeleb 리인액트먼트

  • AnimeCeleb과 VoxCeleb으로 공동 학습한 모델은 AnimeCeleb의 동일 인물 및 교차 인물 리인액트먼트에서 VoxCeleb만으로 학습한 모델보다 우수하다.VoxCeleb만으로 학습한 모델은 AnimeCeleb에서 성능이 낮지만, 공동 학습은 유망한 결과를 내며 FOMM은 여전히 텍스처 합성에 한계가 있다.출처: E Additional Head Reenactment Results… · p. 32, Figure 23 · p. 35, Figure 24 · p. 35

도메인 간 헤드 리인액트먼트

직관적인 이미지 편집

기타 애니메이션 이미지

사용자 연구 및 데이터셋 비교

  • 사용자들은 AnimeCeleb이 iCartoon과 비슷한 머리 포즈 및 표정 다양성을 갖추었고, 깔끔함도 우수하다고 평가한다.Figure 20에서는 VoxCeleb과의 포즈 통계 비교 및 iCartoon과의 사용자 연구 점수 비교를 제시한다.출처: E Additional Head Reenactment Results… · p. 33, Figure 20 · p. 33

F 논의

논의에서는 AnimeCeleb과 AniMo의 범위와 품질 한계를 짚고, 데이터셋 확장 및 reenactment 결과 개선을 위한 구체적인 방향을 제시한다.

F 논의

  • 현재 생성 프로토콜은 예산 제약으로 제한된 포즈의 다중 포즈 단일 시점 애니메이션 얼굴 이미지를 생성한다.확장 방향으로 더 많은 시점, 해상도, 조명 조건을 제시한다.출처: F Discussions · pp. 38–39
  • 현재 AnimeCeleb은 256 × 256 크기의 정면, 중앙 정렬, 배경 없는 이미지로 제한되어 있으며, 고해상도, 다중 시점, 조명 및 다양한 배경 조건은 향후 과제로 남아 있다.저자들은 렌더링 가능한 1024 × 1024 이미지, 카메라 각도 변화, 조명 제어, 추론 전처리를 개선 방향으로 설명한다.출처: F Discussions · pp. 39–40
  • VoxCeleb에서 얻은 포즈로는 애니메이션 얼굴의 눈이나 입 위치를 정확히 특정하기 어려워, 도메인 간 reenactment에서 눈이나 입의 세밀한 포즈가 손실될 수 있다.저자들은 학습 중 표정 세부의 정확성을 반영할 계획이다.출처: F Discussions · p. 40
  • AnimeCeleb 이미지는 중앙 정렬되고 배경이 없어, 복잡한 배경이 있는 입력은 배경 아티팩트와 포즈 세부 묘사의 저하를 초래할 수 있다.저자들은 소스 얼굴과 구동 얼굴의 위치를 옮기거나 추론 시 전처리를 추가하는 방안을 제안한다.출처: F Discussions · p. 40
Loading 2111.07640v2…