PaperlayerView exact revision on arXiv

AI 요약 · 영어에서 AI 번역

Attribute First, then Generate: Locally-attributable Grounded Text Generation

Aviv Slobodkin, Eran Hirsch, Arie Cattan, Tal Schuster, Ido Dagan

arXiv:2403.17104v3cs.CL

TL;DR

문서나 문단 단위의 거친 인용은 사실 확인을 번거롭게 한다. Attribute First, then Generate는 문장 생성에 앞서 출처 구간을 선택하고 계획한 뒤, 이를 세밀한 attribution으로 활용해 문장을 생성한다. 이 접근법은 과제 지표에서 baseline과 대등하거나 더 나은 성능을 보이면서 attribution을 훨씬 짧게 만들고 검증 시간도 줄인다.

  • 문제

    기존 attributed generation은 문서나 문단 전체를 인용하는 경우가 많아, 평가자가 검증 과정에서 관련 없는 세부 내용을 일일이 살펴야 한다.

    출처: §1 · p. 1

  • 방법

    Attribute First, then Generate는 관련 출처 세부 정보를 선택하고 문장 계획으로 구성한 뒤, 해당 정보에 조건화해 문장을 생성한다.

    출처: §1 · pp. 1–2

  • 결과

    이 파이프라인은 과제별 지표에서 baseline과 대등하거나 더 나은 성능을 보이고, attribution을 수 자릿수 더 짧게 만들며, attribution 정확도에는 거의 영향을 주지 않는다.

    출처: §7 · p. 9

  • 핵심 시사점 및 한계

    이 접근법은 사실 확인 시간을 거의 50% 단축한다.

    출처: §7 · p. 9

    여러 차례 모델을 호출해야 하므로, 다단계 접근법은 직접적인 end-to-end 생성보다 연산 자원을 더 많이 쓰고 실행 속도도 더 느리다.

    출처: Limitations · p. 9

Abstract

from arXiv · show

Recent efforts to address hallucinations in Large Language Models (LLMs) have focused on attributed text generation, which supplements generated texts with citations of supporting sources for post-generation fact-checking and corrections. Yet, these citations often point to entire documents or paragraphs, burdening users with extensive verification work. In this paper, we introduce a locally-attributable text generation approach, prioritizing concise attributions. Our method, named "Attribute First, then Generate", breaks down the conventional end-to-end generation process into three intuitive steps: content selection, sentence planning, and sequential sentence generation. By initially identifying relevant source segments ("select first") and then conditioning the generation process on them ("then generate"), we ensure these segments also act as the output's fine-grained attributions ("select" becomes "attribute"). Tested on Multi-document Summarization and Long-form Question-answering, our method not only yields more concise citations than the baselines but also maintains - and in some cases enhances - both generation quality and attribution accuracy. Furthermore, it significantly reduces the time required for fact verification by human assessors.

1 서론

문서나 문단 전체를 가리키는 포괄적 인용은 검증에 많은 수고를 들게 하므로, 간결하면서도 필요한 원문 구간을 빠짐없이 포함하는 국소 귀속 생성이 필요하다. 제안하는 파이프라인은 문장을 생성하기 전에 원문 내용을 선택하고 계획하여, 품질과 귀속 정확도를 유지하거나 때로는 높이면서 인용을 더 짧게 만든다.

1 서론

  • 문서 전체나 문단을 인용하면 평가자가 관련 없는 세부 사항까지 살펴야 하므로, 사실 검증에 시간이 오래 걸리고 효과도 떨어진다.귀속 생성은 사실성을 검증하고 모델 출력의 사실 오류를 찾아 바로잡는 데 도움을 주기 위한 것이다.출처: §1 · p. 1
  • 이 논문은 국소 귀속 생성을 폭넓은 문서 단위 인용이 아니라, 생성된 사실을 빠짐없이 뒷받침하는 정밀하고 간결한 발췌문으로 정의한다.Attribute First, then Generate 방식은 문장을 계획하고 생성하기 전에 관련 원문 세부 내용을 선택한다.출처: §1 · pp. 1–2
  • 이 접근법은 다중 문서 요약과 장문 질의응답에서 파인튜닝 및 퓨샷 프롬프팅 전략을 사용해 평가된다.내용 선택은 각 과제의 요구에 맞게 조정되며, 예를 들어 요약에서는 중요도를, 질의응답에서는 질의 관련성을 기준으로 삼는다.출처: §1 · p. 2
  • 이 접근법은 생성 품질에서 기준선을 앞서기도 하고, 높은 귀속 정확도를 유지하며, 사실 검증에 드는 수고를 50% 넘게 줄인다.논문은 인용이 유의미하게 더 짧아진다고도 보고한다.출처: §1 · p. 2

2 국소 출처 귀속형 근거 기반 텍스트 생성

국소 출처 귀속형 근거 기반 생성은 문서 집합에서 과업별 텍스트를 만들고, 각 문장에 근거가 되는 원문 구간의 인용을 붙인다. 인용은 출력과 입력 모두에서 유용한 최소 단위를 겨냥하면서 각 문장의 정보를 빠짐없이 뒷받침해야 한다.

2 국소 출처 귀속형 근거 기반 텍스트 생성

  • 문서 D가 주어지면, 이 과업은 주어진 과업을 수행하고 D의 근거 텍스트를 인용하는 문장들을 생성한다.문서는 검색 시스템에서 가져오거나 사용자가 제공할 수 있다.출처: §2 · p. 2
  • 출처 귀속은 출력의 가능한 한 많은 부분을 뒷받침하면서, 원문과 생성 텍스트 모두에서 최대한 세밀한 단위를 겨냥해야 한다.출처: §2 · p. 3
  • 출력 세분성은 생성된 각 문장에 고유한 출처 귀속 집합을 부여하고, 입력 세분성은 구체적이고 간결한 원문 구간을 겨냥한다.한 문장의 인용들은 합쳐서 해당 문장의 정보를 충분히 뒷받침해야 하며, 구간들은 서로 연속되지 않아도 된다.출처: §2 · p. 3

3 모델링

모델링 프레임워크는 근거 기반 생성을 콘텐츠 선택, 문장 계획, 문장별 생성으로 나눈다. 이 프레임워크는 인컨텍스트 프롬프팅과 파인튜닝으로 적용되며, 요약과 질의응답에서 과제별 콘텐츠 선택을 수행한다.

3.1 Attribute First, then Generate

  • 프레임워크의 세 단계는 콘텐츠 선택, 문장 계획, 문장별 생성이며, 과제별 선택 방식을 적용해 MDS와 LFQA에서 평가했다.요약에서는 핵심 콘텐츠를, 질의응답에서는 질의와 관련된 콘텐츠를 선택한다.출처: §3.1 · p. 3
  • 선택된 출처 구간은 근거로 기능하며, 계획 단계에서는 이를 문장에 맞는 클러스터로 묶고 생성 단계에서는 각 클러스터와 앞선 문장들을 활용한다.계획 단계는 각 생성 반복에서 하나의 클러스터에 조건화해 생성을 단순화하면서 문장 단위의 출처 귀속을 유지한다.출처: §3.1 · pp. 3–4

3.2 인컨텍스트 러닝

  • 인컨텍스트 전략은 모델에 MDS에서는 핵심 구간을 원문 그대로, LFQA에서는 질의응답 관련 구간을 선택하고 이를 클러스터링한 뒤, 이전 문장을 활용해 클러스터마다 한 문장씩 생성하도록 프롬프트한다.식별된 구간은 문자열 매칭으로 문서에서 찾으며, 탐지할 수 없는 구간은 제외한다.출처: §3.2 · p. 4
  • Chain-of-Thought 변형은 문장 계획과 생성을 결합해, 모델이 각 문장의 핵심 구간을 계획한 뒤 출력을 생성하고 다듬도록 한다.출력의 각 문장은 계획 단계에서 정한 핵심 구간과 연결된다.출처: §3.2 · p. 4

3.3 파인튜닝

  • 파인튜닝은 선택한 출처 구간을 복사하고 강조 구간을 순서가 있는 클러스터로 배열하도록 구성 요소를 학습시키며, 어휘의 충실성을 위해 제약 디코딩을 사용한다.생성 시 특수 토큰으로 강조 표시된 문서, 접두부, 그리고 LFQA의 경우 질의를 구분한다.출처: §3.3 · pp. 4–5
  • 공동 파인튜닝 전략은 문서 집합을 순서가 있는 강조 구간 클러스터로 직접 변환해 선택과 계획을 결합한다.출처 구간을 정확히 복사하도록 제약 디코딩을 사용한다.출처: §3.3 · p. 5

4 실험 설정

이 설정은 프레임워크의 각 단계를 학습하도록 원문-출력 정렬을 활용하고, 문맥 내 학습 모델과 미세 조정 모델을 기준선과 비교하며, 자동 지표와 사람의 판단으로 출력 및 귀속 품질을 평가한다.

4.1 데이터셋

  • MDS에는 DUC, TAC, Multi-News의 정렬을 사용하고, LFQA에는 검증 가능성 기준으로 필터링한 사람 주석 응답-인용 정렬을 사용한다.원문-출력 정렬은 단계별 학습 목표를 제공한다. 선택에는 원문 구간, 계획에는 그룹화된 구간, 생성에는 출력 문장을 사용한다.출처: §4.1 · p. 5

4.2 모델 및 기준선

  • 이 연구에서는 Gemini의 문맥 내 학습을 시험하고 MDS와 LFQA에 PRIMERA를 미세 조정하며, 문맥 내 학습 모델의 경우 종단 간 과제 프롬프트 및 ALCE와 비교한다.PRIMERA는 MDS 성능과 LFQA 개발 세트에서 Long-T5보다 우수한 성능을 보여 선정했으며, ICL에는 Gemini API를 사용했다.출처: §4.2 · p. 5, §4.3 · p. 5

4.3 평가

  • 자동 평가는 과제 출력에 ROUGE-L과 BERTScore, 귀속 품질에 AUTOAIS, 간결성에 인용된 텍스트의 토큰 길이, 인스턴스당 귀속되지 않은 문장 수를 사용한다.AUTOAIS는 NLI 프레임워크에서 TRUE를 사용하며, 분류기가 귀속된 것으로 예측한 문장들의 평균을 산출한다.출처: §4.3 · pp. 5–6
  • 사람 평가는 5점 리커트 척도로 일관성을 평가하고, LFQA의 유용성과 문장 수준의 귀속 근거도 평가한다. 유창성은 사람만 평가한다.귀속 판단은 완전히 뒷받침되면 1, 그렇지 않으면 0으로 점수화해 문장별 평균을 낸다. TRUE는 TrueTeacher보다 사람의 판단과 상관관계가 높은 것으로 나타났다.출처: §4.3 · p. 6

5 결과 및 분석

이 접근법은 귀속 정확도와 출력 품질을 대체로 유지하면서 귀속을 훨씬 간결하게 만들며, 평가자들은 인용을 더 빠르게 검증한다. Prefix는 응집성을 높이며, 출력이 진행될수록 그 기여도가 커진다.

5 결과 및 분석

  • ATTR. FIRSTCoT의 인용은 ALCE보다 45배 짧았고, 평가자들이 이를 평가하는 데 걸린 시간은 대략 절반이었다.사람 평가에서는 ALCE와 ICL ATTR. FIRSTCoT 변형을 비교했다.출처: §5 · pp. 6–7
  • LFQA에서는 이 방법이 귀속 정확도에서 ALCE를 앞섰지만, MDS에서는 ALCE가 더 높은 점수를 얻었고 미귀속 문장 수는 두 배였다.MDS에서 근거가 없다고 판단된 109개 문장 중 약 42%는 부분적으로 뒷받침되었으며, 그 밖의 귀속 세부 정보는 강조 표시된 구간 가까이에 있는 경우가 많았다.출처: §5 · p. 7
  • MDS 요약 품질은 거의 변하지 않았지만 LFQA는 ROUGEL과 BERTSCORE에서 향상되었으며, 사람 평가에서는 유창성과 LFQA의 유용성도 평가했다.문맥 내 학습 변형은 미세 조정 모델보다 품질이 더 높은 출력을 생성하는 경향을 보였다.출처: §5 · p. 7
  • 귀속은 자릿수 차이로 더 짧아졌으며, 귀속 정확도나 출력 품질에는 거의 영향이 없었다.저자들은 개별 구성 요소를 더 개선하는 일은 향후 과제로 남아 있다고 언급한다.출처: §5 · p. 7

5.1 모델은 Prefix를 볼 때 이점을 얻는가?

  • 분석한 113개 문장 중 약 30%는 prefix가 있을 때 더 응집력 있었다. 23%는 지시 연결이, 7%는 담화 연결어가 개선되었다.분석에서는 각 과제에서 두 번째 문장부터 시작해 20개 사례를 살펴보았다.출처: §5.1 · p. 8
  • 출력이 진행될수록 응집성에 대한 prefix의 기여도가 커졌다. Figure 3은 문장 인덱스 상한별로 더 응집력 있는 문장의 비율을 보여준다.출처: Figure 3 · p. 7, §5.1 · p. 8

6 관련 연구

기존 귀속 방법은 세분성에 차이가 있으며, 사후 매칭은 조합적 난제를 낳는다. 텍스트 계획은 생성을 여러 단계로 나누며, 본 연구는 추출 방식 및 Chain-of-Thought 대안과 접근법을 비교한다.

6 관련 연구

  • LFQA 방법은 응답 수준 URL [Thoppilan et al., 2022]부터 문장 수준 문서 인용 [Gao et al., 2023b], 세밀한 SEMQA 구간 [Schuster et al., 2023]까지 다양하며, SEMQA의 반추출적 설계는 MDS에서 추상화하는 데 제약을 둔다.출처: §6 · p. 8
  • 사후 귀속은 문서를 검색하고 답변의 일부를 텍스트 구간과 대응시켜 조합적 난제를 일으킨다 [Bohnet et al., 2023; Gao et al., 2023a].출처: §6 · p. 8
  • 텍스트 계획은 생성 전에 계획 단계를 추가한다 [Gehrmann et al., 2018; Narayan et al., 2021, 2023; Zhao et al., 2020]. Ernst et al. (2022)와 달리, 본 연구는 자연스러운 다중 명제 문장을 지원한다.출처: §6 · p. 8
  • 텍스트 계획과 달리, Chain-of-Thought는 일반적으로 하나의 생성 호출에서 계획과 예측을 결합한다. 본 연구는 두 접근법을 모두 살펴본다.출처: §6 · pp. 8–9

7 결론

Attribute First, then Generate는 생성을 여러 단계로 나누어 출처 귀속이 부산물로 생기게 한다. 평가 결과, 과제별 지표에서 기준선과 동등하거나 더 나은 성능을 보였으며, 출처 표기는 훨씬 짧고 사실 확인 시간은 거의 50% 줄었다.

7 결론

  • 분해된 파이프라인은 자동 및 수동 평가의 과제별 지표에서 기존 기준선과 동등하거나 더 나은 성능을 보였다.저자들은 생성된 텍스트와 참조 자료 모두에 세밀한 출처 귀속을 제공한다고 보고한다.출처: §7 · p. 9
  • 출처 표기는 몇 자릿수나 짧아졌고, 출처 귀속 정확도에는 거의 영향을 주지 않으면서 사람의 사실 확인 시간을 거의 50% 줄였다.출처: §7 · p. 9
  • 이 방식은 생성을 여러 단계로 나누어 출처 귀속이 생성 과정의 부산물이 되게 한다.출처: §7 · p. 9
  • 이 연구는 콘텐츠 선택과 생성의 한 가지 구현에 초점을 맞췄으며, 저자들은 다른 구성도 탐색할 것을 제안한다.출처: §7 · p. 9

한계

이 접근법은 직접적인 엔드투엔드 생성보다 컴퓨팅 자원을 더 많이 사용하고 실행 속도가 느린 경향이 있다. 또한 구성 요소들이 서로 연결되어 있어 오류가 전파될 수 있지만, 개별 구성 요소의 견고성이 이러한 위험을 일부 완화할 수 있다.

한계

  • 각 단계에서 모델을 여러 차례 호출하므로 직접적인 엔드투엔드 생성보다 컴퓨팅 자원 사용량이 늘고 속도가 느려지는 경향이 있다.출처: Limitations · p. 9
  • 구성 요소들이 서로 연결되어 있어 오류가 전파될 수 있지만, 개별 구성 요소의 견고성이 이러한 위험을 일부 완화한다.콘텐츠 선택 단계에서 관련 없는 단편을 반환하더라도, 후속 단계에서 핵심적이지 않은 정보를 걸러내도록 설계되어 있다.출처: Limitations · p. 9

윤리 성명

사람 대상 평가는 모집 후 보수를 지급한 Mechanical Turk 주석자를 대상으로 진행했다. 성명에는 데이터셋 라이선스와 AI 보조 도구의 제한적 사용도 명시되어 있다.

윤리 성명

  • 이전 평가에서 높은 성과를 보인 MTurk 주석자를 초대하고, 지침과 피드백을 제공해 업무를 시작하도록 했다. 시간당 약 $12를 지급했으며, 초과 시간이 5%를 넘으면 이에 대한 비용도 보전했다.출처: Ethics Statement · p. 9
  • DUC와 TAC 데이터는 NIST 지침에 따라 입수했으며 공개하지 않았다. Multi-News와 사람 대상 평가 주석 데이터는 비상업적 용도로만 사용할 수 있다.Liu et al. (2023)의 주석 데이터는 MIT 라이선스로 공개되어 있다.출처: Ethics Statement · p. 9
  • AI 보조 도구는 텍스트의 문법적 구조를 개선하는 데만 사용했다.출처: Ethics Statement · p. 9

A 데이터셋 전처리

이 절에서는 LFQA에 사용한 원본 데이터셋과 필터링, MDS에 사용한 정렬 데이터셋, 데이터셋 크기 및 평가 지표 표를 설명한다.

A 데이터셋 전처리

  • Table A.1에는 학습, 개발, 테스트 및 하이퍼파라미터 튜닝 데이터의 크기가 제시되어 있다.출처: Table A.1 · p. 13
  • Table A.2에는 평가 지표와 인간 판단 간 평균 Kendall-Tau 및 Spearman 순위 상관계수와 95% 신뢰구간이 제시되어 있다.표 캡션에서 “prob.”는 레이블 1에 대한 모델 확률의 평균을 구하는 변형을 뜻한다.출처: Table A.2 · p. 13
  • 근거가 뒷받침하지 않는 진술이 있거나, 지각된 유용성이 4 미만이거나, 근거 발췌문을 원본 문서에 정렬할 수 없는 LFQA 예시는 제외했다.인용 하나 이상이 전체 내용을 뒷받침하거나 인용들을 합쳐 전체 내용을 뒷받침하는 경우에 지원된 것으로 판정했으며, 유용성 평점이 4 또는 5인 예시를 유지했다.출처: A Datasets Preprocessing · p. 13
  • MDS 학습에는 DUC와 TAC에서 추출한 정렬을 사용하고, 개발 및 테스트에는 Multi-News의 정렬을 사용한다.Multi-News 세트에는 각각 평균 세 개의 원본 기사를 바탕으로 작성된 요약문 100개와 주석자가 식별한 정렬 구간이 포함되어 있다.출처: A Datasets Preprocessing · p. 13

B AUTOAIS 메타 평가

저자들은 자동 귀속 평가기를 선정하기 위해 NLI 모델과 확률 평균 변형을 인간 주석과 비교한다. TRUE는 TrueTeacher보다 인간 판단에 더 잘 부합하는 반면, 함의 확률을 평균하면 두 모델 모두에서 상관이 더 낮다.

B AUTOAIS 메타 평가

  • TRUE는 TrueTeacher보다 인간 판단에 더 잘 부합하며, 함의 확률을 평균하면 두 모델 모두에서 상관이 유의하게 낮아진다.인간 주석을 기준으로 Kendall-Tau 및 Spearman 순위 상관을 비교하고, 150개 사례로 이루어진 1,000개 표본에 대해 부트스트래핑을 수행한다.출처: B Meta-Evaluation for AUTOAIS · p. 13

C 구현 세부 사항

이 절에서는 파이프라인의 ICL 및 fine-tuned 구현, 기준선, 평가 절차를 설명한다. 또한 생성 후 귀속, 지연 시간, 토큰 수를 포함한 사람 평가와 보충 비교도 다룬다.

C.1 콘텐츠 선택

  • ICL content selection은 MDS에서 원문 그대로의 핵심 구간을, LFQA에서 질의 관련 구간을 추출하며, fine-tuned selection은 마크업으로 구분된 출처 하이라이트를 반환한다.fine-tuned 모델은 문서를 이어 붙인 뒤 4,096-token 문맥에 맞게 길이를 줄인다. ICL selection은 작업별 단어 수 제한을 사용한다.출처: §C.1 · p. 14

C.2 생성 계획

  • Generation planning은 선택된 하이라이트를 출력 문장에서 함께 나타나도록 할 클러스터로 묶으며, 생성형 클러스터링 또는 공동 source-to-clusters 모델을 사용한다.ICL에서는 하이라이트에 번호를 붙이고 LFQA 질의를 포함한다. fine-tuned 생성형 클러스터링 모델은 하이라이트를 입력으로 받으며, 공동 모델은 출처 문서를 입력으로 받는다.출처: §C.2 · pp. 14–15

C.3 귀속된 융합 출력

  • Attributed fused output은 각 하이라이트 클러스터에서 문장 한 개를 생성하고, 응답 접두부를 조건으로 반복 생성하며 해당 문장의 하이라이트를 바탕으로 인용을 붙인다.ICL chain-of-thought 변형은 출처 하이라이트를 반복적으로 클러스터링하고 융합하여 계획과 융합을 결합한다.출처: §C.3 · p. 15

C.4 End-to-end 생성; C.5 ALCE 변형

  • end-to-end 기준선은 문서를 바탕으로 요약이나 답변 전체를 생성하는 반면, ALCE 기준선은 뒷받침하는 출처 문서에 대한 인라인 인용과 함께 텍스트를 공동 생성한다.ICL end-to-end 기준선에는 zero-shot 평가도 포함된다.출처: §C.4 · p. 15, §C.5 · p. 15

C.6 제약 디코딩

  • fine-tuned selection과 planning은 출처 n-gram을 복사하도록 제약 디코딩을 사용하며, 하이라이트의 최소 길이와 개수, 클러스터당 하이라이트 최대 두 개를 설정한다.하이라이트 최소 길이는 세 단어이며, 최소 개수는 MDS에서 30, LFQA에서 5다.출처: §C.6 · pp. 15–16

D 완전한 문장 AUTOAIS

  • Tables C.1 and C.2에서는 보고된 AutoAIS와 완전한 문장 전제 변형을 비교한다. 후자는 선택된 하이라이트를 포함하는 완전한 문장을 사용한다.캡션은 보고된 AutoAIS의 전제가 완전한 문장 변형과 달리 비문법적일 수 있다고 설명한다.출처: D Full-sentence AUTOAIS · p. 16, Table C.1 · p. 16, Table C.2 · p. 16

F 사람 대상 연구; G 주석 인터페이스

  • 귀속 주석에서는 주석자 간 일치도가 보통 수준이었다. Fleiss’ Kappa는 0.37이었으며, 양쪽 모델에 걸친 23개 사례에서 문장 101개와 그 귀속을 대상으로 계산했고, 각 항목은 작업자 세 명이 주석했다.Partial Support는 비귀속으로 처리했다. “Citation Has Support but also Refutes Statement”는 귀속으로 분류했다.출처: F Human Study · p. 16, G Annotation Interface · pp. 16, 18

E 세밀한 귀속 사례; H 부분 귀속 사례; J 지연 시간 및 입력·출력 토큰 총수; K 생성 후 귀속

  • 보충 자료에는 세밀한 귀속과 부분 지지 사례, 접두부 유무에 따른 예측, 평균 토큰 수와 실행 시간 측정이 제시된다. 생성 후 귀속은 더 길고 정확도가 낮은 귀속을 낳았다.생성 후 변형은 귀속 없는 출력을 생성한 다음 뒷받침 문단을 검색하도록 RARR을 조정했다. 표에는 사례와 측정값이 제시되지만, 인용된 구절에는 수치가 없다.출처: E Fine-grained Attribution Examples · p. 16, Table D.1 · p. 17, K Post-generation Attribution · p. 18
Loading 2403.17104v3…