Visualization for Human-Centered AI Tools

• Human-centered AI는 사람을 대체하기보다 역량을 강화하는 AI를 강조하고, 인간의 가치와 주체성을 다룬다.출처: §1 · p. 1
• 이 논문은 human-centered AI 도구를 위한 핵심 enabling technology로 interactive visualization을 제안한다.이 접근을 visualization-enabled HCAI tools라고 부른다.출처: §1 · p. 1
• 저자들은 문헌 분석과 HCI, AI, visualization 전문가들의 경험적 피드백을 활용해 HCAI 도구의 특성을 구체화한다.출처: §1 · p. 1
• visualization-enabled AI tools를 검토하고 HCAI 원칙을 지원하는 시각적 표현을 위한 설계 지침을 도출한다.출처: §1 · p. 2

• Intelligence augmentation은 컴퓨터를 인간의 역량을 향상하는 도구로 다루는 반면, AI는 전통적으로 인간 지능을 모사하는 자율적 개체를 추구했다.출처: §2 · p. 2
• AI와 intelligence augmentation은 윤리, 공정성, 투명성, 책무성 및 인간 역량에 관한 우려에 대응하며 HCAI 아래에서 융합되었다.출처: §2 · p. 2
• Visualization은 neural-network displays, visual debugging, human-agency applications, interpretability를 비롯해 지능형 도구와 model development를 모두 지원해 왔다.출처: §2 · p. 2
• 이러한 기여에도 불구하고 HCAI에서 visualization의 역할은 여전히 모호하고 충분히 이해되지 않았으며, 이것이 본 논문의 초점을 형성했다.출처: §2 · p. 3

방법

• 이 정의는 HCI, AI, visualization 전문가를 대상으로 한 인터뷰와 문헌 조사를 결합한 혼합 방법론 과정으로 도출된다.출처: §3 · p. 3, §3.1 · pp. 3–4

능력

• 네 가지 능력은 기존 능력의 강화, 새로운 능력의 추가, 사용자 주체성의 증대, 기존 능력 또는 산출물의 향상을 구분한다.출처: §3.3 · pp. 4–5
• 능력 간 경계는 구분하기 어려울 수 있으며, 특히 amplify와 enhance 사이에서 그러하다.출처: §3.3 · p. 5

범위

• 모든 도구가 모든 우려를 다루는 것은 아니며, 우려 범주는 서로 중첩될 수 있고, 더 광범위한 사회적 고려사항은 이 논문의 상호작용 도구 설계 범위 밖에 남는다.출처: §3.4 · pp. 5–6, Definition: Human-Centered AI Tools · p. 7

정의

• HCAI 도구는 특정한 인간의 우려를 다루면서 인간의 능력을 증폭, 보강, 강화하거나 향상하기 위해 AI를 통합한 상호작용 소프트웨어 시스템이다.출처: Definition: Human-Centered AI Tools · p. 6

평가와 범위

• 전문가들은 이 정의가 기존 및 미래의 HCAI 도구를 분석할 수 있다는 데 동의했으며, 그 범위가 human-centered AI의 도구화 측면을 포괄한다고 지적했다.출처: Definition: Human-Centered AI Tools · pp. 6–7

• 시각화를 활용하는 HCAI 도구는 실행과 평가 간극을 잇는 인터랙티브 인터페이스를 통해 인간의 의도와 AI 출력을 연결한다.출처: §4 · p. 7

DC1–DC5 설계 특성

• Overview-plus-detail 뷰, confidence encoding, 시각적 전후 비교는 tradeoff, 불확실성 인식, 설명, 행동의 결과를 지원한다.출처: §4.3 · pp. 9–10
• 데이터를 외재화하면 사용자는 모든 세부 정보를 working memory에 유지하지 않고도 패턴, 이상치, 관계, 인터랙션 이력을 인지할 수 있다.출처: §4.3 · p. 10
• 공유된 데이터 표현은 사용자와 AI 모델 사이에 공통 기반을 형성하여 사용자가 모델의 동작을 이해하고 오류를 수정하도록 돕는다.출처: §4.3 · p. 10
• Direct manipulation과 지속적인 시각적 affordance는 가능한 행동을 명시적으로 드러내 사용자 의도와 행동 간 간극을 줄인다.출처: §4.3 · pp. 10–11

인간의 관심사

• 시각화는 다양한 교차적 사회 집단에 걸친 성능이나 격차를 보여 줌으로써 유해한 편향을 드러낼 수 있다.출처: §4.4 · p. 11
• 시각화는 모델 구조, training dynamics, provenance, 학습된 표현, 내부 상태, 구성 요소 간 관계를 드러내 투명성을 지원한다.출처: §4.4 · p. 11

투명성 해결

• Visualization은 transparency를 지원하기 위해 model architecture, training process, internal representation, data flow를 드러낼 수 있다.출처: H Addressing Transparency · p. 11

설명가능성 해결

• Feature importance, saliency, counterfactual visualization은 특정 AI decision이 내려진 이유를 보여줄 수 있다.출처: H Addressing Transparency · pp. 11–12

이해가능성 해결

• Interactive visual explanation은 memory 부담을 줄이고 적절한 abstraction 수준에서 정보를 제시하여 AI output에 대한 이해를 높일 수 있다.출처: H Addressing Transparency · p. 12

책무성 해결

• Decision-making history와 audit trail은 AI accountability를 위한 명확한 visualization 기반 mechanism을 제공한다.출처: H Addressing Transparency · p. 12

Provenance와 Privacy 해결

• Scalable graph, hierarchical, timeline representation은 provenance history를 제시할 수 있으며, visualization은 사용자가 privacy-sensitive data를 감사하고 보호하며 구성하도록 지원할 수 있다.출처: H Addressing Transparency · p. 12

코퍼스와 분석

• 분석 대상 도구는 76개 도구로 구성된 문헌 코퍼스에서 선정되었으며, 역량, 인간의 우려, 평가 기준, 설계 시사점을 비교하기 위해 8편의 논문을 심층적으로 검토했다.선정된 논문 중 4편은 저자들의 선행 연구에서, 나머지 4편은 다른 연구자들의 연구에서 가져왔다.출처: §5 · p. 13, §5.1 · p. 13

TimeFork

• TimeFork를 사용하면 분석가가 한 종목의 미래 궤적을 직접 설정한 다음, temporal model과 conditional model을 사용해 화면에 표시된 다른 종목들의 반응을 예측할 수 있다.이를 통해 예측 범위가 머릿속으로 추적하던 소수의 종목에서 잠재적으로 수천 개의 종목으로 확장되며, 과거 상관관계를 통해 다변량 의존성을 드러낸다.출처: §5.2 · p. 14
• TimeFork 사용자는 완전 수동 또는 자동 의사결정보다 인간의 통제와 AI 지원을 결합했을 때 최상의 포트폴리오 가치를 달성하고 가장 우수한 투자 전략을 구사했다.평가는 2014년과 2015년에 걸친 6개월 동안 4개의 시점에서 13명의 참가자가 가상 화폐를 투자하는 방식으로 진행되었다.출처: §5.2 · p. 14
• 이 시스템은 사용자를 대체하기보다 지원하는 사례다. 인간-AI 협업은 완전 수동 및 완전 자동 조건보다 우수한 성과를 보였으며, 특히 예측의 신뢰성이 낮을 때 그러했다.출처: §5.2 · pp. 14–15
• TimeFork는 익숙한 주식 선형 차트와 즉각적인 시각적 피드백을 사용해 모델 내부나 feature 수준의 근거를 노출하지 않고도 모델의 반응을 이해할 수 있게 한다.따라서 설명가능성은 피상적이다. 사용자는 다른 종목이 어떻게 반응하는지는 볼 수 있지만, 모델이 그러한 예측을 내놓는 이유는 알 수 없다.출처: §5.2 · pp. 14–15

도구 개요

• HaLLMark는 문서가 발전하는 과정에서 인간의 글쓰기, AI의 글쓰기, 프롬프트, 응답, 편집을 구분하며, 작성자와 LLM의 상호작용을 기록하고 시각화한다.타임라인을 통해 작성자가 언제 LLM에 의존했는지, 기여가 어떻게 반영되었는지를 탐색할 수 있다.출처: §5.3 · pp. 15–16

평가

• 13명의 창작 작가를 대상으로 한 평가에서 HaLLMark는 AI 지원에 대한 초기 성찰을 촉진하고, 통제력과 소유권을 높였으며, AI 공동 집필의 투명성을 개선할 수 있는 것으로 나타났다.참여자들은 provenance 기록이 AI 사용 공개를 요구하는 출판 정책을 준수하는 데에도 유용하다고 보았다.출처: §5.3 · pp. 15–16
• 참여자 13명 중 9명은 ChatGPT를 사용할 때보다 더 큰 통제력을 느꼈다고 보고했으며, 작성자들은 자신이 직접 쓴 부분보다 AI가 생성한 부분을 더 많이 편집했다.이 결과는 provenance의 가시성이 의식적인 통제와 반복적 개선을 지원했음을 시사한다.출처: §5.3 · p. 16

범위의 공백

• HaLLMark는 공정성, 설명가능성, 프라이버시를 다루지 않는다. AI의 관여는 보여주지만 제안이 이루어진 이유는 보여주지 않고, 편향을 탐지하지 않으며, 프롬프트를 GPT-4의 API로 전송한다.이러한 공백은 인간 중심 AI 관련 우려를 다루는 도구의 범위를 제한한다.출처: §5.3 · p. 16

설계 시사점

• 하나의 provenance visualization은 색상 코딩, 상호작용 기록, 문서 타임라인을 통해 주도권, 투명성, 책무성, 소유권을 지원함으로써 여러 우려를 다룬다.이 설계는 다중 뷰 visual analytics 대시보드 대신 단순한 선형 타임라인과 색이 칠해진 직사각형을 사용한다.출처: §5.3 · p. 16

도구 개요

• uxSense는 computer-vision 및 action-labeling model로 video와 audio를 전처리해 emotion, action, sentiment, gaze 및 기타 행동 신호의 동기화된 stream을 생성한다.이를 통해 원본 video와 audio를 검사할 수 있는 상태로 유지하면서 multimodal correlation에 접근할 수 있다.출처: §5.5 · p. 19

평가

• 다섯 명의 UX 전문가들은 uxSense가 high-level overview를 제공하고 관심 영역을 pinpoint함으로써 일상 업무를 수월하게 할 수 있다고 보고했지만, model을 전면적으로 수용할 만큼 신뢰할 수 있는지에 대해서는 의문을 제기했다.평가는 실제 상용 software usability session을 사용해 수행되었으므로, 그 평가에는 ecological validity가 있었다.출처: §5.5 · pp. 19–20
• 전처리는 raw video를 훑어보는 것보다 빠르게 critical incident를 식별하도록 분석가를 도울 수 있지만, model accuracy에 대한 의문 때문에 video와 대조하는 검증이 필요하며 efficiency gain이 사라질 수 있다.따라서 실질적 이점은 자동으로 flag된 event에 대한 적절한 신뢰에 달려 있다.출처: §5.5 · p. 19

다루지 않은 영역

• 이 도구는 fairness, accountability, explainability 또는 privacy를 다루지 않으며, demographic performance risk, 부재한 audit trail, 불투명한 model internals, 보호되지 않은 민감한 video processing을 포함한다.model confidence와 error mode를 파악할 수 없다면 분석가는 적절한 reliance 수준을 조정할 수 없다.출처: §5.5 · p. 20

설계 시사점

• uxSense는 raw model output을 해석이나 의사결정으로 자동 생성하지 않고 visual data stream으로 제시함으로써 분석가의 agency를 보존한다.분석가는 emotion classification, action label 및 sentiment score를 맥락화할 책임을 계속 지닌다.출처: §5.5 · p. 20

5.6 FairVis

• FairVis는 interactive visualization을 통해 demographic subgroup을 선택하고 비교함으로써 사용자가 intersectional bias를 발견할 수 있게 한다.사용자는 feature와 filter value를 선택해 subgroup을 분리한 다음, 해당 subgroup의 metric과 model behavior를 비교한다.출처: §5.6 · pp. 20–21
• 이 시스템은 feature distribution, subgroup overview, 상세 비교, ranked subgroup suggestion을 결합해 편향이 가장 큰 영역에 조사를 집중시킨다.Suggested subgroup은 선택한 metric에서 관찰된 최악의 performance를 기준으로 순위가 매겨진다.출처: Figure 6 · p. 21, §5.6 · pp. 21–22
• FairVis는 이상 subgroup 식별에서 해당 subgroup의 특성 비교로 나아감으로써 intersectional bias를 사용자가 이해하고 설명하며 조치할 수 있게 한다.이 시스템은 먼저 pattern을 드러낸 뒤 comparative data를 제공해 group별 bias가 달라지는 이유를 특성화한다.출처: §5.6 · pp. 20–21
• FairVis에는 model transparency, analysis provenance, accountability mechanism, 본질적인 privacy protection이 없다.underlying model architecture를 드러내거나 analysis history를 보존하지 않으며, source data의 privacy issue를 완화하지도 않는다.출처: §5.6 · p. 21
• FairVis는 bias analysis를 추상적인 fairness score에만 의존하지 않고 false positive rate와 같은 구체적인 classification 차이에 기반한다.protected group 간 정렬된 비교는 disparity를 시각적으로 두드러지게 하고 individual prediction pattern을 직접 검사할 수 있게 한다.출처: Figure 6 · p. 21, §5.6 · p. 22

5.7 RuleMatrix

• RuleMatrix는 black-box model 출력에서 규칙을 추출하고, model 동작을 근사할 수 있도록 규칙의 confidence와 fidelity를 표시한다.이 방법은 입력을 교란하고, 그 결과 출력에서 규칙을 유도한 뒤, 해당 규칙이 원래 model을 얼마나 잘 나타내는지 평가한다.출처: §5.7 · pp. 22–23
• 이 도구는 fidelity와 confidence를 수치와 시각적 encoding으로 함께 제시하여 model 분석을 향상한다.이러한 측정값은 사용자가 추출된 규칙의 신뢰성을 평가하는 데 도움을 준다.출처: §5.7 · pp. 22–23
• RuleMatrix는 서로 다른 입력 조건에 따라 출력이 어떻게 변하는지 보여 줌으로써, 내부 model 메커니즘을 드러내지 않고도 model 해석을 지원한다.이를 통해 아키텍처에 대한 깊은 기술 지식이 없어도 model 동작을 설명할 수 있다.출처: §5.7 · pp. 22–23
• RuleMatrix에는 책임, data lineage, 규칙 또는 model 버전을 추적하기 위한 accountability 및 provenance 기능이 없다.사용자는 model 동작은 이해할 수 있지만, 의사결정의 책임자가 누구인지 또는 기여한 산출물이 어디에서 비롯되었는지는 확인할 수 없다.출처: §5.7 · p. 23
• 규칙 기반 matrix는 불투명한 classifier의 결정을 사용자가 직접 검토할 수 있는 사람이 읽을 수 있는 패턴으로 변환한다.matrix cell의 크기와 색상은 규칙 품질을 encoding하므로, 사용자는 수치 표보다 많은 규칙을 더 효율적으로 훑어볼 수 있다.출처: §5.7 · pp. 22–23

5.8 Defogger

• Defogger는 제한된 differential-privacy budget을 최대화하는 탐색 전략을 추천하기 위해 reinforcement learning을 사용한다.시스템은 탐색 경로를 자동으로 선택하는 대신 사용자의 초기 의도에서 도출된 후보 pair 또는 triple을 평가한다.출처: §5.8 · pp. 23–25
• 인터페이스는 의도 지정, 순위화된 추천, privatized data의 uncertainty를 보여 주는 adjacency-matrix-like display를 결합한다.Custom matrix cell은 differential privacy를 위해 추가된 noise가 산출한 lower bound와 upper bound를 인코딩한다.출처: §5.8 · p. 23, Figure 8 · p. 24
• Case study와 후속 연구에서는 사용자가 Defogger를 사용해 obfuscated data에서 유의미한 통찰을 얻을 수 있음이 나타났다.연구에는 두 명의 case-study participant와 insurance 및 hepatitis B dataset을 탐색한 추가 participant 8명이 참여했다.출처: §5.8 · pp. 23–24
• Defogger는 noisy data와 query constraint 아래에서 사용자가 가설을 형성하도록 돕고 탐색에 대한 통제권을 보존함으로써 exploratory analysis를 보강한다.추천 엔진은 privacy budget을 최적화하지만 결정을 자동으로 내리는 대신 사용자가 선택할 전략을 제시한다.출처: §5.8 · p. 24
• Defogger는 privacy와 understandability를 지원하지만 privacy를 넘어서는 human concern은 다루지 않는다.분석가가 raw protected data에 접근하지 못하게 하며, 해석을 지원하기 위해 uncertainty visualization을 사용한다.출처: §5.8 · pp. 24–25

5.9 Loops

• Loops는 notebook 편집 내용을 자동으로 캡처하고, 색으로 구분된 셀 상태와 상세 diffs를 갖춘 간결한 타임라인으로 버전 이력을 제시한다.사용자는 버전 간 코드, 텍스트, 표, visualization의 변경 사항을 확인할 수 있다.출처: §5.9 · p. 25
• 사례 연구와 인터뷰에서 색으로 구분된 provenance 보기는 직관적이며, 상세 diffs는 협업자에게 분석 과정을 전달하는 데 유용한 것으로 나타났다.시연에서는 오스트리아 콘서트 데이터와 폐암 분석을 다뤘으며, 네 명의 notebook 사용자가 인터뷰에 참여했다.출처: §5.9 · p. 25
• provenance 보기는 사용자가 중단한 접근법을 다시 살펴보고, 선형 이력에서는 숨겨질 수 있는 시행착오 탐색의 패턴을 인식하도록 돕는다.모든 버전에 직접 접근할 수 있어 commit hash나 트리 탐색 없이도 유연하게 탐색할 수 있다.출처: §5.9 · p. 26
• 자동 버전 관리는 주석 처리한 코드나 중복 백업 셀 없이도 탐색 이력을 보존해 재현성과 notebook 가독성 사이의 균형을 맞춘다.작업 중인 notebook은 깔끔하게 유지하면서 변경 사항의 전체 순서는 보존된다.출처: §5.9 · p. 26
• Loops는 개별 provenance에 초점을 맞추며, 협업으로 뒤섞여 진행되는 편집을 지원하지 않고 변경 사항과 결과 사이의 인과 관계를 설명하지도 않는다.무엇이 변경되었는지는 보여주지만, 어떤 변경이 결과를 개선하거나 악화했는지는 보여주지 않는다.출처: §5.9 · p. 26

DG1 – 보여 주되, 말하지 않는다

• 시각화는 사용자를 미리 정해진 결론으로 유도하지 않고 데이터를 보여 주어야 하며, 증거를 해석하고 의사결정할 사용자의 주체성을 보존해야 한다.여기에는 raw data, 중립적인 data landscape, 비지시적 color scheme을 제시하는 것이 포함된다.출처: §6.2 · p. 27

DG2 – 단순함이면 충분하다 (거의 항상)

• 여러 coordinated view가 필요한 경우 progressive disclosure를 사용하되, 설계자는 단순하고 익숙하며 이해하기 쉬운 시각화를 우선해야 한다.추가 view는 동일한 정보를 중복해서 인코딩하기보다 서로 구별되는 목적에 기여해야 한다.출처: §6.2 · p. 27

DG3 – 인간의 우려를 직접 다룬다

• Visualization-enabled HCAI 도구는 ethics, privacy, fairness, transparency, understandability를 포함한 인간의 우려를 직접 다루어야 한다.시각화는 데이터가 어떻게 사용되는지, 의사결정이 어떻게 이루어지는지, 관련 bias와 한계가 무엇인지 전달해야 한다.출처: §6.2 · p. 27

DG4 – 상호작용을 장려한다

• Interactive element를 통해 사용자는 데이터와 AI output을 탐색하고, 불확실성을 probing하며, 질문하고, 자신의 방식대로 interface를 조작할 수 있다.이는 사용자와 AI model 사이의 gulf of execution을 줄이는 동시에 참여와 이해를 지원한다.출처: §6.2 · p. 28

6.3 한계와 미해결 문제

• 이 지침은 여덟 개의 exemplar tool에서 도출되었지만, 그중 four were created by the authors이며 제약 조건이 healthcare, transportation, manufacturing으로의 전이를 제한할 수 있는 domain에서 나왔다.저자들은 이러한 집중이 지침을 자신들의 설계 선택을 합리화하는 방향으로 편향시킬 수 있다고 지적한다.출처: §6.3 · p. 28
• 이 framework의 generalizability는 제한적인 expert diversity, venue 중심의 literature coverage, visualization complexity, 상호 의존적인 인간의 우려, supervised-learning task에 대한 강조로도 제약된다.저자들은 Asian perspective, practitioner, AI specialist의 대표성이 제한적이며, 이 framework를 multimodal foundation model과 agentic system에 적용할 수 있을지는 불확실하다고 구체적으로 지적한다.출처: §6.3 · pp. 28–29

시각적 매개를 통한 간극 연결

• Visualization은 예측을 조작 가능하게 만들고, provenance를 구체적으로 드러내며, 인과관계를 탐색 가능하게 함으로써 Norman의 실행 간극과 평가 간극을 연결할 수 있다.사례에서는 line chart, visual timeline, node-link diagram을 사용해 사람과 AI model 사이의 상호작용을 매개한다.출처: §7 · p. 29

복잡성의 Progressive disclosure

• Progressive disclosure는 단순한 기본값을 제공하면서 AI model과 interface가 복잡해질수록 더 깊이 있는 조사를 가능하게 해야 한다.미래의 tool은 novice user와 expert user를 위해 high-level summary와 상세한 설명 사이를 오가야 한다.출처: §7 · pp. 29–30

Multimodal 및 embodied interaction

• Embodied interaction, tangible interface, data physicalization은 physical action, spatial reasoning, haptic feedback을 통해 AI parameter를 조작 가능하게 만들 수 있다.이러한 접근은 visualization을 screen-based interface 너머로 확장한다.출처: §7 · p. 30

요약

• 이 논문은 visualization을 다양한 domain과 user population에서 AI-generated insight에 접근할 수 있게 하는 shared medium으로 전망한다.이렇게 제안된 lingua franca는 human-AI collaboration을 위한 공통 어휘를 지원하는 동시에 fairness와 transparency 같은 우려를 다룰 수 있다.출처: §7 · p. 30