Landscape 16:9 figure of 4 attention heatmaps (2×2 grid), shared 12-token input.
Token labels across X and Y (rotated 45° on X): "The", "quick", "brown", "fox", "jumped", "over", "the", "lazy", "dog", "near", "the", "river".
Four 12×12 cell panels with individual titles:
"Layer 6, Head 3 — subject-verb" (highlighted cells between "fox"/"jumped")
"Layer 9, Head 7 — coreference" (highlighted cells between "the"(×2)/"river")
"Layer 11, Head 2 — prepositional" (highlighted cells between "over"/"dog", "near"/"river")
"Layer 14, Head 1 — sentence-final" (activity concentrated in rightmost column)
Cells: dusty-teal gradient, darker = higher weight. Peak cells outlined in 1px soft-terracotta. Shared vertical color bar on far right with ticks "0.0", "0.25", "0.5", "0.75", "1.0" and label "attention weight".
Title: "Representative multi-head attention patterns in a 16-layer Transformer". Subtitle: "four of 256 heads, hand-picked for illustrative head-role diversity; inspired by Clark et al., 2019."
한국어 번역
4개 어텐션 히트맵(2×2 격자)의 가로 16:9 그림, 공유된 12토큰 입력.
X와 Y를 가로지르는 토큰 레이블(X는 45° 회전): "The", "quick", "brown", "fox", "jumped", "over", "the", "lazy", "dog", "near", "the", "river".
개별 제목이 있는 네 개의 12×12 셀 패널:
"Layer 6, Head 3 — subject-verb"("fox"/"jumped" 사이 셀 강조)
"Layer 9, Head 7 — coreference"("the"(×2)/"river" 사이 셀 강조)
"Layer 11, Head 2 — prepositional"("over"/"dog", "near"/"river" 사이 셀 강조)
"Layer 14, Head 1 — sentence-final"(활동이 맨 오른쪽 열에 집중)
셀: 더스티 틸 그라디언트, 어두울수록 가중치 높음. 최고 셀은 1px 부드러운 테라코타로 외곽선 표시. 맨 오른쪽에 공유 세로 색상 막대, 눈금 "0.0", "0.25", "0.5", "0.75", "1.0"과 레이블 "attention weight".
제목: "16층 Transformer의 대표적인 멀티 헤드 어텐션 패턴". 부제: "256개 헤드 중 4개, 헤드 역할 다양성을 예시하기 위해 직접 선별; Clark et al., 2019에서 영감을 받음."
