트랜스포머 중급 — Self-Attention·멀티헤드 구조 | DAKER 학습
중급 · 약 120분
문장 안의 단어들이 서로 얼마나 관련되는지 계산하는 셀프 어텐션의 작동 과정을 익힙니다. 여러 헤드가 정보를 나누어 처리하는 방식과 각 단계의 텐서 크기를 살펴보고, 이들이 트랜스포머 블록 안에서 어떻게 연결되는지 이해합니다.
커리큘럼
- 한눈에 보는 개요
- 퀴즈 — 한눈에 보는 개요
- 멀티헤드 Attention
- 퀴즈 — 멀티헤드 Attention
- 트랜스포머 블록
- 퀴즈 — 트랜스포머 블록
- 미니 랩: 블록 스케치
- 퀴즈 — 미니 랩: 블록 스케치
- 단어 사전
- 퀴즈 — 단어 사전
- 플래시카드
- 실습: Attention 계산 흐름 노트