트랜스포머 초급 — Attention이 필요한 이유 | DAKER 학습

입문 · 약 110분

긴 문장에서 멀리 떨어진 단어의 관계를 놓치기 쉬운 순환 신경망의 한계를 살펴봅니다. 어텐션이 필요한 정보를 골라 반영하는 원리를 이해하고, 질의·키·값인 Q·K·V가 각각 어떤 역할을 하는지 익힙니다.

커리큘럼

• 한눈에 보는 개요
• 퀴즈 — 한눈에 보는 개요
• Attention 직관: Q·K·V
• 퀴즈 — Attention 직관: Q·K·V
• 병렬화와 장거리 의존
• 퀴즈 — 병렬화와 장거리 의존
• 미니 랩: 왜 Attention인가
• 퀴즈 — 미니 랩: 왜 Attention인가
• 단어 사전
• 퀴즈 — 단어 사전
• 플래시카드
• 실습: 순차 읽기·Attention 비교표