PyTorch 실전 고급 ② — 시퀀스·어텐션 미니 구현 | DAKER 학습
고급 · 약 130분
문장처럼 순서가 있는 데이터에서 각 요소의 관계를 계산하는 방법을 배웁니다. 임베딩으로 입력을 벡터로 바꾸고, 셀프어텐션과 마스크를 직접 구현하며 필요한 정보에 집중하는 시퀀스 처리 블록을 만듭니다.
커리큘럼
- 핵심 개념 지도
- 퀴즈 — 핵심 개념 지도
- self-attention 미니
- 퀴즈 — self-attention 미니
- 마스크와 Transformer-lite
- 퀴즈 — 마스크와 Transformer-lite
- 미니 랩: 어텐션 한 블록
- 퀴즈 — 미니 랩: 어텐션 한 블록
- 단어 사전
- 퀴즈 — 단어 사전
- 플래시카드
- 실습: 어텐션 가중치·크기 비교표