LLM 파인튜닝 중급 ① — LoRA/QLoRA 감각 | DAKER 학습

중급 · 약 120분

모델 전체를 수정하지 않고 일부 추가 파라미터를 학습하는 LoRA의 원리를 배웁니다. 기본 모델의 가중치를 낮은 정밀도로 저장하는 QLoRA가 메모리를 줄이는 방식을 살펴보고, 사용 가능한 자원에 맞춰 학습 방식을 선택합니다.

커리큘럼

• 쉬운 개념부터: 두꺼운 교과서에 포스트잇
• 퀴즈 — 쉬운 개념부터: 두꺼운 교과서에 포스트잇
• 왜 LoRA인가
• 퀴즈 — 왜 LoRA인가
• rank·alpha
• 퀴즈 — rank·alpha
• QLoRA 감각
• 퀴즈 — QLoRA 감각
• 미니 랩: 설정 선택
• 퀴즈 — 미니 랩: 설정 선택
• 플래시카드
• 실습: LoRA 설정 비교 카드