nanochat: $100짜리 ChatGPT가 말하는 AI 교육의 방향 | DAKER 커뮤니티
nanochat: $100짜리 ChatGPT가 말하는 AI 교육의 방향
nanochat은 "LLM을 쓰는 법"보다 "LLM이 어떻게 한 덩어리의 시스템이 되는지"를 보여 주는 교육용 실험대입니다. 토크나이저, pretraining, finetuning, evaluation, inference, chat UI까지 한 저장소 안에 묶어 두고, 가능한 한 전체 흐름을 직접 돌려 보게 만듭니다.
중요한 점은 복잡도를 숨기지 않는 방식입니다. nanochat은 모델 크기를 --depth라는 하나의 다이얼로 조절하게 하고, 나머지 폭, 헤드 수, 학습률 조정, 학습 시간 같은 세부값은 자동 계산합니다. 초보자는 전체 파이프라인을 볼 수 있고, 실험자는 같은 구조에서 크기만 바꿔 비교할 수 있습니다.
바이브 코딩에도 같은 관점이 필요합니다. 앱을 "프론트 하나"나 "API 하나"로 보지 말고, 입력, 모델 호출, 평가, 비용, UI, 운영 로그가 이어지는 파이프라인으로 봐야 합니다. 좋은 AI 제품은 복잡도를 없애는 제품이 아니라, 사용자가 조절 가능한 다이얼로 복잡도를 다루게 하는 제품입니다.
실천 체크리스트
새 AI 기능을 만들기 전에 전체 파이프라인을 한 장으로 그린다.
사용자가 실제로 조절해야 할 복잡도 다이얼을 하나만 고른다.
각 단계마다 실패 지표와 비용 지표를 붙인다.
작은 규모에서 먼저 끝까지 돌린 뒤 크기와 자동화를 키운다.
