비선형성이 층을 쌓아도 표현력을 살립니다 | DAKER 커뮤니티

선형층을 아무리 깊게 쌓아도, 중간에 비선형성이 없으면 전체가 하나의 선형층으로 합쳐집니다. 활성화 함수는 그 합쳐짐을 끊어, 층마다 다른 꺾임을 만듭니다. 이 글은 ReLU와 시그모이드가 왜 필요한지, 빌더가 레이어를 쌓을 때 어디에 꽂히는지 설명합니다.

활성화 함수와 비선형성 썸네일

앞글에서 행렬곱이 선형변환임을 확인했습니다. 선형변환의 합성은 선형입니다. 따라서 Wx를 여러 번 적용하는 것만으로는 XOR처럼 직선으로 못 가르는 경계를 만들기 못합니다. 활성화 함수 φ를 넣어 z = φ(Wx+b) 로 만들면, 각 층이 공간을 접어 가며 복잡한 결정 경계를 근사할 수 있습니다. 깊은 네트워크의 깊이가 의미를 갖게 되는 지점이 바로 여기입니다.

선형만 있으면 깊이가 사라집니다

W₂(W₁x + b₁) + b₂ = (W₂W₁)x + (W₂b₁ + b₂) 입니다. 두 층의 선형 연산이 하나의 선형 연산으로 정리됩니다. 층을 10개로 늘려도 중간에 φ가 없으면 마찬가지입니다. 파라미터 수는 많아 보여도, 표현 가능한 함수 가족은 한 층의 선형분류기와 같습니다. 이 사실이 활성화 함수의 존재 이유입니다.

비선형이 들어가면 이야기가 달라집니다. 각 층이 입력을 다른 방식으로 꺾고, 다음 층이 그 꺾인 공간을 다시 선형으로 섞습니다. 조각마다 다른 선형 규칙을 이어 붙인 것과 비슷한 효과가 납니다. 충분히 넓은 네트워크는 연속 함수를 근사할 수 있다는 보편 근사 정리도, 비선형 활성화가 전제입니다. 이름은 거창하지만, 실무 문장은 단순합니다. 꺾어야 깊이가 산다.

시그모이드는 출력을 0과 1 사이로 눌러 줍니다

시그모이드 σ(x) = 1/(1+e^(−x)) 는 S자 곡선입니다. 큰 양수는 1에 가깝게, 큰 음수는 0에 가깝게, 0 근처는 완만하게 올라갑니다. 확률처럼 읽고 싶을 때, 또는 게이트처럼 열고 닫는 신호를 만들 때 유용합니다. 순환신경망의 게이트, 일부 어텐션·게이팅 설계에서 여전히 등장합니다.

단점도 분명합니다. 입력이 크거나 작아 양쪽 끝에 가면 기울기가 거의 0이 됩니다. 포화가 오면 역전파 신호가 약해져 앞 층 학습이 어려워집니다. 깊은 피드포워드망의 은닉 활성화로 시그모이드만 쓰면 학습이 힘들었던 역사적 이유가 여기에 있습니다. 출력단의 이진 확률에는 여전히 잘 맞지만, 은닉층에서는 ReLU 가족이 더 흔합니다.

ReLU와 시그모이드 곡선 비교 다이어그램

ReLU는 음수를 잘라 양수만 통과시킵니다

ReLU는 max(0, x) 입니다. 양수는 그대로 두고 음수는 0으로 만듭니다. 계산이 싸고, 양의 구간에서 기울기가 1이라 신호가 잘 전달됩니다. 깊은 합성곱망·트랜스포머의 MLP 블록에서 기본값처럼 쓰여 온 이유입니다. ‘자른다’는 말은 음수 입력을 0으로 바꿔 비선형 꺾임을 만든다는 뜻입니다. 그 한 문장으로 충분합니다.

죽은 ReLU 문제가 있습니다. 큰 음의 편향 등으로 뉴런이 항상 0만 내면, 그 뉴런의 기울기도 계속 0에 머물러 학습이 멈출 수 있습니다. Leaky ReLU·GELU·SiLU(Swish) 같은 변형은 음의 구간에도 작은 기울기를 남겨 이 문제를 완화합니다. 트랜스포머에서는 GELU·SiLU가 자주 보입니다. 곡선 모양은 달라도, 역할은 같습니다. 선형 합성을 끊어 표현력을 확보합니다.

어디에 꽂히는가

전형적인 순서는 선형변환 → 활성화 → (정규화/드롭아웃) → 다음 선형변환입니다. 정규화와 활성화의 선후는 아키텍처마다 다릅니다. Pre-LN·Post-LN 논쟁도 결국 신호가 어떻게 흐르고 기울기가 어떻게 살아남는가의 설계입니다. 빌더는 레시피를 외우기보다, 이 위치에 비선형성이 있는가부터 확인하면 됩니다.

출력층 활성화는 과제에 맞게 고릅니다. 다중 클래스 분류는 보통 로짓을 그대로 두고 손실 쪽에서 소프트맥스를 처리합니다. 이진 분류·다중 라벨은 시그모이드, 회귀는 활성화 없이 선형 출력인 경우가 많습니다. 은닉 활성화와 출력 활성화를 같은 것으로 생각하지 마십시오. 역할이 다릅니다.

시각화로 이해하는 결정 경계

2차원 장난감 데이터에서 선형 모델은 직선으로만 나눕니다. 은닉층과 ReLU를 추가하면 경계를 여러 직선 조각으로 근사합니다. 층과 너비를 늘리면 조각이 많아져 곡선에 가까워집니다. 이 실험은 수업용으로 흔하지만, 실무 직관에도 유효합니다. 데이터가 선형으로 안 나뉘면, 특성 엔지니어링을 더하거나 비선형 모델 용량을 늘립니다.

너무 강한 비선형·너무 넓은 모델은 학습 데이터에만 맞춰질 위험이 있습니다. 드롭아웃·가중치 감쇠·데이터 증강은 그 용량을 길들이는 장치입니다. 활성화 함수 자체가 만능이 아니라, 용량과 정규화의 균형 안에서 의미를 갖습니다. 새 활성화를 바꿔 점수가 오른다면, 곡선 마법보다 기울기 흐름·포화·스케일 변화가 원인인 경우가 많습니다.

정규화와 활성화의 호흡

배치 정규화는 배치 통계로 스케일을 맞추고, 레이어 정규화는 샘플·토큰 축 통계로 맞춥니다. 활성화 앞에 두느냐 뒤에 두느냐에 따라 네트워크가 보는 입력 분포가 달라집니다. 최근 트랜스포머는 Pre-LN 계열이 많아, 정규화로 스케일을 정리한 뒤 어텐션·MLP·활성화를 적용합니다. 레시피를 복사할 때는 활성화만 보지 말고, 정규화 위치까지 한 세트로 복사하는 편이 안전합니다.

드롭아웃은 학습 중 일부 활성화를 무작위로 꺼 공동적응을 줄입니다. 추론에서는 끄거나, 기댓값에 맞게 스케일합니다. 비선형성이 만든 풍부한 표현이 과적합으로 이어지지 않게 길들이는 장치입니다. 데이터 증강·가중치 감쇠와 함께 쓰입니다. 활성화를 바꾼 직후 과적합이 늘었다면, 용량이 늘어난 것일 수 있으므로 정규화 강도를 함께 재조정합니다.

하드웨어와 구현 관점

ReLU가 사랑받아 온 이유 중 하나는 구현이 단순하고 융합(fusion)하기 쉽다는 점입니다. 행렬곱 다음 활성화·편향을 한 커널로 합치면 메모리 왕복이 줄어듭니다. GELU는 더 부드러운 곡선 대신 약간 더 비싼 계산을 치릅니다. 큰 모델에서는 그 비용이 쌓이므로, 정확도 이득과 처리량을 함께 봅니다. 빌더가 마이크로벤치를 돌릴 때 활성화만 따로 재기보다, 선형+활성 블록 단위로 재는 편이 현실적입니다.

양자화·저비트 추론에서는 활성화의 동적 범위가 중요합니다. 한쪽으로 치우친 활성화는 양자화 오차를 키울 수 있습니다. 학습 때와 추론 때의 활성화 통계를 맞춰 두는 기법이 나오는 배경입니다. 연구 단계에서는 곡선 모양에 집중하고, 배포 단계에서는 범위·희소성·커널 융합까지 시야를 넓히면 됩니다.

언제 활성화를 바꿀 가치가 있는가

기본 ReLU로 학습이 안정적이고 검증 점수가 충분하면, 활성화를 자주 갈아끼울 필요는 없습니다. 바꾸기를 검토하는 신호는 분명합니다. 죽은 뉴런이 많고 앞 층 기울기가 약하다, 음의 구간 정보가 과제에 중요해 보인다, 같은 예산의 최신 아키텍처가 GELU·SiLU를 표준으로 쓴다. 이 경우에는 교체와 함께 학습률·초기화·정규화 위치를 한 세트로 맞춥니다. 활성화만 단독으로 바꾸면 이득이 작거나 역효과가 날 수 있습니다.

연구 노트를 쓸 때도 곡선 그림만 붙이지 말고, 바꾼 뒤 기울기 노름·활성 희소성·검증 메트릭을 같이 보고합니다. 비선형성은 표현력의 스위치이지만, 스위치만으로 점수가 설명되지는 않습니다. 데이터·목적함수·정규화가 함께 움직여야 합니다. 이 관점이 있으면 블로그의 신형 활성화 발표에도 덜 흔들립니다.

오늘 빌더가 가져갈 체크리스트

이 글이 아닌 것

이 글은 모든 활성화 함수의 벤치마크 표가 아닙니다. ReLU·시그모이드 축의 필요성만 다룹니다.

이 글은 보편 근사 정리의 증명 강의가 아닙니다. 설계 직관만 제공합니다.

한 줄로 줄이면 이렇습니다. 비선형성이 층을 쌓아도 표현력을 살립니다. 꺾임이 있어야 깊이가 깊음이 됩니다.