최적화
최적화는 목적 함수를 줄이는 매개변수를 찾는 과정입니다. 예측 모델에서는 정답과 예측의 차이를 평가하는 손실을 목적 함수로 사용할 수 있습니다. 경사 하강은 그 기울기로 매개변수를 갱신하는 기본 원리이며, 역전파는 여러 연산이 이어진 함수의 기울기를 계산하는 방법입니다. 신경망에서는 순전파로 예측과 손실을 구하고, 역전파로 기울기를 계산한 뒤 optimizer로 가중치와 편향을 갱신합니다. 이 장에서는 손실 함수를 정하고, 기울기를 계산하여 매개변수를 갱신하는 최적화의 원리를 살펴봅니다. 이어서 최적화 기법과 미니 배치 학습을 비교하고 작은 코드로 계산을 확인합니다.
손실 함수와 경사 하강은 신경망에만 속하는 도구가 아닙니다. 이 단원에서는 손실을 정하고 기울기로 매개변수를 갱신하는 최적화의 원리를 살펴보며, 신경망을 주요 적용 예로 사용합니다. 신경망 단원에서 이 도구들이 순전파와 역전파에 어떻게 연결되는지 확인해 보세요. 결정 트리의 분기 선택이나 트리 앙상블의 학습은 기계학습 교재의 결정 트리: 정보 엔트로피와 앙상블을 참고하세요. 역전파의 사용 여부만으로 신경망과 비신경망을 엄밀하게 나누지는 않습니다.
손실 함수¶
손실 함수는 예측과 정답의 차이를 최적화할 수 있는 수치로 나타냅니다. 매개변수에 따라 손실이 어떻게 달라지는지 계산하면 이를 줄이는 방향으로 매개변수를 갱신할 수 있습니다. 회귀와 분류의 목표, 정답과 예측의 표현에 맞는 손실을 먼저 정해야 합니다.
손실은 훈련에서 줄이려는 목적 함수이고, 평가지표는 모델을 어떤 기준으로 비교할지 알려 줍니다. 회귀에서 MSE로 학습하고 MAE도 보고할 수 있고, 분류에서 교차 엔트로피로 학습하면서 정확도를 함께 측정할 수 있습니다. 훈련 손실을 줄이는 것과 새로운 데이터에서 좋은 성능을 내는 것은 구분해야 합니다. 모델 선택에는 같은 분할의 검증 성능을 사용합니다.
아래 표에서 출력은 한 표본을 기준으로 씁니다. 여러 유형 중 하나를 고르는 분류와, 여러 항목이 동시에 참일 수 있는 다중 라벨 분류도 구분해 보세요.
| 예측 문제 | 정답의 표현 | 흔히 사용하는 손실 | 확률을 출력하는 경우 |
|---|---|---|---|
| 연속값 회귀 | 실수 | MSE 또는 MAE | 보통 별도 확률 변환 없이 값 출력 |
| 이진 분류 | 0 또는 1 | Binary cross-entropy | sigmoid 확률 하나 |
| 단일 유형 분류 | 원-핫 벡터 | Categorical cross-entropy | 유형별 softmax 확률 |
| 단일 유형 분류 | 정수 유형 번호 | Sparse categorical cross-entropy | 유형별 softmax 확률 |
| 다중 라벨 분류 | 항목별 0 또는 1 | 항목별 binary cross-entropy | 항목별 sigmoid 확률 |
손실이 같아도 정답의 형상과 예측의 의미가 맞아야 합니다. 아래에서는 회귀의 오차부터 계산하고, 분류 확률의 손실로 이어갑니다.
평균 제곱 오차¶
회귀에서 자주 사용하는 평균 제곱 오차(MSE)는 오차를 제곱한 뒤 평균합니다. 표본 수를 , 정답을 , 예측을 라고 하면 다음과 같습니다.
평균 절대 오차(MAE)는 오차의 절댓값을 평균합니다.
회귀 오차의 작은 예시¶
정답이 , 예측이 라고 해 보겠습니다.
| 표본 | 정답 | 예측 | 예측 − 정답 | 절대 오차 | 제곱 오차 |
|---|---|---|---|---|---|
| 1 | 2 | 1 | −1 | 1 | 1 |
| 2 | 4 | 4 | 0 | 0 | 0 |
| 3 | 6 | 9 | 3 | 3 | 9 |
| 합계 | 4 | 10 |
따라서 MAE는 , MSE는 입니다. 마지막 표본의 오차는 첫 표본보다 세 배 크지만, 제곱 오차는 아홉 배 큽니다. MSE는 큰 오차를 더 강하게 반영하고, MAE는 오차 크기에 비례해 반영합니다. 이상값의 영향을 줄이는 것이 중요하다면 MAE를 검토할 수 있지만, 어떤 손실이 적절한지는 오류의 비용과 데이터에 따라 판단합니다. MAE도 이상값의 영향을 완전히 없애지는 않습니다.
MSE는 오차가 0인 지점에서도 미분 가능하며, MAE는 그 지점에서 미분이 정의되지 않아 구현에서 부분기울기 등의 규칙을 사용합니다. 단위도 다릅니다. 정답이 미터라면 MAE의 단위는 미터, MSE의 단위는 제곱미터입니다. 서로 다른 종류의 손실 숫자를 그대로 비교해 어느 모델이 좋다고 판단하지는 않습니다.
조건부 관측 오차가 평균 0이고 일정한 분산을 가진 정규분포라는 가정 아래, 최대우도추정은 MSE 최소화와 대응합니다. 데이터 자체가 반드시 정규분포여야 한다는 뜻은 아닙니다. 확률 모형의 선택과 별개로 MSE와 MAE를 오류 비용의 기준으로 사용할 수도 있습니다. Keras에서의 정의는 회귀 손실 문서를 참고하세요.
분류 출력의 분포¶
이진 분류에서는 하나의 정답을 0 또는 1로 나타냅니다. 정답이 1일 확률을 예측하면 나머지 확률은 그 값에서 결정됩니다. 여러 유형 중 하나를 고르는 분류에서는 유형마다 확률을 예측하고 그 합을 1로 맞춥니다. 각각 베르누이 분포와 범주형 분포의 음의 로그 우도에서 아래 교차 엔트로피 손실을 얻습니다.
다중 라벨 문제에서는 한 사진에 고양이와 강아지가 함께 있을 수 있습니다. 항목마다 별도의 이진 정답과 확률을 두므로 확률 합이 1일 필요가 없습니다. 여기서 softmax를 쓰면 항목들이 서로 경쟁하게 되므로, 단일 유형 분류와 같은 구성으로 처리하지 않습니다. MSE도 분류 확률의 오차를 측정할 수 있지만, 이 절에서는 정답 유형에 배정한 확률을 음의 로그로 평가하는 교차 엔트로피를 사용합니다.
교차 엔트로피 오차¶
이진 교차 엔트로피¶
정답을 , 유형 1의 예측 확률을 라 하면 한 표본의 이진 교차 엔트로피는 다음과 같습니다. 이 절의 로그는 자연로그입니다.
이면 , 이면 만 남습니다. 정답에 높은 확률을 배정할수록 손실이 작아집니다.
| 정답 | 유형 1의 확률 | 정답에 배정한 확률 | 손실 |
|---|---|---|---|
| 1 | 0.8 | 0.8 | |
| 0 | 0.8 | 0.2 |
확률 0.8이라는 숫자만으로 예측이 좋은지는 알 수 없습니다. 두 번째 행에서는 틀린 유형에 높은 확률을 배정했기 때문에 손실이 큽니다.
유형별 교차 엔트로피¶
단일 정답 유형을 원-핫 벡터 로 나타내고 유형별 예측 확률을 로 쓰면 다음과 같습니다.
세 유형의 예측 확률이 , 정답이 두 번째 유형이면 원-핫 정답은 입니다. 0부터 세는 정수 유형 번호로는 1입니다. 두 표현 모두 정답 확률 0.7을 선택하므로 손실은 입니다.
| 정답 표현 | Keras 손실 | 한 표본의 계산 |
|---|---|---|
| 원-핫 | CategoricalCrossentropy | |
| 정수 번호 1 | SparseCategoricalCrossentropy |
sparse는 정답을 정수 번호로 받는다는 뜻입니다. 같은 단일 정답을 표현한다면 계산 의미가 달라지는 손실이 아닙니다. 원-핫 손실은 확률 분포 형태의 소프트 라벨에도 사용할 수 있습니다. 수학식에서 정답 계수가 0인 항은 0으로 취급하며, 컴퓨터에서 0 * log(0)을 그대로 계산해도 안전하다는 뜻은 아닙니다.
출력층과 logits¶
logit은 sigmoid나 softmax를 적용하기 전의 점수입니다. 확률은 0과 1 사이에 있지만 logit은 그 범위로 제한되지 않습니다. 손실이 어떤 입력을 기대하는지와 출력층을 짝지어야 합니다.
| 출력층의 값 | 이진 분류 | 단일 유형 분류 |
|---|---|---|
| sigmoid 또는 softmax를 거친 확률 | BinaryCrossentropy(from_logits=False) | CategoricalCrossentropy 또는 SparseCategoricalCrossentropy의 from_logits=False |
| 활성화 없는 원시 점수 | BinaryCrossentropy(from_logits=True) | 위 유형별 손실의 from_logits=True |
logits 기반 손실은 확률 변환과 로그 계산을 수치적으로 안정적인 방식으로 처리할 수 있습니다. 확률을 출력하면서 from_logits=True로 설정하거나, logits를 확률로 해석하도록 설정하면 의미가 어긋납니다. from_logits=True인 손실 앞에 별도로 sigmoid나 softmax를 붙이지 않습니다.
이 교재의 Keras 실습에서는 PyTorch 백엔드를 사용합니다. KERAS_BACKEND="torch"는 Keras를 import하기 전에 설정합니다. 먼저 활성화 없는 출력과 SparseCategoricalCrossentropy(from_logits=True)를 짝짓는 구성을 따라갑니다. 뒤의 softmax 출력과 기본 확률 기반 손실은 별도의 대안 구성입니다. 백엔드가 PyTorch라고 해서 Keras 손실의 입력 약속이 바뀌지는 않습니다. 직접 사용하는 torch.nn.CrossEntropyLoss도 logits를 받는다는 점을 구분해 읽어 보세요.
아래 기존 NumPy 코드는 을 피하기 위해 작은 상수를 더하는 교육용 계산입니다. 이 방식은 안정화 예시이며 프레임워크의 logits 기반 구현과 완전히 같은 연산이라고 보지는 않습니다. 정답 표현과 from_logits 설정은 Keras 분류 손실 문서에서 확인할 수 있습니다.
import numpy as np
def 교차엔트로피오차(y, y_pred):
delta = 1e-7
return np.sum(-y * np.log(y_pred + delta))
y = np.array([1, 0, 0])
예측들 = [np.array([0.8, 0.1, 0.1]),
np.array([0.6, 0.3, 0.1]),
np.array([0.4, 0.5, 0.1])]
손실들 = [교차엔트로피오차(y, 예측) for 예측 in 예측들]
for 예측, 손실 in zip(예측들, 손실들):
print(f"정답 확률: {예측[0]:.1f}, 손실: {손실:.4f}")
assert 손실들[0] < 손실들[1] < 손실들[2]
손실과 정확도¶
정확도는 최종 유형이 같은 예측의 자신감 차이를 구분하지 못하고, 매개변수가 조금 바뀌어도 값이 일정한 구간이 많습니다. 학습에는 미분 가능한 손실을 사용하고 정확도는 별도로 평가합니다. 손실 감소가 정확도 증가나 일반화 성능 향상을 항상 보장하지는 않습니다.
배치 손실의 집계¶
한 미니 배치에 표본이 개이고 표본별 손실이 라면 합계와 평균은 다음과 같습니다.
한 표본에 실수 출력 하나인 회귀에서 정답과 예측을 (B,1)로 맞추면, 마지막 출력 축을 평균한 뒤 (B,)인 표본별 손실을 얻습니다. reduction=None도 출력 축의 계산은 유지하며 배치 집계만 생략합니다. 표본별 손실이 이면 합계는 1.8, 평균은 0.6입니다. 같은 세 표본에 가중치 없이 동일한 표본별 손실을 집계하는 이 예에서는 합계 손실의 기울기도 평균의 세 배입니다. 같은 학습률이라도 집계 방식을 바꾸면 갱신 크기가 달라집니다. 크기가 다른 마지막 배치를 포함할 때 배치별 평균을 단순 평균하면 작은 배치에 같은 비중을 주므로, 전체 표본의 평균을 보고하려면 배치 크기로 가중해야 합니다.
Keras 손실 클래스는 기본적으로 sum_over_batch_size를 사용합니다. MSE·MAE나 여러 이진 출력에서는 먼저 마지막 출력 축을 평균한 표본별 손실을 만들고, 유형별 교차 엔트로피는 유형 축을 합해 표본별 손실을 만듭니다. 그런 뒤 가중치와 마스크가 없는 일반적인 배치에서는 표본별 손실을 평균합니다. reduction="sum"은 합계, reduction=None은 배치 집계 없는 손실을 반환합니다. 같은 이름의 keras.losses 함수 호출은 클래스의 기본 배치 집계와 다르므로 반환 형상을 확인하세요. 공간 축·표본 가중치·마스크가 추가되면 집계 기준도 확인해야 합니다. Keras 손실 집계 문서
손실과 평가지표의 연결¶
Keras의 compile에서 loss는 기울기를 계산하는 목적이고, metrics는 학습과 평가 중 관찰할 지표입니다. 정확도를 출력하도록 지정했다고 정확도가 역전파의 목적이 되지는 않습니다. 정수 정답을 쓰는 유형별 분류에는 SparseCategoricalAccuracy, 원-핫 정답에는 CategoricalAccuracy, 이진 확률에는 BinaryAccuracy처럼 표현에 맞는 지표를 선택합니다. logits를 직접 이진 지표에 전달한다면 BinaryAccuracy(threshold=0.0)처럼 결정 문턱도 확률 0.5와 대응하는 logit 0으로 맞춰야 합니다. 확률을 전달할 때의 문턱은 0.5입니다.
자주 생기는 실수¶
정수 유형 번호와 원-핫 정답을 혼용하지 않습니다. 정답 형상과 손실 종류를 함께 확인합니다.
단일 유형 분류에서 유형 축의 softmax를 배치 축에 적용하지 않습니다. 표본마다 유형 확률의 합을 확인합니다.
예측과 정답의 형상이 우연히 broadcasting된 결과를 정상 학습으로 판단하지 않습니다. 한 표본이 무엇인지 먼저 확인합니다.
손실의
mean과sum을 바꾸고 이전 손실값이나 학습률을 그대로 비교하지 않습니다.손실에는 반올림하거나
argmax로 고른 유형 번호가 아닌, 손실이 기대하는 확률이나 logits를 전달합니다.이진 출력 하나에 softmax를 적용하면 항상 1이 됩니다. 이진 확률 하나에는 sigmoid를 사용합니다.
정규화 항이 추가되면 훈련의 전체 목적은 데이터 손실만의 값과 다를 수 있습니다.
훈련 손실만으로 새 데이터의 성능을 판단하지 않습니다. 검증·시험 데이터 분할과 평가 기준을 유지합니다.
정답이 1인 한 표본에서는 예측 확률에 따라 교차 엔트로피가 연속적으로 바뀌지만 정확도는 문턱 0.5에서 바뀝니다. 전체 데이터의 평균 손실과 정확도는 별개의 지표입니다.
세 표본의 정답이 모두 1일 때 예측 확률을 [0.51, 0.51, 0.51]에서 [0.99, 0.99, 0.49]로 바꾸면 평균 교차 엔트로피는 약 0.6733에서 0.2445로 감소하지만 정확도는 100%에서 약 66.7%로 낮아집니다. 그림은 한 표본의 변화이며, 이 수치 반례는 여러 표본의 평균 지표를 비교합니다.
경사 하강¶
음성 해설 원고
경사 하강은 손실을 줄이기 위해 매개변수를 조금씩 바꾸는 방법입니다. 기울기는 현재 위치에서 매개변수를 바꿀 때 손실이 어느 방향으로 증가하는지 알려 줍니다. 그래서 기울기의 반대 방향으로 이동하며, 이동 크기는 학습률로 조절합니다. 예를 들어 손실이 가중치의 제곱이라면, 가중치가 사일 때 기울기는 팔입니다. 학습률을 영 점 일로 정하면 다음 가중치는 삼 점 이가 됩니다. 학습률이 너무 작으면 느리고, 너무 크면 손실이 증가하거나 발산할 수 있습니다. 훈련 손실과 함께 검증 성능도 살펴보세요.
기울기 반대 방향 갱신¶
학습할 매개변수를 , 손실 함수를 라고 하겠습니다. 기울기 은 현재 위치에서 각 매개변수를 조금 바꿀 때 손실이 얼마나 변하는지 나타냅니다. 경사 하강은 이 기울기의 반대 방향으로 매개변수를 갱신합니다.
여기서 는 갱신 횟수이고, 는 학습률입니다. 기울기가 알려 주는 방향으로 얼마나 이동할지는 학습률로 조절합니다.
간단히 라면 기울기는 입니다. , 학습률이 0.1일 때 다음 값은 가 됩니다. 갱신을 반복하면 이 예에서는 가 0에 가까워집니다. 한 변수와 두 변수의 함수에서 갱신 경로를 그려 보며 이 과정을 확인해 보세요.
기울기의 반대 방향은 충분히 작은 이동에 대한 국소적인 기준입니다. 학습률이 너무 크면 손실이 오히려 증가할 수 있으며, 복잡한 신경망에서는 전역 최소점에 도달한다고 보장할 수 없습니다. 기울기가 0인 지점도 최소점뿐 아니라 극대점이나 안장점일 수 있습니다.
학습률¶
학습률이 너무 작으면 정해진 계산 시간 안에 충분히 학습하지 못할 수 있습니다. 너무 크면 손실이 심하게 흔들리거나 발산할 수 있습니다. 손실 곡선과 검증 성능을 함께 보며 학습률을 정해 보세요. 훈련 손실이 감소하더라도 검증 성능이 계속 좋아지는 것은 아니므로, 훈련 손실만으로 모델을 선택하지 않습니다.
학습률 스케줄은 학습 진행에 따라 공통 학습률을 바꾸는 방법입니다. 뒤에서 설명할 적응형 기법은 매개변수별 기울기 이력에 따라 갱신 크기를 조절합니다. 두 방법은 함께 사용할 수 있으며, 적응형 기법에서도 기본 학습률은 설정해야 합니다.
수치 미분은 함수값의 차이로 기울기를 근사하는 방법입니다. 수치 미분 실습으로 경사 하강의 원리를 확인한 뒤, 다음 절에서 역전파가 신경망의 많은 매개변수에 대한 기울기를 어떻게 효율적으로 계산하는지 살펴보겠습니다.
학습률에 따른 의 경사 하강을 보여 줍니다. 에서 학습률 0.05는 느리게 수렴하고 0.8은 부호가 바뀌며 수렴합니다. 1.1은 발산하며 그래프 밖으로 나간 뒤에도 손실 수치가 증가합니다.
기울기 계산: 역전파¶
음성 해설 원고
역전파는 신경망의 기울기를 효율적으로 계산하는 방법입니다. 먼저 순전파로 예측과 손실을 계산합니다. 이어서 손실에서 출발해 계산 순서의 반대 방향으로 미분을 전달합니다. 각 연산의 국소 미분을 연쇄 법칙으로 연결하고, 순전파의 중간값을 재사용하면 많은 매개변수의 기울기를 구할 수 있습니다. 여기서 역할을 구분하는 것이 중요합니다. 역전파는 기울기를 계산하고, 최적화 기법은 그 기울기로 매개변수를 바꿉니다. 따라서 같은 역전파 계산에 서로 다른 최적화 기법을 사용할 수 있습니다.
경사 하강에 필요한 것은 각 가중치와 편향에 대한 손실의 기울기입니다. 역전파는 합성 함수의 연쇄 법칙으로 이 기울기를 계산합니다. 순전파에서는 입력으로부터 예측과 손실을 계산하고, 역전파에서는 손실에서 시작해 계산 순서의 반대 방향으로 미분을 전달합니다.
신경망이 역전파를 사용하는 핵심 이유는 많은 매개변수가 여러 층의 합성 연산으로 연결되어 있기 때문입니다. 순전파의 중간값과 역방향으로 전달한 미분을 재사용하면, 매개변수마다 함수를 다시 평가하는 수치 미분보다 기울기를 효율적으로 계산할 수 있습니다. 층 수와 연결 구조를 미리 고정한 신경망에서도 이 장점은 같습니다. 네트워크 구성을 미리 결정할 수 없기 때문에 역전파가 필요한 것은 아닙니다.
두 연산 , 가 연결되어 있다면, 매개변수에 대한 손실의 미분은 다음과 같습니다.
벡터나 행렬을 다룰 때에는 차원에 맞는 곱과 합으로 일반화됩니다. 각 연산의 국소 미분을 상류에서 전달된 미분과 결합하면 신경망 전체의 기울기를 구할 수 있습니다.
곱하기 노드를 떠올려 봅시다. 순전파에서 두 입력을 곱할 때 입력값도 기억해 둡니다. 역전파에서는 상류 미분에 상대편 입력값을 곱하면 각 입력의 기울기가 나옵니다. 매개변수마다 전체 함수를 다시 평가하는 대신, 이미 계산한 중간값을 각 노드에서 재사용하는 것입니다. 역전파 실습의 사과 가격 예제에서 이 과정을 직접 확인해 보세요. PyTorch 자동 미분 안내
역전파의 결과는 기울기입니다. 이 기울기로 매개변수를 실제로 바꾸는 규칙은 최적화 기법이 정합니다. 따라서 같은 신경망의 역전파를 유지하면서 SGD, 모멘텀, Adam 등 갱신 방법을 바꿀 수 있습니다. 학습 한 번의 흐름은 ‘순전파와 손실 계산 → 역전파로 기울기 계산 → 최적화 기법으로 매개변수 갱신’입니다.
역전파 실습에서 계산 그래프의 더하기·곱하기 국소 미분을 먼저 구하고, 시그모이드와 신경망으로 확장해 보세요. 학습 흐름을 구체적으로 확인할 수 있습니다. 수치 미분으로 구한 근삿값과 역전파 결과를 비교하는 방법은 구현의 기울기를 점검할 때도 활용할 수 있습니다.
최적화 기법¶
음성 해설 원고
최적화 기법은 계산된 기울기로 매개변수를 갱신하는 규칙입니다. 기본적인 에스 지 디는 현재 기울기를 사용합니다. 모멘텀은 이전 방향의 이력을 누적해 갱신에 반영합니다. 아다그라드는 기울기 제곱의 누적합으로 매개변수별 갱신 크기를 조절하고, 알 엠 에스 프롭은 그 대신 이동 평균을 사용합니다. 아담은 기울기와 기울기 제곱의 이동 평균을 함께 사용하며 초기 편향을 보정합니다. 아담 더블유는 적응형 갱신과 가중치 감쇠를 분리합니다. 어떤 방법이 항상 우수한 것은 아닙니다. 같은 평가 기준에서 학습률을 조정하고 검증 성능과 계산 비용을 비교하세요.
아래에서는 현재 기울기를 로 쓰겠습니다. 기울기를 구할 데이터의 범위는 다음 절에서 정하며, 여기서는 계산된 기울기로 매개변수를 어떻게 바꾸는지에 집중합니다.
SGD¶
추가적인 기울기 이력을 저장하지 않는 기본 갱신은 입니다. 구현이 단순해 비교 실험의 기준으로 삼기 좋습니다. 다만 손실 지형과 학습률에 따라 진행이 느리거나 갱신 방향이 크게 흔들릴 수 있습니다. 프레임워크의 SGD는 모멘텀을 선택적으로 지원하기도 합니다. PyTorch SGD 문서
모멘텀¶
모멘텀은 이전 기울기의 방향을 누적해 갱신에 사용합니다. 가장 단순한 형태는 다음과 같습니다.
는 이전 이력을 얼마나 남길지 정합니다. 비슷한 방향의 기울기가 반복되면 그 방향으로 진행하는 효과가 쌓이고, 반대 방향으로 번갈아 나타나는 기울기는 일부 상쇄됩니다. 다만 모든 문제에서 더 빠르거나 더 좋은 해를 보장하지는 않습니다. 학습률을 이력에 포함하는지에 따라 구현의 수식이 달라질 수 있으므로 실제 라이브러리의 정의를 확인해 보세요. PyTorch의 모멘텀 구현 설명
AdaGrad와 RMSProp¶
AdaGrad는 각 매개변수의 과거 기울기 제곱을 누적합니다. 누적값이 큰 매개변수일수록 같은 현재 기울기에 대한 갱신 크기를 줄입니다. 제곱합으로 그대로 나누는 것이 아니라, 일반적으로 제곱근과 작은 안정화 상수 을 분모에 사용합니다.
벡터의 제곱·제곱근·나눗셈은 원소별 연산입니다. 누적합이 계속 커지면 유효 갱신 크기가 지나치게 작아질 수 있습니다. PyTorch Adagrad 문서
RMSProp은 전체 이력을 같은 비중으로 더하는 대신 기울기 제곱의 지수 이동 평균을 사용합니다.
오래된 기울기의 영향이 점차 작아지므로 최근 기울기 크기를 더 반영합니다. AdaGrad의 누적합과 달리 가 항상 증가하지는 않습니다. 두 기법의 핵심 차이는 기울기 제곱의 이력을 저장하는 방식입니다. PyTorch RMSprop 문서
Adam과 AdamW¶
Adam은 기울기의 지수 이동 평균과 기울기 제곱의 지수 이동 평균을 함께 사용합니다. 전자는 방향의 이력을, 후자는 크기의 이력을 반영합니다. 두 이력을 0으로 초기화하면서 생기는 초기 편향도 보정합니다. 이름은 adaptive moment estimation, 즉 적응적 모멘트 추정에서 유래합니다. 기본 학습률, 두 이동 평균의 감쇠율, 안정화 상수 등을 설정하며, 기본값을 쓰더라도 문제에 맞는 검증이 필요합니다. Adam 원논문
AdamW는 Adam의 적응형 갱신과 가중치 감쇠(weight decay)를 분리합니다. 가중치 감쇠는 매개변수의 크기를 줄이는 정규화 방식입니다. Adam에서는 손실에 L2 항을 더해 기울기에 섞는 것과 매개변수를 별도로 감쇠하는 것이 일반적으로 같지 않습니다. AdamW는 후자를 사용하므로 Adam에 L2 항을 추가한 것과 구분해야 합니다. 여기서 바뀌는 것은 기울기로 매개변수를 갱신하는 규칙입니다. 신경망의 같은 역전파 계산을 유지하면서 optimizer를 Adam에서 AdamW로 바꿀 수 있습니다. AdamW 원논문
최적화 기법 실습에서는 기존 신경망의 갱신 규칙을 비교합니다.
선택 기준¶
SGD: 현재 기울기를 그대로 사용합니다.
모멘텀: 갱신 방향의 이력을 누적합니다.
AdaGrad: 기울기 제곱의 누적합으로 매개변수별 갱신 크기를 조절합니다.
RMSProp: 기울기 제곱의 이동 평균을 사용합니다.
Adam: 기울기와 기울기 제곱의 이동 평균을 함께 사용하고 초기 편향을 보정합니다.
AdamW: Adam의 갱신에서 가중치 감쇠를 분리합니다.
어떤 기법이 항상 우수하다고 정할 수는 없습니다. 같은 데이터 분할과 평가 기준에서 학습률 등을 조정해 비교하고, 검증 성능뿐 아니라 학습 시간과 메모리도 살펴보세요. 최적화 기법만 바꾸고 모든 기법에 같은 학습률을 적용하면 각 기법을 충분히 비교하지 못할 수 있습니다.
SGD·모멘텀·Adam의 갱신 경로 예시입니다. 같은 이차 손실을 사용하지만 학습률이 서로 다르므로 성능 벤치마크나 보편적인 우열 순위를 뜻하지 않습니다.
미니 배치 학습¶
음성 해설 원고
미니 배치는 한 번에 처리하는 데이터의 작은 묶음입니다. 각 묶음으로 평균 손실과 기울기를 계산한 뒤 매개변수를 갱신합니다. 배치는 데이터 묶음, 스텝은 한 번의 갱신, 에폭은 전체 훈련 데이터를 한 차례 순회하는 단위입니다. 예를 들어 표본이 스물세 개이고 배치 크기가 여덟이면, 마지막 배치도 사용할 때 여덟 개, 여덟 개, 일곱 개로 나눕니다. 에폭마다 순서를 섞어 중복 없이 순회할 수 있고, 복원 추출도 가능한 선택입니다. 마지막 배치를 버리거나 기울기를 누적하면 배치 수와 갱신 횟수가 달라질 수 있습니다. 배치 크기는 메모리, 처리 속도, 검증 성능을 함께 보며 정합니다.
한 번의 갱신에 사용할 데이터¶
훈련 데이터가 개일 때 전체 평균 손실은 다음과 같습니다.
매번 모든 표본을 처리하면 한 번의 갱신에 많은 계산과 메모리가 필요할 수 있습니다. 미니 배치 학습은 일부 표본을 묶어 평균 손실과 기울기를 계산합니다. 현재 미니 배치의 색인 목록을 라고 하겠습니다. 복원 추출일 때는 반복된 색인도 각각 포함하며, 기울기는 다음과 같이 계산합니다.
배치가 달라지면 기울기에도 변동이 생깁니다. 이 변동이 최적화에 도움이 되는 경우도 있지만, 항상 최소점 탈출이나 일반화 성능 향상을 보장하지는 않습니다.
사용하는 표본 수에 따라 다음과 같이 구분합니다.
전체 배치 경사 하강(GD): 매번 훈련 데이터 전체의 기울기를 계산합니다.
확률적 경사 하강(SGD, 좁은 의미): 매번 표본 하나의 기울기로 갱신합니다.
미니 배치 경사 하강: 여러 표본으로 이루어진 작은 묶음의 평균 기울기로 갱신합니다.
실무에서는 미니 배치를 쓰는 방식도 넓은 의미의 SGD라고 부릅니다. 또한 ‘SGD’라는 optimizer 이름만으로 배치 크기가 1이라고 판단할 수 없습니다. 배치 구성은 기울기 계산에 사용할 데이터를 정하고, optimizer는 계산된 기울기를 이용하는 갱신 규칙을 정합니다. Adam도 미니 배치로 학습할 수 있습니다.
배치, 스텝, 에폭¶
배치(batch)는 한 번에 처리하는 표본 묶음입니다. 이 절에서는 훈련 데이터 전체의 크기를 , 한 미니 배치의 크기를 로 구분합니다.
배치 크기: 한 묶음에 포함하는 표본 수
스텝(step): 매개변수를 한 번 갱신하는 단위
에폭(epoch): 유한한 훈련 데이터 전체를 한 차례 순회하는 단위
일반적인 학습 루프에서 배치 하나마다 한 번 갱신한다면, 마지막의 작은 배치도 사용하는 경우 에폭당 스텝 수는 입니다. , 이면 128개짜리 배치 일곱 개와 104개짜리 마지막 배치로 총 여덟 번 갱신합니다. 10에폭이면 총 80스텝입니다.
마지막의 작은 배치를 버리면 에폭당 스텝 수는 이 되고 일부 표본을 해당 순회에서 사용하지 않습니다. PyTorch에서는 이를 drop_last로 선택합니다. 여러 배치의 기울기를 누적한 뒤 한 번 갱신하는 경우에는 배치 처리 횟수와 optimizer 스텝 수가 달라집니다. PyTorch DataLoader 문서
데이터 순서와 표본 추출¶
일반적인 독립 표본 학습에서는 에폭마다 훈련 데이터의 순서를 섞고, 그 순서대로 중복 없이 배치를 만듭니다. 이렇게 하면 한 순회에서 각 표본을 한 번씩 사용할 수 있습니다. PyTorch의 기본 RandomSampler도 비복원 추출을 지원하며 기본 설정은 replacement=False입니다. PyTorch RandomSampler 문서
복원 추출도 가능한 선택이지만, 미니 배치의 필수 조건은 아닙니다. 복원 추출로 총 번 뽑았다고 해서 모든 표본을 한 번씩 보았다는 뜻은 아닙니다. 일부는 여러 번 뽑히고 일부는 빠질 수 있습니다. 이 경우에는 정해진 갱신 횟수를 학습 길이로 사용하거나, 에폭의 의미를 별도로 명시합니다.
데이터를 섞으면 저장 순서에 따른 편향을 줄일 수 있지만, 본래 연관된 표본이 통계적으로 독립이 되는 것은 아닙니다. 시계열이나 순서를 유지해야 하는 과제에서는 표본의 구성과 순서를 과제에 맞게 처리해야 합니다.
배치 크기의 선택¶
작은 배치는 갱신을 자주 수행하고 필요한 메모리를 줄일 수 있지만, 기울기의 변동이 커지고 장치의 병렬 연산을 충분히 활용하지 못할 수 있습니다. 큰 배치는 처리량을 높이는 데 유리할 수 있지만 메모리를 더 사용하며, 같은 에폭 수에서는 갱신 횟수가 줄어듭니다.
따라서 배치가 크면 항상 더 빠르거나 정확하고, 작으면 항상 일반화가 좋아진다고 결론 내릴 수 없습니다. 모델·데이터·장치에 맞추어 메모리 사용량, 실제 처리 속도, 목표 검증 성능까지 필요한 시간을 측정해 보세요. 배치 크기를 바꿀 때에는 학습률과 학습 길이도 함께 점검합니다.
학습 과정 정리¶
에폭을 시작하며 훈련 데이터의 순서를 정합니다.
미니 배치의 입력과 정답을 가져옵니다.
순전파로 예측과 평균 손실을 계산합니다.
역전파로 매개변수별 기울기를 계산합니다.
선택한 optimizer로 매개변수를 갱신합니다.
다음 배치에 대해 반복하고, 정해진 시점에 검증 성능을 평가합니다.
경사 하강은 갱신의 기본 원리, 역전파는 기울기의 계산 방법, 미니 배치는 데이터를 처리하는 단위입니다. 세 가지 역할을 구분하면 신경망의 학습 루프를 일관되게 이해할 수 있습니다.
비복원 미니 배치 구성 예시입니다. , 배치 크기 8, drop_last=False이면 한 에폭의 배치는 8·8·7개이고 각 표본을 한 번씩 사용합니다. 에폭마다 순서를 다시 섞습니다. 이 방식은 가능한 구성 방법이며 모든 미니 배치가 비복원 추출을 요구하는 것은 아닙니다.
실습: 경사 하강과 손실¶
음성 해설 원고
이제 코드로 경사 하강과 손실을 확인합니다. 먼저 한 변수와 두 변수의 함수에서 매개변수가 어떻게 이동하는지 살펴보고, 분류에서 사용하는 교차 엔트로피를 계산합니다. 이어지는 신경망 실습은 수치 미분으로 기울기를 근사해 학습 과정을 이해하도록 구성되어 있습니다. 매개변수마다 함수값을 다시 계산하므로 큰 신경망을 학습하는 일반적인 방법보다 계산량이 많습니다. 실습에서는 기울기 계산, 매개변수 갱신, 손실 변화의 연결을 확인하세요. 많은 매개변수를 가진 신경망에서는 역전파를 사용합니다.
아래 실습에서는 한 변수·두 변수의 경사 하강과 교차 엔트로피를 확인한 뒤, 수치 미분을 사용한 신경망 학습으로 이어갑니다. 이 코드는 학습 과정을 이해하기 위한 교육용 구현입니다. 큰 신경망의 일반적인 훈련에서는 역전파를 사용합니다.
한 변수와 두 변수의 경사 하강¶
음성 해설 원고
이 실습에서는 경사 하강의 이동 경로를 직접 확인합니다. 한 변수의 제곱 함수에서는 현재 값의 두 배가 기울기입니다. 두 변수의 제곱합에서는 각 변수에 대한 기울기를 따로 계산하고 함께 갱신합니다. 아래 코드의 학습률과 반복 횟수를 살펴보며 시작점에서 최소점으로 가까워지는 과정을 따라가세요. 같은 함수라도 학습률에 따라 이동 속도와 안정성이 달라집니다. 그림의 경로와 손실값을 함께 보면, 반복 횟수만 늘리는 것과 학습률을 적절히 고르는 것의 차이를 이해할 수 있습니다.
import numpy as np
import matplotlib.pyplot as plt
x = np.arange(-5, 5, 0.1)
f = lambda x: x**2
dfdx = lambda x: 2*x
def 수치미분(f, x):
h = 1e-4
return (f(x + h) - f(x - h)) / (2 * h)
plt.plot(x, f(x))
plt.plot(x, dfdx(x), 'g')
plt.plot(x, 수치미분(f, x), 'k--')
# plt.plot(x, np.gradient(f(x), x), 'k--')
plt.plot(0, 0, 'ro')
print("x=2에서의 수치 미분:", 수치미분(f, 2.0))
assert np.isclose(수치미분(f, 2.0), 4.0)
plt.show()
import numpy as np
import matplotlib.pyplot as plt
def 수치미분(f, x):
h = 1e-4
return (f(x + h) - f(x - h)) / (2 * h)
def 경사하강(f, 초기값, 반복횟수, 학습률):
x = 초기값
x_history = [초기값]
for i in range(반복횟수):
경사 = 수치미분(f, x)
x -= 경사 * 학습률
x_history.append(x)
return np.array(x_history)
x = np.arange(-5, 5, 0.1)
f = lambda x: x ** 2
x_history = 경사하강(f, 초기값=-4, 반복횟수=10, 학습률=0.1)
plt.plot(x, f(x))
plt.scatter(x_history, f(x_history), color='red')
print("시작 함수값:", f(x_history[0]))
print("마지막 함수값:", f(x_history[-1]))
assert f(x_history[-1]) < f(x_history[0])
plt.show()
import numpy as np
import matplotlib.pyplot as plt
import matplotlib.animation as animation
# 수치미분 함수
def 수치미분(f, x):
delta = 1e-5
return (f(x + delta) - f(x - delta)) / (2 * delta)
# 경사하강 함수
def 경사하강(f, 초기값, 반복횟수, 학습률):
x = 초기값
x_history = [초기값]
for i in range(반복횟수):
경사 = 수치미분(f, x)
x -= 경사 * 학습률
x_history.append(x)
return np.array(x_history)
# 초기값, 반복횟수, 학습률 설정
초기값 = -4
반복횟수 = 10
학습률 = 0.1
# 함수와 x 값 생성
x = np.arange(-5, 5, 0.1)
f = lambda x: x ** 2
# 경사하강 실행
x_history = 경사하강(f, 초기값, 반복횟수, 학습률)
# Figure와 축 설정
fig, ax = plt.subplots()
ax.plot(x, f(x), 'b-')
scat = ax.scatter([], [], color='red')
# 초기화 함수
def init():
scat.set_offsets(np.empty((0, 2)))
return scat,
# 업데이트 함수
def update(frame):
scat.set_offsets(np.c_[x_history[:frame+1], f(x_history[:frame+1])])
return scat,
# 애니메이션 생성
ani = animation.FuncAnimation(fig, update, frames=len(x_history), init_func=init, blit=True)
print("마지막 함수값:", f(x_history[-1]))
assert f(x_history[-1]) < f(x_history[0])
from IPython.display import HTML, display
display(HTML(ani.to_jshtml()))
plt.show()
기울기와 이동 경로 계산¶
import numpy as np
import matplotlib.pyplot as plt
x = np.arange(-5, 5, 0.1)
f = lambda x: x ** 2
def 수치미분(f, x):
h = 1e-4
return (f(x + h) - f(x)) / h
def 경사하강(f, 초기값, 반복횟수, 학습률):
x = 초기값
x_history = [초기값]
for i in range(반복횟수):
경사 = 수치미분(f, x)
x -= 경사 * 학습률
x_history.append(x)
return np.array(x_history)
x_history = 경사하강(f, 초기값=-4, 반복횟수=10, 학습률=0.1)
plt.plot(x, f(x))
plt.plot(x, 수치미분(f, x))
plt.plot(0, 0, marker='x', color='green')
plt.scatter(x_history, f(x_history), color='red')
print("시작 함수값:", f(x_history[0]))
print("마지막 함수값:", f(x_history[-1]))
assert f(x_history[-1]) < f(x_history[0])
plt.show()
import numpy as np
import matplotlib.pyplot as plt
x0 = np.arange(-5, 5, 0.1)
x1 = np.arange(-5, 5, 0.1)
X0, X1 = np.meshgrid(x0, x1)
X = np.array([X0, X1])
f2 = lambda x: np.sum(x**2, axis=0)
그림틀 = plt.figure()
그래프 = 그림틀.add_subplot(111, projection="3d")
그래프.plot_surface(X0, X1, f2(X))
print("최솟값:", float(f2(np.array([0.0, 0.0]))))
assert f2(np.array([0.0, 0.0])) == 0
plt.show()
import numpy as np
import matplotlib.pyplot as plt
def f2(x):
return np.sum(x ** 2, axis=0)
def 경사산출(f, x):
h = 1e-4
경사 = np.empty_like(x)
for i, xi in enumerate(x):
x[i] = xi + h
fxh1 = f(x)
x[i] = xi - h
fxh2 = f(x)
경사[i] = (fxh1 - fxh2) / (2 * h)
x[i] = xi # 원래 값 복원
return 경사
def 경사하강(f, 초기값, 반복횟수, 학습률):
x = 초기값.copy()
x_history = []
for i in range(반복횟수):
경사 = 경사산출(f, x)
x -= 경사 * 학습률
x_history.append(x.copy())
return x_history
x = np.array([3.0, 4.0])
x_history = 경사하강(f2, x, 100, 0.1)
x_history = np.array(x_history)
plt.scatter(x_history[:, 0], x_history[:, 1], color='r')
# 보조선
plt.plot([0, 0], [-5, 5], 'b--')
plt.plot([-5, 5], [0, 0], 'b--')
print("마지막 위치:", x_history[-1])
print("마지막 함수값:", f2(x_history[-1]))
assert f2(x_history[-1]) < f2(x)
plt.show()
신경망 학습 과정¶
음성 해설 원고
신경망 학습에서는 예측을 평가하는 손실 함수를 먼저 정합니다. 회귀에서는 평균 제곱 오차를 자주 사용하고, 분류에서는 예측 확률의 음의 로그 우도에 해당하는 교차 엔트로피를 사용할 수 있습니다. 정확도는 최종 예측 유형이 맞았는지를 세지만, 손실은 예측 확률의 변화도 반영합니다. 따라서 손실이 줄어도 정확도가 반드시 높아지는 것은 아닙니다. 아래에서는 손실을 계산하고 수치 미분으로 기울기를 구한 뒤 매개변수를 갱신하는 교육용 학습 과정을 확인합니다. 이 코드의 학습 횟수는 전체 데이터 순회가 아니라 갱신 반복 횟수입니다. 새로운 데이터에서의 성능은 별도의 검증으로 평가하세요.
신경망에서는 순전파 → 손실 계산 → 역전파로 기울기 계산 → optimizer의 매개변수 갱신을 반복합니다. 신경망의 학습 흐름, 역전파, 수치 미분, 최적화 기법에서 각 계산을 살펴볼 수 있습니다.
신경망 학습 실습¶
아래 실습에서는 수치 미분으로 신경망의 기울기를 근사하여 매개변수를 갱신합니다.
수치 미분 신경망 실습¶
아래 교육용 구현의 복원 추출은 가능한 배치 구성 방식 중 하나입니다. 미니 배치에 복원 추출이 필수인 것은 아닙니다. 이 코드의 학습횟수는 데이터 전체 순회가 아니라 정해진 갱신 반복 횟수로 해석합니다.
입력 두 개, 은닉 노드 네 개, 출력 두 개로 구성한 작은 신경망을 사용합니다. 두 유형의 중심 주변에서 합성 표본을 만들고, 48개는 훈련에, 12개는 시험에 사용합니다. 실제 손글씨 데이터의 성능을 측정하는 실험은 아닙니다. 수치 미분은 매개변수마다 손실을 다시 계산하므로 작은 모델로 갱신과 손실 변화의 연결을 확인합니다. 그림의 손실은 매번 선택한 미니 배치에서 계산하므로 매 갱신마다 감소할 필요는 없습니다.
import numpy as np
import time
import matplotlib.pyplot as plt
sigmoid = lambda z: 1 / (1 + np.exp(-z))
def softmax(z):
if z.ndim == 1:
z = z.reshape(1, -1)
exp_z = np.exp(z - np.max(z, axis=1).reshape(-1, 1))
return exp_z / np.sum(exp_z, axis=1).reshape(-1, 1)
def 경사산출(f, x):
h = 1e-4
경사 = np.empty_like(x)
for i, xi in enumerate(x):
x[i] = xi + h
fxh1 = f(x)
x[i] = xi - h
fxh2 = f(x)
경사[i] = (fxh1 - fxh2) / (2 * h)
x[i] = xi # 원래 값 복원
return 경사
def 경사산출_2d(f, X):
경사 = np.zeros_like(X)
for j, xj in enumerate(X):
경사[j] = 경사산출(f, xj)
return 경사
def 교차엔트로피오차(y, y_pred):
delta = 1e-7
배치크기 = y.shape[0]
return -np.sum(y * np.log(y_pred + delta)) / 배치크기
class 완전연결:
def __init__(self, 입력, 출력, 활성화=None):
self.W = np.random.randn(입력, 출력) * 0.3
self.b = np.zeros(출력)
self.activation = 활성화
def forward(self, X):
Z = np.dot(X, self.W) + self.b
if self.activation:
return self.activation(Z)
return Z
class 신경망:
def __init__(self, 손실함수):
self.layers = []
self.loss_func = 손실함수
def add(self, layer):
self.layers.append(layer)
def predict(self, X):
"""순전파 (feedforward)"""
output = X
for layer in self.layers:
output = layer.forward(output)
return output
def 손실산출(self, X, y):
y_pred = self.predict(X)
손실 = self.loss_func(y, y_pred)
return 손실
def fit(self, X, y, 배치크기, 학습횟수, 학습률):
"""학습"""
표본수 = X.shape[0]
손실변화 = []
for i in range(학습횟수):
print(f'학습 {i+1}/{학습횟수}')
start_time = time.time()
# 1. 미니배치
배치색인 = np.random.choice(표본수, 배치크기)
X_batch = X[배치색인]
y_batch = y[배치색인]
# 2. 경사 산출
f = lambda 매개변수: self.손실산출(X_batch, y_batch)
층별경사 = []
for layer in self.layers:
dW = 경사산출_2d(f, layer.W)
db = 경사산출(f, layer.b)
층별경사.append((dW, db))
# 3. 매개변수 갱신 (경사 하강)
for layer, (dW, db) in zip(self.layers, 층별경사):
layer.W -= dW * 학습률
layer.b -= db * 학습률
end_time = time.time()
# (선택적) 손실확인
손실 = self.손실산출(X_batch, y_batch)
손실변화.append(손실)
print(f'\t손실: {손실:.3f}, \t시간: {end_time - start_time:.1f}초')
return 손실변화
np.random.seed(7)
rng = np.random.default_rng(7)
# 두 유형의 중심 주변에서 2차원 합성 표본을 만듭니다.
X = np.concatenate([
rng.normal([-1.0, -1.0], 0.3, size=(30, 2)),
rng.normal([1.0, 1.0], 0.3, size=(30, 2)),
])
정답 = np.repeat([0, 1], 30)
순서 = rng.permutation(len(X))
훈련색인, 시험색인 = 순서[:48], 순서[48:]
X_train, X_test = X[훈련색인], X[시험색인]
y_train = np.eye(2)[정답[훈련색인]]
y_test = 정답[시험색인]
model = 신경망(교차엔트로피오차)
model.add(완전연결(2, 4, sigmoid))
model.add(완전연결(4, 2, softmax))
시작손실 = model.손실산출(X_train, y_train)
손실변화 = model.fit(X_train, y_train, 배치크기=16,
학습횟수=80, 학습률=0.5)
마지막손실 = model.손실산출(X_train, y_train)
# 시험 표본은 학습을 마친 뒤 한 번 평가합니다.
예측 = np.argmax(model.predict(X_test), axis=1)
정확도 = np.mean(예측 == y_test)
print(f"훈련 손실: {시작손실:.4f} → {마지막손실:.4f}")
print(f"시험 정확도: {정확도:.4f}")
assert np.isfinite(마지막손실) and 마지막손실 < 시작손실
plt.plot(np.arange(1, len(손실변화) + 1), 손실변화)
plt.xlabel("Update")
plt.ylabel("Mini-batch loss")
plt.show()