Skip to article frontmatterSkip to article content
Site not loading correctly?

This may be due to an incorrect BASE_URL configuration. See the MyST Documentation for reference.

생성 모델

Part 1에서 다룬 신경망은 대부분 판별(discriminative) 과제를 풀었다. 입력 xx가 주어졌을 때 정답 레이블 yy의 조건부 확률 p(y∣x)p(y \mid x)를 학습하여 분류하거나 회귀하는 식이다. 이 장에서 다루는 생성(generative) 모델은 목표가 다르다. 데이터 자체의 분포 p(x)p(x)를 학습하여, 그 분포에서 새로운 표본을 샘플링해 만들어 낸다. 텍스트를 한 토큰씩 이어 쓰는 언어 모델, 순수한 노이즈에서 이미지를 빚어내는 확산 모델이 모두 여기에 속한다.

이 장에서는 두 갈래의 생성 방식을 본다. 먼저 자기회귀(autoregressive) 언어 모델이 다음 토큰을 어떻게 예측하는지를 사전학습된 GPT-2로 직접 들여다보고, 이어서 이미지 생성의 대표 패러다임인 확산 모델(diffusion) 의 아이디어를 정리한다.

자기회귀 언어 모델: 다음 토큰 예측

언어 모델은 토큰 시퀀스 y1,y2,…,yTy_1, y_2, \dots, y_T의 결합 확률을 다음과 같이 연쇄 법칙(chain rule) 으로 분해한다.

p(y1,…,yT)=∏t=1Tp(yt∣y1,…,yt−1)p(y_1, \dots, y_T) = \prod_{t=1}^{T} p(y_t \mid y_1, \dots, y_{t-1})

즉 매 시점에서 지금까지의 토큰을 조건으로 다음 토큰의 확률 분포를 출력하는 것이 전부다. 생성은 이 분포에서 토큰을 하나 뽑아 입력 끝에 붙이고, 늘어난 입력으로 다시 다음 토큰을 예측하는 과정을 반복하는 것이다.

사전학습된 한국어 GPT-2에 짧은 문장을 넣어 보자. 먼저 입력 텍스트를 형태소 단위로 토큰화하고, 각 토큰을 어휘 사전의 정수 ID로 인코딩한 뒤 모델에 통과시킨다.

모델의 출력 outputs.logits는 형태 (1,T,V)(1, T, V)의 텐서다. 여기서 TT는 입력 토큰 개수, VV는 어휘 사전 크기다. 입력의 각 위치 tt마다 어휘 전체에 대한 점수(logit) 벡터가 하나씩 나온다는 뜻이다. 이 점수를 어휘 차원으로 소프트맥스하면 그 위치에서 "다음에 올 토큰"의 확률 분포 p(yt+1∣y≤t)p(y_{t+1} \mid y_{\le t})가 된다.

분포에서 가장 확률이 높은 토큰 하나만 고르는 것을 탐욕적(greedy) 선택 또는 Top-1이라 한다.

여기서 핵심은 예측이 마지막 한 값만 내놓는 것이 아니라는 점이다. 입력 시퀀스의 모든 위치에서 동시에 다음 토큰이 예측된다. 위치 1은 위치 2를, 위치 2는 위치 3을 예측하는 식으로 한 칸씩 어긋난 대응이 만들어진다.

y1→y2,y2→y3,…,yT−1→yTy_1 \rightarrow y_2, \quad y_2 \rightarrow y_3, \quad \dots, \quad y_{T-1} \rightarrow y_T

그래서 예측표는 입력과 같은 길이를 가진다. 각 입력 토큰 옆에 그 위치에서 예측된 다음 토큰과 확률을 나란히 놓아 보면 모델이 문맥을 어떻게 이어 가는지 한눈에 들어온다.

마지막 위치 TT의 예측이 곧 실제 생성에 쓰이는 값이다. 입력 끝까지의 문맥을 조건으로 한 다음 토큰이기 때문이다. 이 토큰을 입력 뒤에 이어 붙이고 같은 절차를 반복하면 문장이 한 토큰씩 자라난다. 학습 시점에는 정답 시퀀스가 통째로 주어지므로 모든 위치의 예측을 한 번에 비교하여 손실을 계산할 수 있고(이것이 Part 1의 교사 강요, teacher forcing와 같은 맥락이다), 추론 시점에는 이렇게 자기 출력을 다시 입력으로 먹이며 순차적으로 생성한다.

확산 모델: 노이즈에서 이미지로

이미지 생성에서 널리 쓰이는 또 다른 패러다임은 확산 모델(Denoising Diffusion Model) 이다. 자기회귀 언어 모델이 토큰을 왼쪽에서 오른쪽으로 이어 가는 것과 달리, 확산 모델은 전혀 다른 방식으로 표본을 만든다.

핵심 아이디어는 노이즈 제거(denoising) 다. 모델은 노이즈가 섞인 이미지에서 그 노이즈를 제거하도록 학습된다. 생성할 때는 순수한 노이즈에서 출발하여, 학습된 노이즈 제거를 반복적으로 적용한다. 무작위 노이즈가 단계를 거치며 조금씩 정돈되어 마침내 하나의 이미지로 떠오르는 것이다.

정리하면 두 생성 방식은 다음과 같이 대비된다.

자기회귀 언어 모델확산 모델
생성 단위토큰(이산)이미지 전체(연속)
진행 방향시퀀스 한 방향으로 한 토큰씩순수 노이즈에서 반복적 노이즈 제거
매 단계가 하는 일다음 토큰의 확률 분포 예측현재 이미지의 노이즈 추정·제거

두 모델 모두 데이터 분포에서 새로운 표본을 만들어 낸다는 생성 모델의 목표를 공유하지만, 데이터의 성격(이산적인 언어 대 연속적인 픽셀)에 맞춰 서로 다른 경로를 택한 셈이다.