조건부 에너지 기반 모델
조건부 에너지 기반 모델(conditional energy-based model)은 에너지 기반 모델(Energy Based Model, EBM)의 확장 형태로, 입력이나 조건 변수(condition)에 의존하여 출력 분포을 정의하는 모델이다. 즉 일반적인 EBM이 변수 \(x\) 만을 대상으로 에너지 함수를 정의하는 반면, 조건부 EBM은 \((x, y)\) 또는 \((y \mid x)\) 형태에서 에너지를 정의하고, 주어진 조건 하에서의 확률 분포을 암묵적으로 모델링한다.
에너지 기반 모델은 데이터 공간의 각 상태에 대해 에너지 \(E(x)\) 를 할당하고, 낮은 에너지를 갖는 상태가 높은 확률을 갖도록 구성한다. 확률 밀도 (unnormalized 형태) 는 보통 \[ p(x) \propto \exp\bigl(-E(x)\bigr) \] 로 정의된다.[1]
하지만 많은 실제 문제에서는 단순히 \(x\) 만이 아니라, 추가 입력 또는 조건 \(c\) 가 주어졌을 때의 출력 \(y\) 을 모델링하고 싶다. 이럴 때 조건부 EBM은 다음과 같은 형태를 취할 수 있다:
\[ p(y \mid c) \propto \exp\bigl(-E(y, c)\bigr) \]
이렇게 하면 조건 \(c\) 에 따라 \(y\) 의 분포을 유연하게 모델링할 수 있다. 조건부 EBM은 특히 다중봉우리(multimodal) 분포을 잘 다룰 수 있으며, 분포의 복잡한 구조를 직접적으로 모델링할 수 있다는 장점이 있다.
조건부 EBM의 핵심은 조건 쌍 \((y, c)\) 에 대한 에너지 함수 \(E_\theta(y, c)\) 를 파라미터화하고, 이를 통해 조건부 분포을 정의하는 것이다:
\[ p_\theta(y \mid c) = \frac{\exp(-E_\theta(y, c))}{Z_\theta(c)} \]
여기서 \(Z_\theta(c) = \int \exp(-E_\theta(y, c)) \, dy\) 는 조건 \(c\) 에 대한 정규화 상수(normalizer)다. 하지만 이 \(Z_\theta(c)\) 를 계산하는 것은 대개 어렵다 (비정상화 모델, unnormalized model).
학습은 대개 다음과 같은 방식으로 이뤄진다:
- 최대 우도학습 (maximum likelihood): 관찰된 \((y_i, c_i)\) 에 대해 \(p_\theta(y_i \mid c_i)\) 을 최대화
- 대비(divergence) 기반 학습: 예컨대 KL divergence 최소화
- 몬테카를로 샘플링 기반 보조 기법: MCMC, Langevin dynamics 등을 이용해 샘플링
- 대체 손실 함수 또는 근사 기법: score matching, contrastive divergence, 세련된 손실 함수 등
조건부 EBM을 무조건적 EBM 방식과 동일하게 취급하면 일반화에 실패할 수 있다는 경험적 보고가 있다. 예를 들어, Ta 등은 무조건적 EBM 학습 기법을 그대로 조건부 EBM에 적용하는 것은 주의해야 한다고 경고하였다. [2]
조건부 EBM이 갖는 주요 특성 및 장점은 다음과 같다:
- 표현력
- 조건 \(c\) 에 따라 복잡하고 다중봉우리인 \(y\) 분포을 유연하게 모델링할 수 있다.
- 암묵적 분포 표현
- 정규화 상수를 직접 계산하지 않아도 모델링이 가능하므로 복잡한 분포에도 적용 가능하다.
- 식별 가능성
- 일부 연구에서는 조건부 EBM이 적절한 조건 하에서 식별 가능성(identifiability)을 갖는다는 결과가 있다. 예컨대 ICE-BeeM 논문은 dot-product 기반의 조건부 EBM 구조 하에서 표현이 단순 변환하에서 유일하다는 조건을 제시한다.[3]
- 응용성
- 조건부 EBM은 강화학습, 시뮬레이션 기반 추론(simulation-based inference), 행동 복제(behavior cloning) 등 다양한 분야에서 활용된다.[4]
- 또한 출력 예측, 조건부 생성 모델 등에서 많이 응용된다.
조건부 EBM을 적용 또는 연구할 때 고려해야 할 어려움 및 한계는 다음과 같다:
- 정규화 상수의 계산 어려움
- 조건별 \(Z(c)\) 를 직접 계산할 수 없기 때문에 근사 또는 샘플링 기반 기법이 필요하다.
- 학습 안정성
- 샘플링 기반 학습이 불안정하거나 수렴하지 않을 수 있고, 적절한 하이퍼파라미터 조정이 중요하다.
- 일반화 오류
- 조건부 EBM에서는 과적합 또는 일반화 실패 문제가 발생할 수 있다. 특히 무조건적 EBM 학습 전략을 무비판적으로 적용하면 안 된다는 지적이 있다.
- 샘플링 비용
- MCMC, Langevin dynamics 등의 샘플링은 계산 비용이 크며, 복잡한 조건 공간에서는 비효율적일 수 있다.
- 스케일 및 확장성
- 매우 고차원 조건 또는 출력 공간에서는 모델 규모가 커지고 최적화가 어려워진다.
최근 조건부 EBM 관련 연구 흐름은 다음과 같다:
- 식별성 이론
- ICE-BeeM은 조건부 EBM의 표현이 적절한 조건 하에서 유일성을 갖는 이론적 근거를 제시한 연구다. [5]
- 시뮬레이션 기반 추론
- Glaser 등은 조건부 EBM을 사용하여 시뮬레이션 기반 추론 문제에서 우도(likelihood) 모델을 유연하게 학습하는 방법을 제시하였다.
- 정밀한 손실 함수 개발
- 최근 EBM 전반에서의 손실 함수 개선 연구 (예: Energy Discrepancy) 은 조건부 EBM에도 영향을 주고 있다. [6]
- 정책 표현 및 강화학습 응용
- 조건부 EBM을 암묵적 정책(implicit policy) 표현으로 사용하는 연구가 존재하며, EBM과 강화학습의 접목 가능성이 탐구되고 있다.
- 행동 복제(behavior cloning)에서 입력 상태를 조건 \(c\), 행동을 \(y\) 로 하여 조건부 EBM을 정책으로 모델링
- 시뮬레이터가 있는 시스템에서 조건 \(c\) 가 주어졌을 때 관찰 \(y\) 의 우도 모델을 조건부 EBM 으로 학습
- 이미지 생성: 조건부 EBM을 사용해 조건 \(c\) (예: 레이블, 텍스트 등) 에 따라 이미지 \(y\) 생성
- 조건부 이상 탐지: 조건 \(c\) 를 기반으로 정상/비정상 분포 모델링
- Ta, Duy-Nguyen 외, “Conditional Energy-Based Models for Implicit Policies”
- Khemakhem, Ilyes 외, “ICE-BeeM: Identifiable Conditional Energy Based Deep Models”
- Glaser, Pierre 외, “Maximum Likelihood Learning of Energy-Based Models for Simulation-Based Inference”
- “A Score-Independent Loss for Energy-Based Models” (arXiv, 2025)
- LeCun 등, “A Tutorial on Energy Based Learning”
- ↑ “A Tutorial on Energy Based Learning”, LeCun 등
- ↑ “Conditional Energy-Based Models for Implicit Policies”, Ta et al.
- ↑ “ICE-BeeM: Identifiable Conditional Energy Based Deep Models”, Khemakhem et al.
- ↑ “Maximum Likelihood Learning of Energy-Based Models for Simulation-Based Inference”, Glaser et al.
- ↑ Khemakhem et al.
- ↑ “A Score-Independent Loss for Energy-Based Models”, 2025
