Quantization (양자화)

정의

설명

원리

1. 유한 단계 분할
표현 가능한 값의 개수는 비트 수로 제한된다. 단계 수가 많을수록 간격은 촘촘해진다.

2. 근사 오차 발생
실제 입력 값은 가장 가까운 단계 값으로 치환되며, 이 차이가 양자화 오차가 된다.

3. 오차의 통계적 성격
입력 신호가 충분히 복잡할 경우, 오치는 특정 패턴이 아닌 확률적 분포를 가진다.

4. 해상도와 범위의 상호작용
같은
📄
Bit 수라도 표현 범위를 넓히면 단계 간격이 커지고, 범위를 줄이면 정밀도가 높아진다.

5. 시스템 한계 형성
양자화는 디지털 시스템이 표현할 수 있는 최소 변화 단위를 결정한다.

구조

단계 크기 정의

Δ = (X_max − X_min) / 2^N

양자화 연산

Q(x) = round(x / Δ) · Δ

양자화 오차

e = x − Q(x)

오차 범위

−Δ/2 ≤ e ≤ Δ/2

분해능 관계

Resolution ∝ 1 / 2^N

예시

비트 깊이와 해상도

• 비트 수가 증가하면 양자화 단계가 늘어나고, 작은 신호 변화도 구분할 수 있게 된다.

저레벨 신호 손실

• 단계 간격보다 작은 변화는 같은 값으로 묶이며, 미세 정보가 사라진다.

📄

Distortion (왜곡)과

📄

Noise (잡음)의 구분

• Quantizaiton 오차는 신호와 상관될 경우 Distortion처럼 나타나고, 비상관화되면 Noise처럼 분포한다.

데이터 압축과의 관계

• 양자화는 정보량을 줄이는 가장 직접적인 방법이며, 손실 압축의 핵심 메커니즘이다.

디지털 시스템 설계

• 센서, 변환기, 처리 알고리즘은 양자화 한계를 전제로 설계된다.