샘플링 이야기 (2) – 44.1kHz, 충분한가?

---

지난 샘플링 이야기 첫번째 편에서는 나이퀴스트 이론과 기본적인 샘플링에 대해서 다루어 보았습니다. 이번 편에서는 조금 더 깊게 파고들어가 보려고 합니다. 첫번째 샘플링 이야기를 읽고 오신다면 이 글을 읽는데 도움이 될 거라고 생각합니다.

높은 Sampling rate 가 낮은, 주로 44.1kHz 보다 좋다, 아니다 라는 논쟁은 수십년동안 지속되고 있습니다. 이 글이 여러분들이 읽고 스스로 판단할 수 있는 정보를 줄 수 있기를 바라여 봅니다.

나이퀴스트 이론은 어디까지나 이론입니다. 그것을 완벽하게 현실화 하기 위해서는 이론을 뒷받침 해줄 수 있는 기술이 필요합니다. 1983년도에야 제대로 된 디지털 44.1kHz, 16 bit 기술이 나온걸 가만하면 아주 오랜 시간이 걸린 것이죠. 이 때 처음 등장한 디지털 기술 또한 전혀 완벽하지 않았습니다. 거대한 마케팅에 비해 현실적으론 문제 투성이였고 그것이 디지털 샘플링에 대한 거부감을 많은 사람들에게 심어 주었죠.

우리는 여기서 그렇다면 도대체 그 문제는 무엇이였는가? 에 대해서 이야기 해봐야 합니다.

1. 클락의 부정확함

2. 16 bit

3. 아날로그 필터의 문제

1. 클럭의 부정확함은 바로 digital clock 을 이야기 합니다. 정확하지 않은 클럭은 Jitter 가 많이 발생하며 그것은 고주파의 distortion 과  비슷한 왜곡된 소리를 내어 줍니다.

2. 16bit. 대부분의 컨버터가 24bit 인 지금 16bit 밖에 수용할 수 없던 기술은 높은 Signal to noise ratio, quantization error 등 많은 문제를 가지고 있었습니다. “무조건 크게 녹음해야 한다” 라는 녹음 기술이 이때 나오게 된 것이죠. 이 부분은 저의 이전 글 “올바른 녹음 레벨 설정 법” 에서 더 자세히 다루어 보았었습니다.

3. 아날로그 필터의 문제

이것이 우리가 오늘 깊게 파볼 부분 입니다.

나이퀴스트 이론을 실행하기 위해선 우리가 샘플링하고자 하는 가장 높은 주파수의 두 배 이상의 sampling rate 을 설정해야 하며, 그 신호는 band-limited 즉 필터를 사용하여 원하는 주파수 이상의 소리가 들어오지 않도록 차단을 해주어야 합니다. 우리가 마이크를 사용하여 소리를 녹음하게 될 때, 마이크를 통하여 전달되는 소리가 디지털로 샘플링되기 전에 아날로그 필터를 (Low-pass) 거쳐야 한다는 뜻 입니다.

자 그러면 이렇게 생각해 볼 수 있습니다.

“20Hz 부터 20kHz 까지만 샘플링 할 예정이니 20kHz 에 로우 패스 필터를 걸어주면 되겠네!” 끝!…?

아쉽게도 아날로그 필터는 이렇게 간단하지 않습니다.

Ozone 의 EQ 의 스펙트럼을 빌려서 잠시 무엇이 문제인지 알아보도록 하겠습니다. 아날로그 필터의 문제를 쉽게 지적하기 위한 그림을 위해서 사용하고 있다고 생각해 주세요.

위의 스크린샷은 여러분이 보기 쉽게 하기 위해서 20kHz 가 아닌 1kHz 를 예제로 들었습니다. 주파수와 필터의 관계를 위한 예제 입니다.위 그림에서 볼 수 있듯이 만약에 제가 12dB/Octave 아날로그 필터를 우리가 원하는 1kHz 에 만들게 되면 필터가 거의 400Hz 부분부터 시작을 해야 합니다. 그 말은 고주파가 모두 날라가 버린다는 뜻이죠.

그럼 이번에는 또 12dB/Octave 필터를 사용하되, 우리가 원하는 1kHz 까지 아무런 손실이 없도록 필터를 위로 올려보았습니다. 거의 2.6kHz 까지 필터를 올렸는데요, 해결이 된 것일까요? 아닙니다. 이제는 1kHz 위의 주파수를 차단하지 않았기 때문에 지난 샘플링 이야기 1편에서 이야기 했던 에일리어싱이 일어나게 됩니다. 즉 우리가 녹음하고자 하는 신호와 상관없는 소리들이 발생하게 됩니다.

자 그러면 이렇게 해 보겠습니다. 12dB/Octave 필터를 1kHz 설치하면 너무 고 주파수를 깍아먹으니, 차라리 높은 레벨의 필터 즉, 48dB/Octave 처럼 큰 Slope 의 필터를 설치하는 것 입니다. 이제는 아주 높은 고주파수만 조금 깍아먹을 뿐 훨씬 개선이 된 것처럼 보입니다. 하지만, 오존의 EQ 가 보여주는 Phase Delay, Phase Response, Group Delay 그래프를 보시면 12dB/Octave 에서 볼 수 없었던 왜곡이 일어나고 있는걸 보실 수 있습니다. 그렇습니다. 아날로그 필터를 경사가 높아질 수록 Phase Delay, Phase Response/Distortion, Group delay 의 왜곡이 늘어납니다. 그리고 이 문제는 Slope 을 약하게 했을 때처럼 400~500Hz 부터 시작되는 걸 보실 수 있습니다. 즉 어느 필터를 사용하던 문제는 생기고 그 문제는 각기 다르다는 뜻이죠. (고주파 손실 vs Phase distortion)

자 그러면 이제는 1kHz 가 아닌 조금 더 위에서 시작해 보겠습니다. 그러면 최종적으로 필터가 끝나는 부분이 1.2kHz 정도가 되서 고주파를 거의 깍아먹지 않고 있으며 필터가 가지고 있는 모든 문제들을 조금 더 고주파 영역으로 보내버렸습니다. 이것이 초창기의 디지털 기술의 필터 44.1kHz, 16 bit 이 채용했던 기술과 비슷한 필터 입니다. 이 이유로 인하여 우리의 가청 주파수가 20Hz – 20kHz 인데 Sampling Rate 이 40kHz 가 아닌 44.1kHz 인 이유 입니다. 필터를 더 높게 만들어야 했기 때문이죠. 최종적으로 필터가 끝나는 부분이 가청 주파수 의 위인 22kHz 정도 였습니다. 하지만 아직도 문제는 존재합니다. 고주파의 손실, 아날로그 필터로 인한 Phase 문제, 그리고 고주파를 완벽하게 차단하지 못해서 어쩔 수 없이 아직도 존재하는 에일리어싱 문제까지.

자.. 그러면 아예 Slope 이 엄청나게 높은 아날로그 필터를 만든다면 어떨까요? 고주파도 살리고 에일리어싱도 없애버리기 위해 말이죠.

보시는 것 처럼 그 결과물은 처참해 질 수 밖에 없습니다..

그렇다면 해결법은 무엇일까요?

아하, Phase 문제가 없는 Digital Linear Phase 필터를 사용하면 됩니다! 그러나.. 우리는 현재 디지털 신호가 아닌 아날로그 신호가 디지털로 바뀌는 문제를 이야기하고 있습니다. 즉 아날로그 신호에 디지털 필터를 걸 수는 없습니다. 그런데.. 그 둘을 협력하게 하는 방법은 어떨까요?

컨버터의 입력단에 아날로그 필터를 걸어야 하는 것은 이제 필수라는 사실을 알고 계실 겁니다. 그러면 애초에 아날로그 필터를 우리가 원하는 Sampling Rate 에 걸지말고, 아예 아주 높게 걸어버리는 것 입니다. 위의 필터는 가상 가청 주파수로 우리가 잡은 1kHz 의 4배 입니다. 4kHz 에 12dB/Octave 필터를 걸게 된다면 우리가 원하는 신호 즉 1kHz 까지의 신호는 완벽하게 보존할 수 있습니다.

8배 위로 올려서 8kHz 에 필터를 적용하였습니다. 이제는 우리가 원하는 1kHz 는 전혀 아무론 손실도 없다고 가정할 수 있습니다. 아니 혹시 모를 Phase distortion 에 대비하여 8kHz 에 6dB/Octave 처럼 더 왜곡이 없는 필터를 걸어 줄 수도 있죠. 이렇게 우리가 원하는 최종 Sampling Rate 보다 4배 혹은 8배로 높은 주파수에 아날로그 필터를 걸어서 오버 샘플링 (Over Sampling) 하는 것이 현재 대부분의 A/D 컨버터의 기술 입니다.

(출처: http://www.dspguide.com/filtexam.htm)

위의 두 그래프에서 보실 수 있는 것처럼 아날로그 필터의 디자인은 Phase 문제 뿐만 아니라 급격해지는 필터에서 생기는 Passband Ripple 이라는 왜곡이 생길 수도 있습니다. 그렇다고 Slope 을 낮게 잡는다면 완벽한 주파수 차단이 어려워져서 에일리어싱 문제가 생기죠.

자 그렇게 오버 샘플링을 하여 아날로그 신호를 디지털로 바꾸어 준 뒤, 우리가 원하는 최종 Sampling Rate 로 디지털 필터를 걸어주게 된다면 우리가 원하는 신호를 깨끗하게 받을 수 있는 것 입니다.

프로세스를 정리하여 보겠습니다.

아날로그 신호 -> 아날로그 안티 에일리어싱 필터 -> 오버샘플링 -> 디지털 안티 에일리어싱 필터 -> 최종 sampling rate -> 디지털 신호

디지털 안티 에일리어싱 필터가 무조건 Linear Phase EQ 는 아닙니다. Linear Phase 이큐를 사용하지 않는다고 하더라도 디지털 이큐는 설계에 있어서 아날로그 필터보다 훨씬 다양하고 좋게 설계할 수 있으며 값이 쌉니다. 아날로그 안티 에일리어싱 필터를 하나만 만들어서 오버샘플링을 하는 것은 제조사의 입장에서도 돈이 드는 필터의 제작을 줄일 수 있기 때문에 훨씬 이득이죠.

마지막으로 한가지 짚고 넘어가야 하는 부분은 “Linear Phase EQ 는 완벽한가?” 입니다. “과연 오존 그래프에서 보는 것처럼 직각 형태의 Low pass 필터를 만들었을때 전혀 아무런 왜곡이 없는가?” 라는 질문을 해볼 수 있습니다. 정답은 예 그리고 아니오 입니다. 지금 우리의 컨버터 기술은 굉장히 발전했습니다. 우리의 스마트폰 안에 들어있는 컨버터의 기술이 1980년대 당시 일반인들은 구경도 하지 못할 최고가의 컨버터보다 훨씬 좋습니다. 기술력은 있지만 그것을 어떻게 사용하는가는 컨버터 제조사의 몫 입니다. 아날로그 필터와 디지털 필터의 조합또한 마찬가지 입니다. 어떤 아날로그 필터를 사용하는가 또한 마찬가지 입니다.

결국 이론적으로는 44.1kHz 에서도 충분히 가청 주파수 이내의 소리를 왜곡 없이 담을 수 있습니다.

하지만 Digital Anti Aliasing Filter 가 가지고 올 수 있는 왜곡이  존재할 수 있는 가능성은 열려 있습니다. 이러한 이유로 48kHz, 88.2kHz, 96kHz, 176.4kHz, 192kHz 등 다양한 Sampling Rate 을 선택하여 사용할 수 있습니다. 이론적으로 높은 Sampling Rate 을 사용한다면  디지털 필터까지도 가청 주파수 위로 멀리 보내기 때문에 더욱더 왜곡이 없는 깨끗한 소리를 담을 수 있습니다.

그렇다고 높은 Sampling Rate 이 무조건 좋은 것은 아닙니다. 192kHz 의 경우 우리가 앞서 이야기한 아날로그 필터의 왜곡이 존재하는 곳 입니다. 즉 대부분의 오디오 인터페이스의 아날로그 인풋에 설계된 아날로그 안티 에일리어싱 필터는 192kHz 처럼 초고역대 에서는 필터의 성향이 굉장히 불안정할 수 있습니다. 이것은 곧 Intermodulation Distortion 을 가져올 수 있으며 그 디스토션은 우리의 가청 주파수 안으로 들어올 수 있습니다. 또한 Clocking 속도가 너무 빨라지게 되면서 생길수 있는 오류의 (Jitter) 가능성이 더욱 더 커집니다. 또한 최종적으로 우리가 뽑아내야 하는 파일이 아직 44.1kHz 16bit 인 현재, 192kHz 로 녹음을 한다고 하더라도 최종적으로 DAW 안의 안티 에일리어싱 필터를 사용하여 컨버팅을 해야 합니다. 이때 추가적으로 왜곡이 올 수 있습니다. 애초에 44.1kHz 로 녹음을 한다면 추가적으로 믹스의 마지막 단계에서 안티 에일리어싱 필터를 사용하지 않아도 되고, 추가적 왜곡은 없게 되겠죠.

자 그러면 도대체 어떤 Sampling Rate 을 사용해야 할까요?

이것은 유저의 몫 입니다.

아무도 정답을 드릴 수는 없습니다. 왜냐면 깊게 파고 들어가면 갈 수록 어떤 Sampling Rate 이던 문제가 존재하기 때문이죠.

하지만 우리는 지금 이론을 이야기하고 있습니다. 지금까지 단 한번도 44.1kHz Sampling Rate 과 48, 88.2, 96, 192kHz 의 소리의 차이에 대한 un-biased 테스트가 입증이 된 적은 없습니다.

개인적으로는 이렇게 생각하고 있습니다.

“그게 그렇게 중요한가요?”

좋은 곡을 쓰는 것, 노래를 잘하는 것, 기타를 잘 치는 것, 마이크를 올바른 위치에 놓는 것, 마이크의 종류, 더 좋은 편곡, 더 좋은 믹싱 테크닉이 가져오는 변화가 아무도 알아채지 못하는 아주 미미한 Sampling Rate 의 차이보다 더 중요하지 않을까요?

스튜디오에서

“아 지금 소리가 왜 이렇게 이상하지..? 아, 지금 기타리스트 튜닝이 나간 것 같다 튜닝 다시하고 합시다”  라는 이야기는 들을 수 있지만

“아 지금 소리가 왜 이렇게 이상하지..? Sampling Rate 지금 몇이야?” 라는 이야기는 절대로 들을 수 없으니까요.

 

---

다음 글에 이어집니다

샘플링 이야기 (3) – 글쓴이의 샘플링 레이트 설정은?