10주차. 다이나믹스 프로세싱

오디오에서 “컴프레션(compression)”이라는 말은 두 가지 뜻으로 쓰입니다. 서로 헷갈리기 쉬우므로 먼저 구분해 두겠습니다. 첫 번째는 데이터 압축(data compression)입니다. MP3처럼 오디오 파일이 저장 공간을 덜 차지하도록 만드는 방식입니다. 파일 크기를 줄이는 대신 음질을 일부 희생할 수 있습니다.

두 번째는 이번 주차에서 다룰 다이내믹 레인지 컴프레션(dynamic range compression)입니다. 이것은 파일 크기를 줄이는 기술이 아니라, 소리 안에서 큰 부분과 작은 부분의 차이를 줄이는 오디오 처리입니다. 다이내믹 레인지 컴프레션을 이해하려면 컴프레서(compressor)를 떠올리면 됩니다. 컴프레서는 신호가 커질 때 자동으로 볼륨을 낮추고, 신호가 다시 작아지면 볼륨을 원래 상태로 돌려놓습니다. 사람이 계속 페이더를 보면서 큰 부분만 내려 주는 일을 기계가 대신한다고 생각하면 쉽습니다.

이때 줄이려는 대상이 바로 다이내믹 레인지(dynamic range)입니다. 다이내믹 레인지는 소리의 가장 조용한 순간과 가장 큰 순간 사이의 차이를 뜻합니다. 조용한 부분과 큰 부분의 차이가 크면 다이내믹 레인지가 넓고, 전체 음량이 비슷한 범위 안에 머물면 다이내믹 레인지가 좁다고 말합니다.

컴프레서는 다이내믹 프로세서(dynamic processor) 계열에서 가장 대표적인 도구입니다. 다이내믹 프로세서는 신호의 레벨을 감시하고, 사용자가 설정한 기준에 따라 볼륨을 자동으로 조절하는 도구들을 말합니다. 대표적인 다이내믹 프로세서는 네 가지입니다.

다이내믹 프로세서의 대표적인 네 가지 유형은 컴프레서(Compressor), 리미터(Limiter), 익스팬더(Expander), 게이트 또는 노이즈 게이트(Gate/Noise Gate)입니다. 네 도구는 모두 입력 신호의 레벨을 모니터링하고, 사용자가 설정한 파라미터에 따라 볼륨을 자동으로 조절합니다. 컴프레서와 리미터는 큰 소리를 줄이므로 신호의 다이내믹 레인지를 감소시킵니다. 반대로 익스팬더와 게이트는 작은 소리를 더 작게 만들거나 꺼 버리므로 신호의 다이내믹 레인지를 증가시킵니다. 또한 컴프레서와 익스팬더는 일반적으로 비교적 미묘하게 신호에 영향을 주는 편이고, 리미터와 게이트는 더 강하고 극적인 효과를 만드는 편입니다. 이 네 도구에는 공통으로 Threshold(임계값)라는 파라미터가 있습니다. Threshold, 즉 임계값은 특정한 볼륨 기준선입니다. 네 프로세서의 차이는 이 Threshold를 기준으로 어느 쪽 신호에 어떻게 반응하느냐에서 생깁니다. 간단히 정리하면 다음과 같습니다.

• 리미터는 신호가 Threshold보다 커지려고 할 때, Threshold 이하에 머물도록 필요한 만큼 강하게 줄입니다.
• 컴프레서는 신호가 Threshold보다 커질 때, 그 초과분을 어느 정도 줄여서 조금만 더 커지게 합니다.
• 게이트는 신호가 Threshold 아래로 떨어질 때, 그 신호를 거의 또는 완전히 음소거합니다.
• 익스팬더는 신호가 Threshold 아래로 떨어질 때, 그 신호를 더 작게 만듭니다.

이것이 다이내믹 프로세서 계열의 큰 그림입니다. 이제 이 네 도구를 더 정확히 이해하기 위해, 이들이 공통으로 사용하는 두 파라미터인 Threshold와 Ratio를 살펴보겠습니다.

각 다이내믹 프로세서는 Threshold(임계값)와 Ratio(비율)라는 두 파라미터를 중심으로 설명할 수 있습니다. Threshold, 즉 임계값은 프로세서가 계속 지켜보는 볼륨 기준선입니다. 프로세서는 입력 신호가 이 기준보다 커지는지, 또는 이 기준보다 작아지는지를 감시합니다. Ratio는 2:1, 3:1, 10:1, 1:2처럼 표현되는 수학적 비율입니다. 먼저 컴프레서가 Threshold와 Ratio를 어떻게 사용하는지 살펴본 뒤, 같은 기준으로 다른 다이내믹 프로세서와 비교해 보겠습니다.

컴프레서는 신호가 Threshold 위로 올라갈 때 작동합니다. Threshold 아래에 있는 동안에는 신호를 그대로 둡니다. 하지만 입력 신호가 Threshold를 넘는 순간, 컴프레서는 Ratio에 따라 그 신호를 줄이기 시작합니다. 예를 들어 Threshold가 중간 정도의 레벨에 있고, Ratio가 2:1이라고 해 보겠습니다. 입력 신호가 Threshold보다 2 dB 더 커지면, 컴프레서는 그 초과분을 그대로 통과시키지 않습니다.

2:1 Ratio에서는 입력이 Threshold를 2 dB 넘으려 할 때 출력에서는 1 dB만 넘도록 허용합니다. 3:1 Ratio라면 입력이 Threshold를 3 dB 넘으려 할 때 출력에서는 1 dB만 넘습니다. 10:1 Ratio라면 입력이 10 dB 넘으려 할 때 출력에서는 1 dB만 넘습니다. Ratio가 높아질수록 Threshold 위의 신호는 더 강하게 눌립니다.

입력 신호가 Threshold 위에 있는 동안 컴프레서는 Ratio에 따라 계속 볼륨을 줄입니다. 입력 신호가 다시 Threshold 아래로 내려가면 컴프레서는 중립 상태로 돌아가고, 신호를 더 이상 줄이지 않습니다.

다이내믹 프로세싱에서 아직 다루지 않은 중요한 요소는 시간입니다. 다이내믹 프로세서는 완전히 즉각적으로 작동하지 않습니다. 만약 레벨 변화에 즉시 반응한다면 자연스럽게 볼륨을 조절하는 대신 파형 모양 자체를 왜곡할 수 있습니다. 그래서 다이내믹 프로세서에는 반응 시간을 조절하는 파라미터가 필요합니다. 이것이 Attack과 Release입니다.

컴프레서를 기준으로 보면, Attack Time은 신호가 Threshold를 넘어선 뒤 컴프레서가 얼마나 빨리 볼륨을 줄이기 시작하는지를 정합니다. Release Time은 입력 신호가 Threshold 아래로 내려간 뒤 컴프레서가 얼마나 빨리 압축을 풀고 원래 볼륨으로 돌아오는지를 정합니다. Attack Time은 대개 매우 짧습니다. 소리의 시작 부분은 갑작스럽게 나타나는 경우가 많기 때문입니다. 그래서 Attack은 밀리초(ms), 때로는 마이크로초(µs) 단위로 설정됩니다.

Release Time은 보통 더 깁니다. 많은 소리는 시작보다 사라지는 과정이 더 길기 때문에, Release는 밀리초 또는 초 단위로 설정되는 경우가 많습니다. Attack이 빠르면 피크를 빠르게 잡을 수 있습니다. 하지만 너무 빠르면 드럼의 타격음이나 피아노의 어택처럼 소리의 앞부분에 있는 트랜지언트가 줄어들어 둥글고 힘이 빠진 느낌이 날 수 있습니다. Attack이 느리면 트랜지언트가 먼저 지나간 뒤 압축이 걸리므로, 드럼이나 퍼커션의 펀치감이 살아날 수 있습니다.

Release가 빠르면 압축이 빨리 풀리기 때문에 리듬에 맞춰 활발하게 움직일 수 있습니다. 하지만 너무 빠르면 볼륨이 출렁이는 펌핑이나 왜곡처럼 들릴 수 있습니다. Release가 느리면 더 부드럽고 안정적이지만, 다음 소리까지 계속 눌린 상태로 들어오면 답답하거나 힘이 빠진 느낌이 날 수 있습니다.

리미터에서도 Attack과 Release는 컴프레서와 거의 같은 방식으로 작동합니다. 리미터는 본질적으로 매우 높은 Ratio의 컴프레서이기 때문입니다. 익스팬더나 게이트에서도 Attack과 Release는 중요합니다. 게이트에서는 신호가 Threshold 위로 올라왔을 때 얼마나 빨리 열릴지, Threshold 아래로 내려갔을 때 얼마나 빨리 닫힐지가 소리의 자연스러움을 결정합니다. 너무 빨리 닫히면 말끝이나 드럼의 잔향이 잘려 부자연스럽고, 너무 느리면 제거하려던 노이즈가 오래 남을 수 있습니다. 정리하면, 어떤 다이내믹 프로세서를 쓰든 Threshold와 Ratio는 “언제, 얼마나”를 정하고, Attack과 Release는 “얼마나 빨리”를 정합니다.

Knee는 Threshold 주변에서 압축이 시작되는 방식을 정하는 파라미터입니다. Hard Knee는 신호가 Threshold를 넘는 순간 압축이 뚜렷하게 시작되는 방식입니다. 기준을 정확하게 제어하기 쉽고, 의도적으로 압축이 들리게 만들 때 유용합니다. Soft Knee는 Threshold 근처에서 압축이 점진적으로 시작되는 방식입니다. Threshold가 하나의 딱딱한 선처럼 작동하기보다, 그 주변에서 서서히 압축이 걸립니다. 그래서 보컬이나 버스 컴프레션처럼 자연스럽고 미묘한 압축이 필요할 때 자주 사용됩니다. Knee라는 이름은 Transfer Function 그래프의 꺾이는 모양에서 나왔습니다. Hard Knee는 날카롭게 꺾이고, Soft Knee는 부드럽게 휘어집니다.

Make-up Gain은 줄어든 음량을 보상하는 파라미터입니다. 컴프레서는 큰 소리를 줄이는 도구이므로, 처리 후 전체 음량이 작아지는 경우가 많습니다. Make-up Gain은 압축으로 줄어든 레벨을 다시 보상해 출력 음량을 올려 줍니다. 예를 들어 보컬에서 평균적으로 4 dB 정도의 Gain Reduction이 일어난다면, Make-up Gain을 약 4 dB 올리는 것에서 시작할 수 있습니다. 하지만 Make-up Gain을 사용할 때는 주의해야 합니다. 사람은 보통 더 큰 소리를 더 좋게 느끼기 쉽습니다. 따라서 컴프레서를 켠 상태와 끈 상태의 볼륨을 비슷하게 맞춘 뒤 비교해야 합니다. 그래야 단순히 커져서 좋아진 것인지, 실제로 다이내믹이 더 잘 정리된 것인지 판단할 수 있습니다.

일부 플러그인에서는 Make-up Gain 대신 Output Gain이라는 이름을 쓰기도 합니다. 이름은 달라도 핵심은 같습니다. 압축으로 줄어든 음량을 보상하되, 판단이 왜곡되지 않도록 전후 볼륨을 맞춰 비교하는 것입니다.

Lookahead는 프로세서가 실제 출력보다 아주 짧게 먼저 신호를 확인하는 기능입니다. 입력 신호를 몇 ms 정도 지연시켜 두고, detector는 그보다 먼저 피크를 감지합니다. 그래서 리미터나 컴프레서가 갑작스러운 트랜지언트에 늦지 않게 반응할 수 있습니다. Lookahead가 길면 피크 제어는 쉬워지지만, 지연이 생기고 소리의 앞부분이 조금 덜 자연스럽게 느껴질 수 있습니다.

Hold는 조건이 바뀐 뒤 프로세서가 바로 다음 동작으로 넘어가지 않고 현재 상태를 잠깐 유지하는 시간입니다. 컴프레서나 리미터에서는 신호가 Threshold 아래로 내려가도 Gain Reduction을 즉시 풀지 않고 잠시 유지해, 짧은 피크 사이에서 압축이 급하게 풀렸다 걸리는 현상을 줄일 수 있습니다. 게이트와 익스팬더에서는 신호가 Threshold 아래로 내려간 뒤 바로 닫히지 않고 열린 상태를 잠깐 유지합니다. Hold가 너무 짧으면 말끝, 드럼 잔향, 기타 sustain이 끊겨 부자연스럽고, 너무 길면 압축이나 게이트 동작이 늦게 풀려 답답하거나 노이즈가 오래 남을 수 있습니다.

Range는 프로세서가 최대로 얼마나 레벨을 바꿀 수 있는지를 정하는 값입니다. 컴프레서나 리미터에서는 최대 Gain Reduction을 제한하는 방식으로 쓰일 수 있습니다. 예를 들어 Range를 6 dB로 제한하면 조건상 더 많이 눌러야 하더라도 최대 6 dB까지만 줄어듭니다. 게이트나 익스팬더에서는 Threshold 아래 신호를 최대 얼마나 낮출지 정합니다. 예를 들어 Range가 -12 dB이면 Threshold 아래 신호를 완전히 끄지 않고 최대 12 dB까지만 낮춥니다. Range를 크게 잡으면 제어 효과는 강하지만 소리가 갑자기 변할 수 있고, 작게 잡으면 더 자연스럽지만 처리 효과가 일부 남을 수 있습니다.

정리하면 Lookahead는 “미리 보고 반응하기”, Hold는 “상태를 잠깐 유지하기”, Range는 “최대로 얼마나 바꿀지 정하기”입니다. 이 세 파라미터는 컴프레서, 리미터, 게이트, 익스팬더의 반응을 더 안정적이고 자연스럽게 만드는 데 중요합니다.

대부분의 다이내믹 프로세서는 Sidechain 기능을 제공합니다. Sidechain은 프로세서가 감지하는 신호와 실제로 볼륨이 조절되는 신호를 분리하는 방식입니다. 기본적인 컴프레서는 자기 자신에게 들어온 신호를 감지하고, 자기 자신을 줄입니다. 하지만 Sidechain을 사용하면 다른 신호를 감지해서 현재 트랙의 볼륨을 줄일 수 있습니다. 예를 들어 패드 사운드에 컴프레서를 걸고, Sidechain 입력으로 킥 드럼을 넣으면 킥이 칠 때마다 패드가 순간적으로 줄어듭니다. 이것이 펌핑 효과입니다. 방송이나 영상에서는 나레이션을 Sidechain 입력으로 사용해, 사람이 말할 때 배경 음악이 자동으로 작아지게 만들 수 있습니다. 이것을 Ducking이라고 합니다.

De-Esser는 Sidechain 개념을 이해하면 자연스럽게 설명할 수 있는 특수한 다이내믹 프로세서입니다. De-Esser는 보컬의 치찰음, 즉 “ㅅ”, “ㅆ”, “ㅈ”, “ㅊ” 또는 영어의 S, Z, SH 같은 소리에서 튀는 고역 성분을 줄이는 도구입니다. 일반 컴프레서가 전체 신호의 레벨을 보고 반응한다면, De-Esser는 보통 4~10 kHz 근처의 치찰음 대역을 감지합니다. 그 대역이 Threshold를 넘을 때만 순간적으로 줄여 주기 때문에, 보컬 전체를 어둡게 만들지 않고 날카로운 치찰음만 다듬을 수 있습니다. De-Esser를 과하게 사용하면 발음이 무뎌지거나 어눌하게 들릴 수 있습니다. 목표는 치찰음을 없애는 것이 아니라, 귀에 거슬리는 순간만 자연스럽게 낮추는 것입니다.

다이내믹 프로세싱은 여러 상황에서 매우 유용한 도구입니다. 핵심은 플러그인을 거는 것이 아니라, 어떤 레벨을 기준으로 언제 반응하고, 얼마나 줄이며, 얼마나 빨리 움직일지 결정하는 것입니다.

믹싱에서 네 가지 다이내믹 프로세서는 서로 다른 목적을 가집니다. 컴프레서는 소리의 일관성을 만드는 데 주로 사용합니다. 보컬이나 악기의 큰 부분을 적당히 줄여 레벨을 평탄하게 만들고, Make-up Gain으로 평균 음량을 올리며, 드럼이나 베이스에 펀치감과 질감을 더할 수 있습니다. 리미터는 피크를 안전하게 제어하는 도구입니다. 신호가 정해 둔 한계를 넘지 못하게 막아 클리핑을 방지하고, 마스터링 단계에서는 깨지지 않는 범위 안에서 최종 음압을 확보하는 데 사용합니다. 익스팬더는 작은 소리를 더 작게 만들어 다이내믹을 넓히는 도구입니다. 배경 노이즈를 자연스럽게 줄이거나, 과하게 압축되어 답답해진 소리에 다시 움직임을 줄 때 유용합니다. 게이트는 Threshold 아래의 불필요한 소리를 거의 또는 완전히 차단합니다. 악기가 연주되지 않는 구간의 노이즈를 없애거나, 드럼 마이크 사이의 bleed를 줄이고, 소리의 꼬리를 짧게 잘라 더 타이트한 효과를 만들 때 사용합니다.

Threshold, Ratio, Gain Reduction, Attack, Release, Knee, Make-up Gain, Lookahead, Hold, Range, Sidechain을 함께 이해하면 컴프레서는 단순한 볼륨 조절기가 아니라 믹스의 움직임을 설계하는 도구가 됩니다.