Modelado de ruido

Consideremos el sistema de retroalimentación:

${\displaystyle y[n]=x[n]+b\cdot e[n-1],}$

donde b es una constante, n es el número de ciclo, x [ n ] es el valor de la muestra de entrada, y [ n ] es el valor que se está cuantificando y e [ n ] es su error de cuantificación:

${\displaystyle \ e[n]=y_{\text{cuantizado}}[n]-y[n].}$

En este modelo, cuando se reduce la profundidad de bits de cualquier muestra, se mide el error de cuantización y, en el siguiente ciclo, se suma a la siguiente muestra antes de la cuantización. El efecto es que el error de cuantización se filtra con un filtro de paso bajo de 2 muestras (también conocido como filtro de media móvil simple ). Como resultado, en comparación con antes, el error de cuantización tiene menor potencia en frecuencias altas y mayor potencia en frecuencias bajas. La frecuencia de corte del filtro se puede ajustar modificando b , la proporción de error de la muestra anterior que se realimenta.

En términos más generales, cualquier filtro FIR o filtro IIR puede utilizarse para crear una curva de respuesta en frecuencia más compleja . Dichos filtros pueden diseñarse utilizando el método de mínimos cuadrados ponderados . ^{[ 1 ]} En el caso del audio digital, normalmente la función de ponderación utilizada es una dividida por el umbral absoluto de la curva de audición, es decir

${\displaystyle \ W(f)={\frac {1}{A(f)}}.}$

Agregar una cantidad apropiada de dither durante la cuantización evita errores determinables correlacionados con la señal. Si no se usa dither, entonces la conformación de ruido funciona efectivamente solo como conformación de distorsión, desplazando la energía de distorsión a diferentes bandas de frecuencia, pero sigue siendo distorsión. Si se agrega dither al proceso como

${\displaystyle \ y[n]=x[n]+b\cdot e[n-1]+\mathrm {dither} ,}$

Entonces, el error de cuantización se convierte realmente en ruido, y el proceso produce efectivamente una conformación del ruido.

Desde aproximadamente 1989, los moduladores delta-sigma de 1 bit se han utilizado en convertidores analógico-digitales . Esto implica muestrear el audio a una velocidad muy alta (2,8224 millones de muestras por segundo , por ejemplo), pero utilizando solo un bit. Debido a que solo se utiliza 1 bit, este convertidor tiene un rango dinámico  de solo 6,02 dB . Sin embargo, el nivel de ruido se extiende por todo el rango de frecuencias sin aliasing por debajo de la frecuencia de Nyquist de 1,4112 MHz. Se utiliza la conformación de ruido para reducir el ruido presente en el rango audible (de 20 Hz a 20 kHz) y aumentar el ruido por encima de este rango. Esto da como resultado un rango dinámico de banda ancha de solo 7,78 dB, pero no es consistente entre las bandas de frecuencia, y en las frecuencias más bajas (el rango audible) el rango dinámico es mucho mayor: más de 100 dB. La conformación de ruido está integrada de forma inherente en los moduladores delta-sigma.     

El convertidor de 1 bit es la base del formato DSD de Sony. Una crítica al convertidor de 1 bit (y, por lo tanto, al sistema DSD) es que, debido a que solo se utiliza 1 bit tanto en la señal como en el bucle de retroalimentación, no se puede aplicar suficiente tramado en el bucle de retroalimentación y, en ciertas condiciones, puede producirse distorsión (véase más información en Direct Stream Digital §  DSD vs. PCM ). ^{[ 4 ] [ 5 ]}

La mayoría de los convertidores analógico-digitales fabricados desde el año 2000 utilizan moduladores delta-sigma multibit o multinivel que generan una salida de más de 1 bit, lo que permite añadir el tramado adecuado en el bucle de retroalimentación. Para el muestreo PCM tradicional , la señal se diezma a 44,1  kHz u otras frecuencias de muestreo apropiadas.

Analog Devices utiliza lo que denomina "Noise Shaping Requantizer" ^{[ 6 ]} y Texas Instruments utiliza lo que denomina "SNRBoost" ^{[ 7 ] [ 8 ]} para reducir el nivel de ruido aproximadamente 30 dB en comparación con las frecuencias circundantes. Esto conlleva un funcionamiento discontinuo, pero produce una forma de bañera agradable en el nivel de ruido. Esto se puede combinar con otras técnicas para mejorar aún más la resolución del espectro.