Шум квантування виникає при перетворенні аналогового сигналу в цифровий. Тоді коли аналоговий сигнал — безперервний і в ідеалі може мати нескінченну точність, точність цифрового сигналу залежить від частоти квантування та бітової розрядності аналого-цифрового перетворювача.
Різниця між вихідним аналоговим сигналом та оцифрованим обумовлена «округленнями», які іменуються терміном похибки квантування .
Модель Шум квантування можна представити як адитивний дискретний сигнал , що враховує помилки квантування. Якщо — вхідний сигнал для квантування, а — його передаточна функція, то маємо наступну лінійну модель шуму квантування:
Лінійна модель використається для аналітичного дослідження властивостей шуму квантування.
Детерміновані оцінки Детерміновані оцінки дозволяють визначити абсолютні границі шуму квантування:
,
де — число розрядів квантування (сигналу , — крок квантування — при округленні — при усіканні.
Імовірнісні оцінки Імовірнісні оцінки засновані на представленні похибок квантування (сигналу ) як випадкового шумоподобного процесу. Допущення, що вводять щодо шуму квантування: Послідовність є стаціонарним випадковим процесом Послідовність не корелює з сигналом, що квантується Будь-які два відліки послідовності не корельовані, тобто шум квантування є процесом типу «білий шум». Розподіл імовірності похибки квантування є рівномірним у діапазоні похибок квантування.
У такому випадку математичне сподівання і дисперсія шуму квантування визначається в такий спосіб (при квантуванні використається додатковий код):
Шум квантування в аудіотехнологіях
В аудіо-технологіях шумом квантування називається різниця між відповідними значеннями вихідного й квантованого за рівнем аудіо сигналу. Вважається, що при роботі зі звуком у 24-бітній та 32-х бітній розрядності, яка застосовується в сучасних аудіоредакторах шум квантування незначний. Проте в 16-бітовій розрядності, яка використовується в стандартному audio CD форматі шум квантування є небажаним — цей шум корелюється з корисним сигналом і робить звучання «штучним», «пластмасовим».
Для боротьби із цим негативним явищем існують прийоми дизеринг і нойзейшпінг. Ди́зеринг () — це підмішування до корисного сигналу до зниження розрядності дуже слабкого специфічного шуму. Цей шум так само, як і сам шум квантування, дуже слабкий, але він забиває шум квантування і фонограма звучить а більш природно і «тепло». Нойзше́йпінг () являє собою особливий алгоритм округлення звукових відліків при зниженні розрядності. У такий спосіб досягається максимальне наближення до оригінального звучання. Після нойзшейпинга більша частина енергії шуму квантування зосереджена в області високих частот, до яких людське вухо майже нечутливе. Застосування дитерингу й нойзшейпінгу одночасно дає максимально позитивний результат. Ці функції доступні в сучасних аудіоредакторах, таких як наприклад Adobe Audition.
Посилання Quantization noise in Digital Computation, Signal Processing, and Control, Bernard Widrow and István Kollár, 2007. The Relationship of Dynamic Range to Data Word Size in Digital Audio Processing Round-Off Error Variance — derivation of noise power of q²/12 for round-off error Dynamic Evaluation of High-Speed, High Resolution D/A Converters Outlines HD, IMD and NPR measurements, also includes a derivation of quantization noise Signal to quantization noise in quantized sinusoidal "Проблемы оцифрованного звука. Шум квантования"