Автокореля́ція (), іноді відома як послідо́вна кореля́ція (), у випадку дискретного часу — це кореляція сигналу із затриманою копією самого себе як функція від затримки. Неформально — це схожість між спостереженнями як функція від відставання в часі () між ними. Аналіз автокореляції — це математичний інструмент для пошуку повторюваних закономірностей, таких як наявність періодичного сигналу, заекранованого , або визначення в сигналі, на яку натякають його гармонічні частоти. Його часто використовують в обробці сигналів для аналізу функцій або рядів значень, таких як сигнали часової області.
Різні галузі досліджень визначають автокореляцію по-різному, й не всі ці визначення є рівнозначними. У деяких галузях цей термін використовують взаємозамінно з автоковаріацією.
Особливими видами процесів із автокореляцією є процеси з , , авторегресійні процеси та .
Автокореляція стохастичних процесів
У статистиці автокореляція дійсного або комплексного випадкового процесу — це кореляція Пірсона між значеннями цього процесу в різні моменти часу як функція від двох моментів часу, або від відставання в часі. Нехай — випадковий процес, а — будь-яка точка в часі ( може бути цілим числом для дискретночасового, або дійсним числом для неперервночасового процесу). Тоді — це значення (або ), отримане в результаті заданого процесу в момент часу . Припустімо, що цей процес у момент часу має середнє значення та дисперсію , для будь-якого . Тоді визначенням автокореляці́йної фу́нкції () між моментами часу та є Kun Il Park, Fundamentals of Probability and Stochastic Processes with Applications to Communications, Springer, 2018,
де — оператор математичного сподівання, а риска подає комплексне спряження. Зауважте, що це математичне сподівання може не бути .
Віднімання середнього значення перед множенням дає автоковаріаці́йну фу́нкцію () між моментами часу та :
Зауважте, що цей вираз не є однозначно визначеним для всіх часових рядів та процесів, оскільки середнього значення може не існувати, або дисперсія може бути нульовою (для сталого процесу) чи нескінченною (для процесів із розподілом без коректних моментів, таких як певні типи степеневого розподілу).
Визначення для стаціонарного в широкому сенсі стохастичного процесу
Якщо — стаціонарний у широкому сенсі процес, то середнє значення та дисперсія незалежні від часу, й відтак автоковаріаційна функція залежить лише від відставання між та : автоковаріація залежить лише від часової відстані між парою значень, але не від їхнього положення в часі. Це відтак означає, що автоковаріацію та автокореляцію можливо виразити як функцію від відставання в часі, й що вона буде парною функцією відставання в часі . Це дає звичніші вигляди автокореляційної функції
та автоковаріаційної функції:
Унормовування
Поширеною практикою в деяких дисциплінах (наприклад, у статистиці та аналізі часових рядів) є унормовувати автоковаріаційну функцію, щоб отримувати залежний від часу коефіцієнт кореляції Пірсона. Проте в деяких інших дисциплінах (наприклад, в інженерії) унормовування зазвичай пропускають, а терміни «автокореляція» та «автоковаріація» використовують як взаємозамінні.
Визначення коефіцієнта автокореляції стохастичного процесу:
Якщо функція однозначно визначена, її значення мусять лежати в діапазоні , причому 1 вказує на ідеальну кореляцію, а −1 — на ідеальну антикореляцію.
Для слабко стаціонарного, стаціонарного в широкому сенсі (СШС) процесу, визначення таке:
де
Унормовування важливе як тому, що інтерпретація автокореляції як кореляції забезпечує безмасштабну міру сили статистичної залежності, так і тому, що воно впливає на статистичні властивості оцінюваних автокореляцій.
Властивості
Властивість симетрії
Той факт, що автокореляційна функція парна, може бути сформульовано як
відповідно, для СШС процесу:
Максимум в нулі
Для СШС процесу
Зверніть увагу, що завжди дійсна.
Нерівність Коші — Буняковського
Нерівність Коші — Буняковського, нерівність для стохастичних процесів:
Автокореляція білого шуму
Автокореляція неперервночасового сигналу білого шуму матиме сильний пік (представлений дельта-функцією Дірака) при , й дорівнюватиме для всіх інших .
Теорема Вінера — Хінчина
пов'язує автокореляційну функцію зі спектральною густиною потужності через перетворення Фур'є:
Для дійснозначних функцій симетрична автокореляційна функція має дійсне симетричне перетворення, тож можливо виразити в термінах лише дійсних косинусів:
Автокореляція випадкових векторів
(Потенційно залежна від часу) автокореляці́йна ма́триця (, також звана другим моментом) (потенційно залежного від часу) випадкового вектора — це матриця , яка містить як елементи автокореляції всіх пар елементів випадкового вектора . Автокореляційну матрицю використовують у різних алгоритмах цифрової обробки сигналів.
Для випадкового вектора , що містить випадкові елементи, математичне сподівання та дисперсія яких існують, автокореляційну матрицю визначають якPapoulis, Athanasius, Probability, Random variables and Stochastic processes, McGraw-Hill, 1991
де позначує транспонування, й має розміри .
У поелементному записі:
Якщо — , то автокореляційну матрицю натомість визначають як
Тут позначує ермітове транспонування.
Наприклад, якщо — випадковий вектор, то — матриця , чиїм -м елементом є .
Властивості автокореляційної матриці
Автокореляційна матриця — ермітова матриця для комплексних випадкових векторів, і симетрична матриця для дійсних випадкових векторів. Автоковаріаційна матриця додатно напіввизначена, тобто, для всіх для дійсного випадкового вектора, й відповідно для всіх у разі комплексного випадкового вектора. Усі власні значення автокореляційної матриці є дійсними та невід'ємними. Автоковаріаційна матриця пов'язана з автокореляціною матрицею наступним чином:Відповідно, для комплексних випадкових векторів:
Автокореляція детермінованих сигналів
В обробці сигналів наведене вище визначення часто використовують без унормовування, тобто без віднімання середнього значення й ділення на дисперсію. Коли автокореляційну функцію унормовують за середнім значенням та дисперсією, її іноді називають коефіціє́нтом автокореля́ції () або автоковаріаційною функцією.
Автокореляція неперервночасового сигналу
За заданого сигналу неперервну автокореляцію найчастіше визначають як неперервний взаємнокореляційний інтеграл із самим собою, з відставанням .
де являє собою комплексне спряження . Зверніть увагу, що параметр в інтегралі є фіктивною змінною, необхідною лише для обчислення інтеграла. Вона не несе конкретного змісту.
Автокореляція дискретночасового сигналу
Дискретна автокореляція за відставання для дискретночасового сигналу часу :
Наведені вище визначення працюють для квадратно інтегровних або квадратно сумовних сигналів, тобто, зі скінченною енергією. Сигнали, що «тривають вічно», натомість розглядають як випадкові процеси, й у цьому випадку необхідні відмінні визначення, на основі математичних сподівань. Для стаціонарних у широкому сенсі випадкових процесів автокореляції визначають як
Для процесів, що не є стаціонарними, вони також будуть функціями від та .
Для процесів, що є також ергодичними, математичне сподівання можливо замінити границею усереднення за часом. Автокореляцію ергодичного процесу іноді визначають як, або прирівнюють до
Ці визначення мають ту перевагу, що вони дають осмислені однозначно визначені однопараметрові результати для періодичних функцій, навіть якщо ці функції не є результатом стаціонарних ергодичних процесів.
Крім того, сигнали, які тривають вічно, можливо розглядати за допомогою аналізу віконних автокореляційних функцій (), застосовуючи скінченні інтеграли за часом. (Про пов'язаний процес див. віконне перетворення Фур'є.)
Визначення для періодичних сигналів
Якщо — неперервна періодична функція з періодом , то інтегрування від до замінюють інтегруванням над будь-яким інтервалом довжини :що рівнозначне
Властивості
Далі ми опишемо властивості лише одновимірних автокореляцій, оскільки більшість властивостей легко переносяться з одновимірного випадку на багатовимірні. Ці властивості справедливі для стаціонарних у широкому сенсі процесів.
Основною властивістю автокореляції є симетрія, , що легко довести з визначення. У неперервному випадку автокореляція є парною функцією , коли є дійсною функцією, і автокореляція є , коли є комплексною функцією. Неперервна автокореляційна функція досягає свого піку в початку координат, де вона набуває дійсного значення, тобто, для будь-якої затримки , . Це — наслідок нерівності перестановок. Той самий результат має місце і в дискретному випадку. Автокореляція періодичної функції сама по собі є періодичною, з тим самим періодом. Автокореляція суми двох абсолютно некорельованих функцій (взаємна кореляція дорівнює нулеві для всіх ) є сумою автокореляцій кожної з функцій окремо. Оскільки автокореляція є особливим видом взаємної кореляції, вона зберігає всі властивості взаємної кореляції. За допомогою символу для подання згортки, й функції , що маніпулює функцією , й визначена як , визначення для може бути записано так:
Багатовимірна автокореляція
Багатовимірну автокореляцію визначають аналогічно. Наприклад, у трьох вимірах автокореляцією квадратно-сумовного дискретного сигналу була би
Коли перед обчисленням автокореляційної функції від сигналів віднімають середні значення, отриману функцію зазвичай називають автоковаріаційною функцією.
Ефективне обчислення
Для даних, виражених як дискретна послідовність, часто необхідно обчислювати автокореляцію з високою обчислювальною ефективністю. Метод грубої сили, що ґрунтується на визначенні обробки сигналу , можливо використовувати, коли розмір сигналу невеликий. Наприклад, для обчислення автокореляції послідовності дійсного сигналу (тобто, , й для всіх інших значень ) вручну ми спочатку з'ясовуємо, що щойно наведене визначення таке саме, як і «звичайне» множення, але зі зміщеннями праворуч, де кожне вертикальне додавання дає автокореляцію для певних значень відставання:
Таким чином, потрібна послідовність автокореляції — , де а автокореляція для інших значень відставання дорівнює нулеві. В цьому обчисленні ми не виконуємо операцію перенесення під час додавання, як це зазвичай відбувається при звичайному множенні. Зауважте, що ми можемо зменшити кількість необхідних операцій вдвічі, використовуючи притаманну автокореляції симетрію. Якщо сигнал виявляється періодичним, тобто то ми отримуємо циклічну автокореляцію (, подібну до ), де лівий та правий хвости попередньої автокореляційної послідовності перекриватимуться й даватимуть , що має той самий період, що й послідовність сигналу Цю процедуру можливо розглядати як застосування властивості згортки Z-перетворення дискретного сигналу.
В той час як алгоритм грубої сили має порядок , існує декілька ефективних алгоритмів, які можуть обчислювати автокореляцію в межах порядку . Наприклад, дозволяє обчислювати автокореляцію з сирих даних за допомогою двох швидких перетворень Фур'є ():
де IFFT позначує обернене швидке перетворення Фур'є (). Зірочка позначує комплексне спряження.
Як альтернатива, кореляцію для декількох можливо виконувати, використовуючи обчислення грубою сили для низьких значень , а потім поступово об'єднуючи дані з логарифмічною густиною для обчислення для вищих значень, що дає ту ж ефективність , але з нижчими вимогами до пам'яті.
Оцінювання
Для дискретного процесу з відомими середнім значенням та дисперсією, для якого ми спостерігаємо спостережень , оцінку коефіцієнта автокореляції можна отримати через
для будь-якого додатного цілого . Коли істинне середнє значення та дисперсія відомі, ця оцінка є незмі́щеною (). Якщо істинне середнє значення та дисперсія процесу невідомі, є декілька можливостей:
Якщо та замінити стандартними формулами для вибіркового середнього та вибіркової дисперсії, то це змі́щена оці́нка ().