Розподіл Бернуллі — розподіл ймовірностей дискретної випадкової величини названий на честь швейцарського математика Якоба БернулліJames Victor Uspensky: Introduction to Mathematical Probability, McGraw-Hill, New York 1937, page 45, яка набуває значення з імовірністю та значення з імовірністю тобто, вона є ймовірнісним розподілом будь-якого одиничного експерименту, який ставить . Менш формально, його можна розглядати як модель множини можливих результатів будь-якого одноразового експерименту, що ставить питання так–ні. Такі питання дають результати з значенням: один біт, який набуває значення успіх/так/істина/1 з ймовірністю p і значення невдача/ні/хибно/0 з ймовірністю q. Він може використовуватися для моделювання (можливо упередженої) підкидання монети, де 1 та 0 відповідно позначатимуть «орел» і «решка», а p — ймовірність випадіння орла (або, навпаки, де 1 позначатиме «решка», а p — ймовірність решки). Зокрема, несправедливі (упереджені) монети матимуть .
Розподіл Бернуллі є окремим випадком біноміального розподілу, коли проводиться одне випробування (тому для такого біноміального розподілу n=1). Це також окремий випадок двоточкового розподілу, для якого можливі результати не обов’язково повинні бути 0 і 1.
Визначення
Дискретна випадкова величина називається такою, що має розподіл Бернуллі, якщо її закон розподілу має вигляд: , де — параметр, що визначає розподіл, .
Позначається .
Функція розподілу має вигляд:
.
Це також можна записати у вигляді
для
або як
для
Розподіл Бернуллі є окремим випадком біноміального розподілу при .
Кривизна(Коефіцієнт ексцесу) прямує до нескінченності при значеннях близьких до 0 або 1, але для двоточкові розподіли, включно з розподілом Бернуллі, мають найнижчий коефіцієнт ексцесу кривизни серед усіх ймовірнісних розподілів, а саме −2.
Розподіли Бернуллі для утворюють експоненційну сім’ю розподілів.
Оцінка максимальної правдоподібності параметра за випадковою вибіркою дорівнює вибірковому середньому.
Числові характеристики
Математичне сподівання:
Очікуване значення випадкової величини , що має розподіл Бернуллі, дорівнює .
Це випливає з того, що для з і маємо .
Дисперсія:
Дисперсія випадкової величини з розподілом Бернуллі дорівнює
.
Спочатку знайдемо
.
Звідси . З цього результату легко бачити, що для будь-якого розподілу Бернуллі дисперсія належить відрізку , оскільки функція набуває максимуму при , де .
Коефіцієнт асиметрії Коефіцієнт асиметрії дорівнює . Якщо стандартизувати випадкову величину з розподілом Бернуллі, тобто розглянути то отримаємо, що ця стандартизована випадкова величина набуває значення з імовірністю , і значення з імовірністю . Отже, маємо
Ентропія та інформація за Фішером
Ентропія Ентропія — міра невизначеності або випадковості в ймовірнісному розподілі. Для випадкової величини Бернуллі з ймовірністю успіху і ймовірністю невдачі , ентропія визначається так:
Ентропія максимальна при , що відповідає найвищому рівню невизначеності, коли обидва наслідки однаково ймовірні. Ентропія дорівнює нулю при або , коли один із результатів є визначеним.
Інформація за Фішером Інформація за Фішером вимірює кількість інформації, яку спостережувана випадкова величина несе про невідомий параметр від якого залежить її розподіл . Для розподілу Бернуллі інформація Фішера відносно параметра рівна:
де
Зв'язок з іншими розподілами
Нехай незалежні випадкові величини мають розподіл Бернуллі з параметром p, тобто , тоді випадкова величина має біноміальний розподіл з параметрами p, n, тобто .
Див. також
Біноміальний розподіл Бернуллі Якоб Закон розподілу Розподіл ймовірностей Схема Бернуллі Функція розподілу ймовірностей
Примітки
Джерела