Rozkład normalny, rozkład Gaussa (w literaturze francuskiej zwany również rozkładem Laplace’a-Gaussa) – jeden z najważniejszych rozkładów prawdopodobieństwa, odgrywający ważną rolę w statystyce. Wykres funkcji gęstości prawdopodobieństwa tego rozkładu jest nazywany krzywą Gaussa lub krzywą dzwonową (ze względu na kształt podobny do dzwonu).
Rozkład normalny ma duże znaczenie w matematycznym opisie przyrody i zjawisk społecznych, gdyż w naturze często występują rozkłady cech bardzo zbliżone do rozkładu normalnego. Np. wzrost czy masa ludzi w populacji, wyniki egzaminów w dużej grupie osób, błędy pomiarów w doświadczeniach fizycznych, wymiary produkowanych elementów (np. średnica śrub, długość części maszyn).
Własność ta wynika z centralnego twierdzenia granicznego, które orzeka: Jeżeli mamy bardzo wiele drobnych czynników losowych, to niezależnie od rozkładu prawdopodobieństwa każdego z tych czynników rozkład ich sumy lub średniej będzie zbliżony do rozkładu normalnegoŚciślej: można zaobserwować rozkłady bardzo zbliżone do rozkładu normalnego. Rozkład normalny zakłada niezerowe prawdopodobieństwo dla każdej możliwej liczby rzeczywistej. W rzeczywistości wszelkie zmienne są ograniczone, na przykład nie ma ludzi o ujemnym wzroście ani o wzroście kilometra, jednak rozkłady spotykane w praktyce są tak bardzo zbliżone do rozkładu normalnego, że różnica ta nie ma znaczenia..
Ponadto, rozkład normalny ma interesujące właściwości matematyczne, dzięki którym oparte na nim metody statystyczne są proste obliczeniowoTe właściwości to na przykład: Suma i różnica dwóch zmiennych o rozkładach normalnych ma rozkład normalny. Logarytm z gęstości rozkładu normalnego to funkcja kwadratowa, dzięki czemu metoda najmniejszych kwadratów stosowana w regresji liniowej dla rozkładu normalnego błędów jest metodą największej wiarygodności..
Definicja rozkładu normalnego Rozkład normalny można równoważnie określić na kilka sposobów:
za pomocą funkcji gęstości prawdopodobieństwa, za pomocą dystrybuanty, poprzez ciąg momentów, poprzez ciąg kumulant, za pomocą funkcji charakterystycznej, za pomocą funkcji tworzącej momenty, za pomocą funkcji tworzącej kumulanty.
Każdy z powyższych opisów jednoznacznie określa rozkład normalny. Znając jeden z nich, można odtworzyć wszystkie pozostałe. W dalszej części artykułu przedstawiono wybrane sposoby formalnego opisu tego rozkładu. Funkcja gęstości
Funkcja gęstości prawdopodobieństwa rozkładu normalnego o parametrach dana jest wzorem:
gdzie:
– wartość średnia rozkładu normalnego, – odchylenie standardowe; – wariancja, – zakres wartości zmiennej losowej. Wartości wpływa na położenie maksimum wykresu funkcji gęstości, wpływa na skalę (szerokość i wysokość) wykresu funkcji gęstości (por. rysunek u góry artykułu).
Oznaczenia Jeżeli zmienna losowa ma rozkład normalny z wartością oczekiwaną , odchyleniem standardowym i wariancją , to stosuje się zapis symboliczny . Inni zaś autorzy stosują zapis . Standardowy rozkład normalny
Jeśli i to rozkład nazywa się standardowym rozkładem normalnym i oznacza symbolem Jego funkcja gęstości dana jest wzorem:
Wartości standardowego rozkładu normalnego są stablicowane, np. w Wikiźródłach.
Twierdzenia thumb|Ilustracja reguły trzech sigm|339x339px Tw. 1 We wszystkich rozkładach normalnych funkcja gęstości jest symetryczna względem wartości średniej rozkładu.
Tw. 2 Prawdopodobieństwo, że zmienna losowa o rozkładzie normalnym przyjmie wartość odległą o mniej niż jedno odchylenie standardowe od wartości średniej rozkładu wynosi w przybliżeniu 68,3%. Prawdopodobieństwo to w przybliżeniu wynosi odpowiednio 95,5% i 99,7%, dla dwóch i trzech odchyleń standardowych od średniej (reguła trzech sigm).
Tw. 3 Punkty przegięcia krzywej Gaussa znajdują się w odległości jednego odchylenia standardowego od średniej. Są dwa takie punkty.
Dystrybuanta
Definicja Dystrybuanta zmiennej losowej jest zdefiniowana jako prawdopodobieństwo tego, że zmienna ta przyjmie wartości mniejsze bądź równe . Można ją obliczyć jako całkę z funkcji gęstości. Dla rozkładu normalnego dystrybuanta jest całką z funkcji gęstości tego rozkładu, tj.
Dla zmiennej losowej o standardowym rozkładzie normalnym dystrybuantę tradycyjnie oznacza się symbolem ; określa ją wzór:
Twierdzenie
Powyższa własność wynika z symetrii krzywej gęstości standardowego rozkładu normalnego względem prostej (por. wykres u góry). Własność ta pozwala na ograniczenie się przy tablicowaniu dystrybuanty do wartości .
Wyznaczanie wartości dystrybuanty z tablic
Dystrybuanty nie da się obliczyć metodą analityczną. Do określenia wartości dystrybuanty ułożono tablice statystyczne, które zawierają wartości dystrybuanty zmiennej o standardowym rozkładzie normalnym. Aby z tych tablic wyznaczyć dystrybuanty zmiennej losowej o rozkładzie niestandardowym dokonuje się standaryzowania rozkładu, tj. odczytuje się z tablic wartość dystrybuanty standardowej , ale nie w punkcie , lecz w punkcie , tj.
Wtedy jest wartością dystrybuanty dla rozkładu w punkcie .
Wyznaczanie wartości dystrybuanty z tablic funkcji błędu erf Dystrybuanta standardowego rozkładu normalnego może być wyrażona poprzez funkcję błędu (która jest stablicowana, gdyż nie jest to funkcja elementarna) wg wzoru:
Dystrybuantę rozkładu normalnego oblicza się z tablic wartości funkcji nie w punkcie , lecz w punkcie , tj.
Przykład obliczeń z użyciem tablic Załóżmy, że chcemy obliczyć prawdopodobieństwo, iż zmienna losowa o rozkładzie ma wartości bezwzględne większe od 2, tj. szukamy . Korzystając z faktu, że , obliczamy:
czyli
Z tablic odczytujemy wartości dystrybuanty dla rozkładu standardowego: oraz Stąd
Obliczenia numeryczne dystrybuanty Wartości dystrybuant rozkładów prawdopodobieństwa wyznacza się metodami numerycznymi, zapewniającymi wysoką dokładność. Metody te są zaimplementowane w wielu językach programowania oraz bibliotekach obliczeniowych i w praktyce zastępują tablice statystyczne.
Przykład w Pythonie Poniżej przedstawiono przykład obliczania wartości dystrybuanty rozkładu normalnego z wykorzystaniem biblioteki SciPy: from scipy.stats import norm mu = 2 # średnia sigma = 3 # odchylenie standardowe x = 4 # argument funkcji print(norm.cdf(x, loc=mu, scale=sigma)) Analogiczne obliczenia z wykorzystaniem funkcji błędu: import math def normal_cdf(x, mu=0, sigma=1): return 0.5 * (1 + math.erf((x - mu) / (sigma * math.sqrt(2)))) print(normal_cdf(x = 4, mu = 2, sigma = 3))
Funkcja charakterystyczna Funkcję charakterystyczną rozkładu normalnego określa wzór:
gdzie - jednostka urojona. W ogólności jest to funkcja zespolona. Podobnie jak dystrybuanta funkcja ta koduje pełną informację na temat rozkładu zmiennej losowej. Dla standardowego rozkładu normalnego otrzymuje się z powyższego wzoru
Parametry rozkładu normalnego Parametry, które różnicują poszczególne rozkłady w ramach rodziny rozkładów normalnych: wartość oczekiwana: mediana: wariancja: odchylenie standardowe: entropia: , gdzie – liczba e Parametry o identycznych wartościach dla wszystkich rozkładów normalnych: skośność: kurtoza: kurtoza nadwyżkowa (eksces):
Twierdzenia (o skalowaniu i przesunięciu zmiennej losowej normalnej, o sumie zmiennych losowych normalnym oraz o sumie ich kwadratów) Tw. 5 Jeśli oraz są liczbami rzeczywistymi oraz , to .
Tw. 6 Jeśli i oraz zmienne są niezależne, to
Twierdzenie to uogólnia się na dowolną sumę niezależnych zmiennych losowych o rozkładach normalnych.
Tw. 7 Jeśli są niezależnymi zmiennymi losowymi o standardowym rozkładzie normalnym, to zmienna ma rozkład chi-kwadrat z stopniami swobody.
Twierdzenia (o standaryzowaniu zmiennych losowych i odwrotnie) Konsekwencją Tw. 5 jest możliwość przekształcenia wszystkich zmiennych losowych o niestandardowym rozkładzie normalnym do standardowego rozkładu normalnego i odwrotnie.
Tw. 8 Jeżeli zmienna losowa ma rozkład normalny ze średnią i wariancją to zmienna losowa o standardowym rozkładzie normalnym ma postać:
Definicja Przekształcenie zmiennej losowej (o dowolnym rozkładzie) w zmienną losową o średniej 0 i wariancji 1 nazywa się standaryzowaniem zmiennej losowej .
Tw. 9 Odwrotnie, jeśli jest zmienną losową o standardowym rozkładzie normalnym, to zmienną o rozkładzie normalnym ze średnią i wariancją otrzymuje się przez przekształcenie
Z Tw. 8 korzysta się przy obliczaniu dystrybuant niestandardowych rozkładów normalnych (por. omówiona wyżej metoda standaryzowania przy korzystaniu z tablic rozkładów standardowych oraz w procedurach numerycznych).
Generowanie wartości losowych o rozkładzie normalnym
Istnieje kilka metod, by wygenerować wartości zmiennej losowej o rozkładzie normalnym (np. gdy są potrzebne w symulacji komputerowej). Najprostszą metodą jest odwrócenie dystrybuanty standardowego rozkładu normalnego.
Tradycyjnie stosowano transformację Boxa-Mullera, w której dwie zmienne losowe o rozkładzie jednostajnym (prostym do wygenerowania – patrz generator liczb losowych) są transformowane na zmienne o rozkładzie normalnym. Transformacja ta jest konsekwencją Tw. 7 i faktu, że rozkład chi-kwadrat z dwoma stopniami swobody jest rozkładem wykładniczym (łatwym do wygenerowania).
Współcześnie korzysta się z bardziej zoptymalizowanych i bardzo wydajnych generatorów rozkładu normalnego. Obok pokazano histogram z próby losowej o rozkładzie normalnym mającej elementów, utworzony za pomocą procedury zaimplementowanej w języku Python. Kod do programu znajduje się w opisie grafiki (trzeba kliknąć na tę grafikę, następnie kliknąć w napis Więcej szczegółów, który jest u dołu okna z opisem grafiki).
Centralne twierdzenie graniczne Jedną z najważniejszych własności rozkładu normalnego jest fakt, że (przy pewnych założeniach) rozkład sumy dużej liczby zmiennych losowych jest w przybliżeniu normalny. Jest to treścią tzw. centralnego twierdzenia granicznego.
Twierdzenie to stosuje się, jeśli chcemy użyć rozkładu normalnego jako przybliżenia innych rozkładów. Np. Rozkład dwumianowy z parametrami jest w przybliżeniu normalny dla dużych i nie leżących zbyt blisko 1 lub 0. Rozkład normalny przybliżający rozkład dwumianowy ma średnią i odchylenie standardowe Rozkład Poissona z parametrem jest w przybliżeniu normalny dla dużych wartości ma on średnią i odchylenie standardowe
Dokładność przybliżenia tych rozkładów zależy od celu użycia przybliżenia i tempa zbieżności do rozkładu normalnego. Zazwyczaj takie przybliżenia są mniej dokładne w ogonach rozkładów.
Nieskończona podzielność Rozkład normalny należy do rozkładów mających własność nieskończonej podzielności.
Rozkłady przybliżane rozkładem normalnym W opisie wiele rozkładów występujących w życiu codziennym przyjmuje się, że mają rozkład normalny (lub wielowymiarowy rozkład normalny). Jednak jest to często przybliżenie, gdyż rozkład normalny ma niezerową gęstość prawdopodobieństwa dla dowolnych wartości zmiennej losowej, , zaś zmienne losowe występujące w naturze mają zawsze ograniczone wartości, a często są nieujemne (np. wzrost).
Można przyjąć, że rozkład realnej zmiennej losowej jest normalny, jeżeli jest zbliżony do normalnego. Nie należy jednak robić tego bez sprawdzenia jak wielkie są rozbieżności. Rozkłady dalekie od normalnego (np. z elementami odstającymi) mogą sprawić, że wyniki metod statystycznych będą mylnie interpretowane.
Przykładem są tu metody regresji liniowej oraz korelacji Pearsona: choć zdefiniowane są dla dowolnych rozkładów, to jednak mają sensowną interpretację tylko dla wielowymiarowego rozkładu normalnego wektora próbki. Jeżeli zaś w próbce występują elementy odstające, co jest szczególnym przypadkiem rozkładu dalekiego od normalnego, to regresja będzie dawała błędne rezultaty, a korelacja Pearsona może przyjąć dowolną wartość między a bez względu na rzeczywistą zależność między zmiennymi losowymi.
Inteligencja