Rachunek prawdopodobieństwa i statystyka/Wykład 9: Rozkład normalny i centralne twierdzenie graniczne

Rozkład normalny i centralne twierdzenie graniczne

Centralną rolę w rachunku prawdopodobieństwa i statystyce pełni tak zwany rozkład normalny. Związane jest z nim słynne twierdzenie nazywane centralnym twierdzeniem granicznym. Na jego podstawie można w wielu sytuacjach zakładać, że zmienna losowa, którą jesteśmy właśnie zainteresowani, ma rozkład normalny.

Rozkład normalny

Carl Friedrich Gauss (1777-1855)
Zobacz biografię

Chyba najważniejszym ze znanych rozkładów jest tak zwany rozkład normalny, określany niekiedy jako rozkład Gaussa.

Rozkład $P$ nazywamy rozkładem normalnym, jeżeli istnieją takie liczby rzeczywiste $m$ oraz $\sigma >0$, że funkcja $f:\mathbb{ℝ}⟶\mathbb{ℝ}$, określona wzorem:

$f(x)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{1}{2}(\frac{x-m}{\sigma }{)}^2}\text{ dla }x\in \mathbb{ℝ},$

jest gęstością tego rozkładu.

Stosowana w tym przypadku notacja jest następująca: $N(m,\sigma )$ oznacza rozkład normalny o parametrach $m$ oraz $\sigma$ - jego dystrybuantę oznaczamy przez ${\mathrm{\Phi }}_{m,\sigma }$. Wykres gęstości rozkładu normalnego nosi nazwę krzywej Gaussa.

Poniższy wykres przedstawia gęstości rozkładów $N(20,1)$, $N(20,2)$ i $N(20,3)$, przy czym większym wartościom $\sigma$ odpowiada bardziej stromy wykres.

<flash>file=Rp.1.91.swf|width=350|height=350</flash>

Znaczenie parametru $\sigma$ ilustruje też następująca animacja (tutaj $m=20$)

animacja 91.gif

Kolejny wykres przedstawia gęstości rozkładów $N(15,3)$, $N(20,3)$ i $N(25,3)$.

<flash>file=Rp.1.92.swf|width=350|height=350</flash>

Aby jeszcze lepiej uzmysłowić sobie znaczenie parametru $m$, proponujemy uruchomić następującą animację ($\sigma =2$)

animacja 91.gif

Dystrybuantę ${\mathrm{\Phi }}_{0,1}$ oznaczamy krótko przez $\mathrm{\Phi }$. Wyraża się więc ona następującym wzorem:

$\mathrm{\Phi }(x)=\frac{1}{\sqrt{2\pi }}\underset{-\mathrm{\infty }}{\overset{x}{\int }}{e}^{-\frac{1}{2}{t}^2}dt.$      (9.1)

Poniższy wykres przedstawia gęstość rozkładu $N(0,1)$, który nazywamy standardowym rozkładem normalnym. Zauważmy, że zakreskowany obszar posiada pole równe $\mathrm{\Phi }(1)$.

<flash>file=Rp.1.93.swf|width=350|height=350</flash>

Wartości dystrybuanty $\mathrm{\Phi }$ zostały stablicowane (patrz strona {rnor})oraz są dostępne w wielu komputerowych programach matematycznych lub statystycznych. Oczywiście, pakiety statystyczne programu Maple zawierają odpowiednie procedury (jakie?).

Zwróćmy uwagę na dwie własności funkcji $\mathrm{\Phi }$,posiadające (przede wszystkim) rachunkowe znaczenie. Wynikają one bezpośrednio ze wzoru na 9.1 ${\mathrm{\Phi }}_{0,1}$ i mają oczywistą interpretację geometryczną (ćwiczenie). Mianowicie:

$\mathrm{\Phi }(0)=\frac{1}{2}\text{ oraz }\mathrm{\Phi }(x)=1-\mathrm{\Phi }(-x)\text{ dla każdego }x\in \mathbb{ℝ}$

oraz

${\mathrm{\Phi }}^{-1}(\alpha )=-{\mathrm{\Phi }}^{-1}(1-\alpha )\text{ dla każdego }\alpha \in [0,1].$

Użyteczność powyższych wzorów można zaobserwować zwłaszcza wtedy, gdy nie dysponujemy odpowiednim pakietem komputerowym czy kalkulatorem, ale są one także ważne przy pewnych przekształceniach. Podobnie następna równość, którą można otrzymać stosując prostą zmianę zmiennych [AM], pozwala za pomocą $\mathrm{\Phi }$ obliczać dystrybuanty ${\mathrm{\Phi }}_{m,\sigma }$ dla pozostałych parametrów $m$ i $\sigma$. Mianowicie:

${\mathrm{\Phi }}_{m,\sigma }(x)=\mathrm{\Phi }\left(\frac{x-m}{\sigma }\right).$      (9.2)

Parametry $m$ i $\sigma$ mają bardzo wyraźną interpretację probabilistyczną. Okazuje się bowiem, iż nadzieja matematyczna oraz wariancja w rozkładzie $N(m,\sigma )$ wyrażają się wzorami:

Parser nie mógł rozpoznać (błąd składni): {\displaystyle \displaystyle {\Bbb E}(X) = m, \hspace{2cm} {\Bbb D}^2 (X) = \sigma^2. }

Zauważmy też, że $m$ jest punktem, w którym gęstość rozkładu $N(m,\sigma )$ osiąga wartość największą, prosta $x=m$ jest osią symetrii jej wykresu, zaś punkty $m-\sigma$ i $m+\sigma$ - punktami przegięcia [AM].

Przykład 9.1

Postaramy się uzasadnić ilościowo, że parametr $\sigma$ jest miarą "rozrzutu" rozkładu $N(m,\sigma )$, względem punktu $m$. Obliczmy w tym celu:

$r_k=P(m-k\sigma ,m+k\sigma )\text{ dla }k=1,2,3,$

gdzie $P$ jest rozkładem $N(m,\sigma )$. Otrzymujemy:

$r_k={\mathrm{\Phi }}_{m,\sigma }(m+k\sigma )-{\mathrm{\Phi }}_{m,\sigma }(m-k\sigma )=\mathrm{\Phi }(k)-\mathrm{\Phi }(-k)=2\mathrm{\Phi }(k)-1.$

Korzystając z tablic lub z komputera, bez trudu dostajemy:

$r1\approx 0.682689492,r2\approx 0.954499736,r3\approx 0.997300204.$

Tak więc szansa znajdowania się poza przedziałem $(m-3\sigma ,m+3\sigma )$ wynosi istotnie mniej niż $1\mathrm{\%}$. Im mniejszy jest parametr $\sigma$, tym bardziej rozkład $N(m,\sigma )$ jest "skupiony w okolicy" punktu $x=m$.

Dystrybuanta $\mathrm{\Phi }$ rozkładu normalnego $N(0,1)$<ref>W tablicy podano wartości $\mathrm{\Phi }(x)$ dla $x\in [0,3.09]$.</ref>

{

),

{Weight}(3540 .. 3560, { {31}{400}} ) ,
{Weight}(3640 .. 3660, { {1}{100}} ) , {Weight}(3360 .. 3380, { {1}{200}} ) , {Weight}(3520 .. 3540, { {43}{400}} ) ,
{Weight}(3420 .. 3440, { {7}{100}} ) , {Weight}(3620 .. 3640, { {1}{100}} ) , {Weight}(3460 .. 3480, { {53}{400}} ) ,
{Weight}(3320 .. 3340, 0), {Weight}(3500 .. 3520, { {33}{200}} ) , {Weight}(3600 .. 3620, { {1}{40}} ),
{Weight}(3380 .. 3400, { {1}{50}} ) , {Weight}(3400 .. 3420, { {13}{400}} ) , {Weight}(3440 .. 3460, { {7}{100}} ) ,
{Weight}(3580 .. 3600, { {17}{400}} ) ]

Teraz rysujemy histogram:

{active}{1d}{stats[statplots,histogram](dane1);}{}

<flash>file=Rp.1.94.swf|width=350|height=350</flash>

oraz zachowujemy powyższy wykres:

{active}{1d}{g1 := :}{}

Dla wygody obliczamy jeszcze raz nadzieję i wariancję dla pojedynczej kostki:

{active}{1d}{ek := add(i,i=1..6)/6: vk := add(i^2,i=1..6)/6 - ek^2:}{}

a następnie obliczamy nadzieję i wariancję sumy:

{active}{1d}{es := n*ek; vs := n*vk;}{}

{inert}{2d}{es := 3500;}{

${e}{s}:=3500$

{inert}{2d}{vs := 8750/3;}{

${v}{s}:=\frac{8750}{3}$

Przygotowujemy wykres gęstości rozkładu teoretycznego (lecz go jeszcze nie wyświetlamy):

{active}{1d}{g2 := plot(f(es,sqrt(vs)),3320..3680, color=black):}{}

Obliczamy średnią i odchylenie standardowe dla szeregu rozdzielczego:

{active}{1d}{ee := evalf(stats[describe,mean]([lista]));}{}

{inert}{2d}{ee := 3501.587500;}{

${e}{e}:=3501.587500$

}

{active}{1d}{ve := evalf(stats[describe,standarddeviation]([lista]));}{}

{inert}{2d}{ve := 57.07764311;}{

${v}{e}:=57.07764311$

}

Teraz przygotowujemy wykres gęstości rozkładu normalnego o parametrach obliczonych z szeregu rozdzielczego:

{active}{1d}{g3 := plot(f(ee,ve),3320..3680, color=black,thickness=2):}{}

aby następnie wyświetlić, na jednym rysunku, histogram i dwie poprzednio otrzymane gęstości:

{active}{1d}{plots[display](g1,g2,g3);}{}

<flash>file=Rp.1.95.swf|width=350|height=350</flash>

Ponieważ bardzo często zmiennymi losowymi są niezależne próby Bernoulliego, więc sformułujemy centralne twierdzenie graniczne specjalnie dla tego przypadku. Jest to natychmiastowy wniosek z twierdzenia Lindeberga-Levy'ego (twierdzenie Uzupelnic da35|).

Twierdzenie de Moivre'a-Laplace'a

Niech $X_1,X_2,X_3,\dots$ będzie ciągiem niezależnych prób Bernoulliego, z takim samym prawdopodobieństwem sukcesu $p$ i porażki $q=1-p$ w każdej próbie ($0<p<1$). Wtedy:

$P(\frac{S_n-np}{\sqrt{npq}}\le x)⟶\mathrm{\Phi }(x),$ dla każdego $x\in \mathbb{ℝ}$.

Oczywiście, twierdzenia Uzupelnic rozsum| i Uzupelnic ctgsr| można także z łatwością przeformułować dla przypadku niezależnych prób Bernoulliego.

Uwaga 9.8.

Wyraźnie zaznaczamy, że centralne twierdzenie graniczne jest prawdziwe przy dużo ogólniejszych założeniach. W szczególności zmienne losowe nie muszą mieć takiego samego rozkładu, a nawet nie muszą być niezależne. Jednakże, różnym wersjom centralnego twierdzenia granicznego przyświeca ta sama idea:

suma niewiele zależnych od siebie składników losowych, z których żaden nie dominuje istotnie nad pozostałymi, ma w przybliżeniu rozkład normalny.