Rachunek prawdopodobieństwa i statystyka/Wykład 7: Parametry rozkładów zmiennych losowych

Omówimy podstawowe parametry zmiennych losowych: nadzieję matematyczną, wariancję, odchylenie standardowe i kwantyle. Przytoczymy słynną nierówność Czebyszewa służącą do oceny wielkości odchylenia zmiennej losowej od jej średniej. Wypowiemy i zinterpretujemy tak zwane prawo wielkich liczb.

Nadzieja matematyczna

Często zdarza się, iż albo nie jesteśmy w stanie określić dokładnie rozkładu interesującej nas zmiennej losowej, albo nie jest to w ogóle potrzebne. W takich sytuacjach częściową informację o zachowaniu się zmiennej losowej można odczytać z pewnych parametrów liczbowych rozkładu tej zmiennej. Omówimy poniżej tylko najważniejsze parametry charakteryzujące rozkład zmiennej losowej: wartość oczekiwaną, wariancję, odchylenie standardowe oraz kwantyle. Podkreślamy jednak, że są używane (zwłaszcza w statystyce) także inne charakterystyki liczbowe rozkładów zmiennych losowych.

Nadzieja matematyczna, zwana również wartością średnią lub wartością oczekiwaną, jest podstawowym parametrem każdego rozkładu. Z pojęciem tym spotykamy się w wielu codziennych sytuacjach, chociaż nie zawsze zdajemy sobie z tego sprawę. Zacznijmy od prostego, choć niezbyt naturalnego, przykładu.

Przykład 7.1

Pan Kowalski proponuje następującą grę: za prawo jednego rzutu kostką symetryczną Kowalski pobiera opłatę w wysokości 4 zł, natomiast wypłaca po każdym rzucie kwotę $a$ zł, gdzie $a$ jest liczbą uzyskanych oczek, o ile liczba ta jest większa niż 1; w przypadku wypadnięcia "jedynki" gracz ma dodatkowy bezpłatny rzut, po którym otrzymuje kwotę równą (w złotych) liczbie uzyskanych oczek. Czy gra jest opłacalna dla Kowalskiego?

Ilustracja?

Zauważmy od razu, że jeżeli gra kończy się po jednym lub nawet po kilku rzutach, to odpowiedź może być rzeczywiście różna. Na przykład, w pięciu rzutach mogą wypaść następujące wyniki:

Parser nie mógł rozpoznać (błąd składni): {\displaystyle \mbox{ ,,5", ,,4", ,,5", ,,1" i w powtórce ,,6", ,,6".} }

Wtedy Kowalski pobiera $5\cdot 4$ zł $=20$ zł, natomiast musi wypłacić $26$ zł. Jednak mogą równie dobrze wypaść następujące wyniki:

Parser nie mógł rozpoznać (błąd składni): {\displaystyle \mbox{,,2", ,,2", ,,4", ,,3", ,,6",} }

co oznacza dla Kowalskiego zarobek $3$ zł ($=20$ zł $-17$ zł).

Z kolei, gdy gra będzie prowadzona dość długo - powiedzmy, że Kowalski znajdzie kandydatów na 360 prób - wtedy sytuacja będzie wyglądać inaczej, gdyż przy wielokrotnym powtarzaniu gry można się spodziewać pewnych prawidłowości. Kowalski zakłada mianowicie, że przy 360 rzutach każda ścianka wypadnie około 60 razy, będzie więc musiał zapłacić za około 60 "dwójek", 60 "trójek" i tak dalej, a także za dodatkowe rzuty (po wypadnięciu "jedynki"), czyli za około 10 "jedynek", 10 "dwójek", czy wreszcie 10 "szóstek". Tak więc w sumie Kowalski zapłaci około:

$10\cdot 1+70\cdot 2+\dots +70\cdot 6=10+70\cdot 20=1410{\mbox{ (zł),}}$

natomiast zbierze opłaty w wysokości:

Parser nie mógł rozpoznać (błąd składni): {\displaystyle 360 \cdot 4 \textrm{ zł }= 1440 \textrm{ zł.} }

Ma więc szansę niewielkiego zarobku, czyli po prostu gra jest opłacalna (jeżeli nie liczymy kosztów własnych).

Można się teraz pytać, czy gra jest opłacalna przy innej liczbie prób, na przykład 200 lub 1000. Zamiast za każdym razem powtarzać powyższy rachunek, można policzyć jeden raz wielkość $m$:

$m={\frac {1}{36}}\cdot 1+{\frac {7}{36}}\cdot 2+{\frac {7}{36}}\cdot 3+\dots +{\frac {7}{36}}\cdot 6={\frac {47}{12}}=3.91(6),$

a następnie pomnożyć ją przez zakładaną liczbę prób. Mamy wówczas, na przykład:

$360m=1410,$

czego należało się oczywiście spodziewać, gdyż ostatnia równość powstała z poprzedniej przez podzielenie obu stron przez $360$.

Zauważmy teraz, że w powyższym zadaniu możemy wyróżnić w sposób naturalny zmienną losową $X$, zdefiniowaną jako wypłata po każdej grze. Przyjmuje ona sześć wartości:

$x_{1}=1,\ \ \ x_{2}=2,\ \ \ \dots ,\ \ \ x_{6}=6$

z prawdopodobieństwami:

Parser nie mógł rozpoznać (błąd składni): {\displaystyle p_1 = \frac{1}{36}, \ \ \ p_2 = \frac{7}{36}, \ \ \ \dots, \ \ \ p_6 = \frac{7}{36}. }

Zauważmy, że średnia wypłata $m$ jest wtedy równa:

$m=p_{1}x_{1}+p_{2}x_{2}+p_{3}x_{3}+p_{4}x_{4}+p_{5}x_{5}+p_{6}x_{6}.$

Wielkość ta nazywana jest właśnie wartością średnią, wartością oczekiwaną, lub nadzieją matematyczną zmiennej losowej $X$. Mówiąc językiem potocznym, jest ono równa sumie wszystkich możliwych wartości $x_{i}$ zmiennej $X$, wymnożonych przez odpowiednie wagi $p_{i}$.

Nie jest zatem niespodzianką następująca definicja:

Definicja 7.2 [nadzieja matematyczna]

1. Niech $(\Omega ,\Sigma ,P)$ będzie przestrzenią probabilistyczną, zaś

$X\colon \Omega \longrightarrow {\mathbb {R}}$ - zmienną losową o rozkładzie dyskretnym:

$P(X=x_{i})=p_{i},\;\;i=1,\dots ,N,\;N\leq \infty .$

Nadzieją matematyczną (wartością oczekiwaną, wartością średnią) nazywamy liczbę:

Parser nie mógł rozpoznać (nieznana funkcja „\index”): {\displaystyle m = {\Bbb E} (X) \index{} { E} (X)Parser nie mógł rozpoznać (błąd składni): {\displaystyle } = {\Bbb E} X = \sum_{i=1}^Nx_ip_i. }

1. Niech $(\Omega ,\Sigma ,P)$ będzie przestrzenią probabilistyczną, zaś $X\colon \Omega \longrightarrow {\mathbb {R}}$ - zmienną losową o rozkładzie ciągłym z gęstością $f$. Nadzieją matematyczną (wartością oczekiwaną, wartością średnią) nazywamy liczbę:

Parser nie mógł rozpoznać (nieznana funkcja „\index”): {\displaystyle m = {\Bbb E} (X) \index{} { E} (X)Parser nie mógł rozpoznać (błąd składni): {\displaystyle } = {\Bbb E} X = \int_{\infty}^\infty x f(x)\,dx. }

Uwaga 7.3

W przypadku dyskretnym, gdy zmienna losowa $X$ przyjmuje nieskończenie wiele wartości, szereg określający wartość oczekiwaną może być zbieżny lub nie. W tym drugim przypadku wartość oczekiwana nie istnieje.

Uwaga 7.4

Definicja wartości oczekiwanej w przypadku ciągłym może wydać się niezbyt oczywista. Zauważmy jednak, że jest ona naturalną konsekwencją definicji całki oznaczonej. Mianowicie, całkę oznaczoną z danej funkcji ciągłej $h$ po przedziale o końcach $a$ i $b$ można dowolnie przybliżać sumą [AM]:

$\int _{a}^{b}h(y)\,dy\approx \sum _{i=1}^{n}h(x_{i})(y_{i}-y_{i-1}),$

gdzie $y_{i}$ są punktami podziału przedziału $(a,b)$, to znaczy $a=y_{0}<\dots <y_{n}=b$, zaś liczby $x_{i}\in [y_{i-1},y_{i}]$ są dowolne. Weźmy jako funkcję $h$ iloczyn: $h(y)=yf(y)$. Wtedy:

$\int _{a}^{b}yf(y)\,dy\approx \sum _{i=1}^{n}x_{i}f(x_{i})(y_{i}-y_{i-1})=\sum _{i=1}^{n}x_{i}p_{i},$

gdzie $p_{i}=f(x_{i})(y_{i}-y_{i-1})$. Powyższy wzór można interpretować następująco: zmienną losową o rozkładzie ciągłym o gęstości $f$ można przybliżać zmiennymi losowymi o rozkładach dyskretnych - wartość oczekiwana $X$ będzie więc przybliżana wartościami

oczekiwanymi tych dyskretnych zmiennych losowych.

Przykład 7.5

Obliczymy wartość oczekiwaną zmiennej losowej o rozkładzie dwupunktowym: $P(X=0)=1-p$, $P(X=1)=p$.

Otrzymujemy:

${\mathbb {E}}(X)=0(1-p)+1p=p.$

Przykład 7.6

Obliczymy wartość oczekiwaną zmiennej losowej o rozkładzie jednostajnym na przedziale o końcach $a$ i $b$.

Otrzymujemy:

${\mathbb {E}}(X)=\int _{-\infty }^{\infty }xf(x)\,dx=\int _{a}^{b}x{\frac {1}{b-a}}\,dx={\frac {1}{b-a}}\int _{a}^{b}x\,dx={\frac {a+b}{2}}.$

Wynik ten wydaje się intuicyjnie jasny: wartość oczekiwana jest środkiem przedziału, na którym skupiony jest rozkład jednostajny.

Wariancja i odchylenie standardowe

Innym bardzo ważnym parametrem rozkładu zmiennej losowej jest wariancja i ściśle z nią związane odchylenie standardowe.

Definicja 7.7 [wariancja i odchylenie standardowe]

Niech $(\Omega ,\Sigma ,P)$ będzie przestrzenią probabilistyczną, zaś $X\colon \Omega \longrightarrow {\mathbb {R}}$ - zmienną losową, posiadającą skończoną wartość oczekiwaną $m={\mathbb {E}}(X)$. Wariancją zmiennej losowej $X$ nazywamy liczbę:

Parser nie mógł rozpoznać (nieznana funkcja „\index”): {\displaystyle \sigma^2 = {\Bbb D}^2(X) \index{} { D}^2 (X)Parser nie mógł rozpoznać (błąd składni): {\displaystyle } = {\Bbb D}^2 X = {\Bbb E} ((X-m)^2), }

natomiast liczbę:

Parser nie mógł rozpoznać (nieznana funkcja „\index”): {\displaystyle \sigma = \sqrt{{\Bbb D}^2(X)} \index{} { D}^2 (X)Parser nie mógł rozpoznać (błąd składni): {\displaystyle } = \sqrt{{\Bbb D}^2 X} }

nazywamy odchyleniem standardowym zmiennej $X$.

Interpretacja wariancji jest następująca. Zmienna losowa $X-m$ jest odchyleniem zmiennej losowej $X$ od swojej wartości oczekiwanej, zaś jeżeli nie interesuje nas znak tego odchylenia, tylko jego wielkość bezwzględna, możemy rozważać zmienną losową $|X-m|$. Tak więc liczba ${\mathbb {E}}(|X-m|)$ jest oczekiwanym odchyleniem - wielkość ta jest nazywana średnim błędem - jednak z pewnych względów jest ona niewygodna w obliczeniach. Dlatego, zamiast średniego błędu, rozważa się wielkość, która jest wygodniejsza w obliczeniach, a ma podobne własności co średni błąd - jej duża wartość wskazuje na duży rozrzut zmiennej $X$. Taką wielkością jest właśnie wariancja, a więc także odchylenie standardowe. Co więcej, w wielu typowych sytuacjach, odchylenie standardowe nie różni się wiele od średniego błędu. Zauważmy, że w skrajnym przypadku, gdy zmienna losowa jest stałą, powiedzmy $X=a$, czyli gdy $P(X=a)=1$, to ${\mathbb {E}}(X)=a$, a więc oczekiwany błąd, wariancja i odchylenie standardowe są równe zeru.

Uwaga 7.8

W przypadku zmiennej losowej o rozkładzie dyskretnym wariancję obliczamy ze wzoru:

${\mathbb {D}}^{2}(X)=\sum _{i=1}^{N}(x_{i}-m)^{2}p_{i}.$

Uwaga 7.9

W przypadku zmiennej losowej o rozkładzie ciągłym wariancję obliczamy ze wzoru:

${\mathbb {D}}^{2}(X)=\int _{-\infty }^{\infty }(x-m)^{2}f(x)\,dx.$

Przykład 7.10

Obliczymy wariancję zmiennej losowej o rozkładzie dwupunktowym: $P(X=0)=1-p$, $P(X=1)=p$.

Wiemy już, ${\mathbb {E}}(X)=p$. Mamy więc:

${\mathbb {D}}^{2}(X)=(0-p)^{2}(1-p)+(1-p)^{2}p=p(1-p).$