Rachunek prawdopodobieństwa i statystyka/Wykład 3: Przestrzeń probabilistyczna I

Podamy podstawowe definicje i własności pojęć stanowiących fundamenty rachunku prawdopodobieństwa. Wskażemy ścisły związek tych pojęć z pojęciem geometrycznym, jakim jest miara. Omówimy najważniejszy model przestrzeni probabilistycznej - tak zwany schemat klasyczny.

Definicja prawdopodobieństwa

Definicja prawdopodobieństwa, którą będziemy się posługiwać (i która jest obecnie w powszechnym użyciu) jest definicją aksjomatyczną. Na wykładzie 7| wspomnimy jednak o innym podejściu do tego zagadnienia.

Aby ułatwić Czytelnikowi zrozumienie idei definicji aksjomatycznej, przeprowadzimy na wstępie pewne nieformalne rozumowania. Zaczniemy od analizy bardzo prostej sytuacji. Wyobraźmy sobie, że Marek rzuca wielokrotnie dwiema kostkami do gry i podaje przez telefon swojemu koledze Tomkowi uzyskaną sumę oczek, która jest liczbą z zakresu od 2 do 12. Na przykład, przy 10 rzutach Tomek mógłby zanotować:

$4,7,5,2,6,11,7,9,9,6.$

Nie wydaje się, aby powyższy ciąg liczb wykazywał jakieś ciekawe prawidłowości, jednak przy większej liczbie prób, powiedzmy przy 100 podwójnych rzutach, Tomek zauważa, że pewne wyniki powtarzają się zdecydowanie częściej niż inne. Zaintrygowany próbuje zbadać rzecz dokładniej - postanawia powtórzyć doświadczenie kolegi. Oczywiście, może w tym celu rzucać wielokrotnie parą kostek i zapisywać sumy oczek, ale może też (po odłożeniu słuchawki) przeprowadzić symulację komputerową. Oto przykładowy ciąg, jaki może wtedy otrzymać:

11, 4, 7, 11, 4, 9, 7, 6, 9, 7, 8, 8, 12, 10, 6, 8, 6, 6, 6, 10, 7, 3, 6, 10, 5, 8, 6, 7, 8, 3, 5, 8, 7, 8, 7, 8, 7, 11, 12, 5, 8, 5, 8, 5, 10, 3, 5, 8, 9, 6, 3, 9, 5, 6, 10, 7, 10, 9, 9, 10, 5, 4, 10, 2, 6, 8, 3, 4, 3, 4, 9, 7, 9, 7, 7, 11, 7, 7, 8, 4, 5, 6, 6, 3, 8, 6, 6, 6, 7, 6, 5, 6, 4, 5, 3, 10, 11, 11, 8, 7.

Wyraźnie teraz widać, że najczęstszymi wynikami są: "6", "7" oraz "8", zaś najrzadziej pojawiało się "2" i "12". Tomek powtarza kilkakrotnie swoją symulację i chociaż za każdym razem otrzymuje inny ciąg wyników, powyższe spostrzeżenie pozostaje zawsze bez zmian.

Pomożemy Tomkowi wytłumaczyć powody, dla których tak się dzieje. Policzymy mianowicie prawdopodobieństwo, z jakim wypadają liczby "środkowe" - "6", "7" i "8" oraz prawdopodobieństwo, z jakim wypadają liczby będące liczbami "skrajnymi"- "2" i "12". Jednak wcześniej zastanowimy się, co właściwie dla nas znaczy słowo "prawdopodobieństwo".

Sprawa definicji pojęcia prawdopodobieństwa nie jest bynajmniej banalna. Absorbowała ona uwagę wielu wybitnych matematyków w okresie ostatnich 300 lat i chociaż jeszcze dzisiaj wzbudza pewne kontrowersje w niektórych środowiskach naukowych, to z matematycznego punktu widzenia sprawa jest już dobrze zbadana. Podamy za chwilę pełną formalną definicję, wzorowaną na pomyśle Kołmogorowa

życiorys, zdjęcie!!!

sprzed 70 lat, jednak najpierw doprecyzujemy pewne intuicje, wykorzystując opisaną powyżej zabawę z kostkami.

W naszym przypadku interesują nas zdarzenia odpowiadające wartości sumy oczek na dwóch kostkach. Oznaczmy zbiór interesujących nas zdarzeń literą $\mathrm{\Sigma }$. Jest wiele zdarzeń należących do $\mathrm{\Sigma }$ - są nimi na przykład zdarzenia, powiedzmy $S_2,S_3,S_4,\dots ,S_{12}$, w których suma oczek jest dokładnie jedną z liczb od 2 do 12. Oprócz tych 11 zdarzeń mogą nas interesować także inne zdarzenia, na przykład zdarzenie $A$, w którym suma oczek jest jedną z liczb 6, 7 lub 8, albo zdarzenie $B$, w którym suma oczek nie jest równa ani 2, ani 12. Te dwa ostatnie zdarzenia mogą być wyrażone jako, odpowiednio, alternatywa zdarzeń $S_6$, $S_7$, $S_8$ oraz negacja alternatywy zdarzeń $S_2$ z $S_{12}$. Do zbioru $\mathrm{\Sigma }$ należą też dwa istotne, chociaż niezbyt ciekawe, zdarzenia: tak zwane zdarzenie niemożliwe (na przykład, że suma oczek na dwóch kostkach wynosi 13) oraz zdarzenie pewne (na przykład, że suma oczek jest liczbą całkowitą).

Chcemy teraz każdemu zdarzeniu przypisać liczbę określającą jego prawdopodobieństwo. Mamy więc do czynienia z funkcją [LM], oznaczmy ją literą $P$, która zdarzeniom przyporządkowuje liczby. Możemy więc napisać:

$P:\mathrm{\Sigma }\ni S⟶P(S)\in \mathbb{ℝ}.$

Zanim powiemy, jak wyznaczyć funkcję $P$, zwróćmy uwagę, że powinna mieć ona kilka charakterystycznych własności. Na przykład, nasza intuicja podpowiada, że prawdopodobieństwo musi być liczbą nieujemną, a więc wartości funkcji $P$ powinny być nieujemne. Zgodnie z intuicją, wartość funkcji odpowiadająca zdarzeniu niemożliwemu musi być równa 0. Rozsądnie jest też przyjąć, że zdarzenie pewne ma prawdopodobieństwo równe $1$ ($100\mathrm{\%}$, gdy wolimy używać procentów). Najistotniejszym jednak warunkiem, który musi spełniać nasza funkcja $P$, jest żądanie, aby prawdopodobieństwo alternatywy zdarzeń równało się sumie prawdopodobieństw tych zdarzeń, oczywiście pod warunkiem, że zdarzenia te wzajemnie się wykluczają. Założenie to, zwane zasadą addytywności, oznacza natychmiast, że:

$P(A)=P(S_6)+P(S_7)+P(S_8).$

Potrafimy także wtedy pokazać, że:

$P(B)=1-(P(S_2)+P(S_{12})).$

Aby policzyć konkretne wartości prawdopodobieństw $P(S)$ dla wszystkich zdarzeń $S\in \mathrm{\Sigma }$, musimy wniknąć nieco głębiej w naturę badanego zjawiska. Spróbujmy najpierw odpowiedzieć na pytanie o to, czym się różnią od siebie zdarzenia, na przykład, $S_2$ oraz $S_6$, i dlaczego pierwsze z nich zachodzi rzadziej niż drugie. Otóż zdarzenie $S_2$ zachodzi dokładnie wtedy, gdy na obu kostkach wypadnie "1", natomiast zdarzeniu $S_5$ odpowiadają następujące cztery wyniki:

$(1,4),(2,3),(3,2),(4,1).$

Wyraźnie więc widać, że zdarzenie $S_5$ ma szansę zajść cztery razy częściej niż zdarzenie $S_2$.

Rozwijając tę myśl dalej zauważmy, że każde zdarzenie z interesującego nas zbioru $\mathrm{\Sigma }$ może być utożsamione ze zbiorem par liczb określających wyniki uzyskane na obu kostkach. Niech $\mathrm{\Omega }$ oznacza zbiór tych par, czyli:

$\mathrm{\Omega }=\{(i,j):i,j=1,2,\dots ,6\}.$

Elementy zbioru $\mathrm{\Omega }$ będą w dalszym ciągu nazywane zdarzeniami elementarnymi. Tak więc każde zdarzenie $S$ składa się ze zdarzeń elementarnych, jest więc w istocie podzbiorem zbioru $\mathrm{\Omega }$, przy czym zdarzenie niemożliwe utożsamiamy ze zbiorem pustym, natomiast zdarzenie pewne z całym zbiorem $\mathrm{\Omega }$. Zauważmy jednak, że nie wszystkie zdarzenia elementarne należą do $\mathrm{\Sigma }$. Na przykład para $(2,3)$ jest co prawda elementem $S_5$, ale przez Tomka, który zna jedynie sumy oczek, nie jest identyfikowana. Natomiast zdarzenia elementarne $(1,1)$ oraz $(6,6)$ odpowiadają zdarzeniom $S_2$ oraz $S_{12}$ należącym do $\mathrm{\Sigma }$.

Można łatwo wyznaczyć prawdopodobieństwo każdego zdarzenia elementarnego - ponieważ jest 36 takich zdarzeń i wszystkie one tworzą zdarzenie pewne $\mathrm{\Omega }$, którego prawdopodobieństwo jest równe 1, więc zakładając, że prawdopodobieństwo każdego z nich jest takie samo i równa się, powiedzmy, $x$, z zasady addytywności otrzymujemy:

$36x=1,$

a stąd:

$x=\frac{1}{36}.$

Korzystając dalej z tej zasady, możemy policzyć prawdopodobieństwo każdego zdarzenia $S\in \mathrm{\Sigma }$, a to oznacza poprawne określenie funkcji $P$. Na przykład:

$P(S_5)=\frac{5}{36},P(S_7)=\frac{6}{36},P(A)=\frac{5}{36}+\frac{6}{36}+\frac{5}{36}=\frac{16}{36},$

$P(B)=1-(\frac{1}{36}+\frac{1}{36})=\frac{34}{36}.$

Przyjrzyjmy się jeszcze raz, teraz nieco w innej kolejności, naszemu postępowaniu. Mając konkretny problem, określiliśmy najpierw pewien zbiór $\mathrm{\Omega }$, nazwany zbiorem zdarzeń elementarnych. Następnie wyróżniliśmy zbiór interesujących nas zdarzeń $\mathrm{\Sigma }$ w ten sposób, że każde ze zdarzeń jest zbudowane ze zdarzeń elementarnych, więc zdarzenia można traktować jako podzbiory zbioru $\mathrm{\Omega }$. Określiliśmy wreszcie funkcję $P:\mathrm{\Sigma }⟶\mathbb{ℝ}$, która zdarzeniom przyporządkowuje ich prawdopodobieństwa. Zauważyliśmy przy tym, że zbiór zdarzeń $\mathrm{\Sigma }$ oraz funkcja $P$ muszą posiadać pewne uniwersalne własności.

Okazuje się, że jest to podejście typowe. Gdy mamy rozpatrywać określoną sytuację, w której uwzględniamy losowość, powinniśmy w zasadzie postępować według powyższego schematu, wyznaczając kolejno $\mathrm{\Omega }$, $\mathrm{\Sigma }$ oraz $P$. Oczywiście, obiekty te mogą mieć zupełnie inną postać niż w naszym przykładzie. Ponadto, w pewnych sytuacjach zbiór zdarzeń elementarnych może być nieskończony, co już wyklucza możliwość zdefiniowania $P$ tak jak poprzednio. Niemniej jednak, w każdej sytuacji zbiór zdarzeń $\mathrm{\Sigma }$ oraz funkcja $P$ powinny mieć podobne własności do tych sugerowanych w powyższym przykładzie.

Podamy teraz formalną definicję, precyzującą nasze dotychczasowe rozważania.

Definicja 3.1 [Przestrzeń probabilistyczna]

Niech będą dane: niepusty zbiór $\mathrm{\Omega }$, pewna rodzina $\mathrm{\Sigma }$ podzbiorów zbioru $\mathrm{\Omega }$ i funkcja $P:\mathrm{\Sigma }⟶\mathbb{ℝ}$. Trójkę $(\mathrm{\Omega },\mathrm{\Sigma },P)$ nazywamy przestrzenią probabilistyczną, gdy zachodzą następujące warunki:

1. $\mathrm{\Omega }\in \mathrm{\Sigma },$
2. jeżeli zbiory $A_1,A_2,A_3,\dots \in \mathrm{\Sigma },$ to $\bigcup _{i=1}^{\mathrm{\infty }}{A}_i\in \mathrm{\Sigma }$,
3. jeżeli $A,B\in \mathrm{\Sigma }$, to $A\setminus B\in \mathrm{\Sigma }$,
4. jeżeli $A\in \mathrm{\Sigma }$, to $P(A)\ge 0$,
5. jeżeli zbiory $A_1,A_2,A_3,\dots \in \mathrm{\Sigma }$ są parami rozłączne, to:

$P(\bigcup _{i=1}^{\mathrm{\infty }}{A}_i)=\sum _{i=1}^{\mathrm{\infty }}P(A_i),$

1. $P(\mathrm{\Omega })=1$.

Elementy zbioru $\mathrm{\Omega }$ nazywamy zdarzeniami elementarnymi, zaś elementy $\mathrm{\Sigma }$ - zdarzeniami (oczywiście zdarzenie elementarne $\omega \in \mathrm{\Omega }$ może być traktowane jako zdarzenie, o ile tylko 1-elementowy zbiór $\{\omega \}$ należy do $\mathrm{\Sigma }$; tak jest w wielu przypadkach, ale nie zawsze!). Zbiór pusty reprezentuje zdarzenie niemożliwe, a zbiór $\mathrm{\Omega }$ - zdarzenie pewne. Zdarzenie $\mathrm{\Omega }\setminus A$ nazywamy zdarzeniem przeciwnym do zdarzenia $A$. Liczbę $P(A)$ nazywamy prawdopodobieństwem zdarzenia $A$, zaś funkcję $P$ -miarą probabilistyczną.

Podamy teraz (bez dowodu) kilka podstawowych własności przestrzeni probabilistycznych. Większość z nich (poza trzema ostatnimi) jest omawiana w szkole.

Twierdzenie 2.2

Niech $(\mathrm{\Omega },\mathrm{\Sigma },P)$ będzie przestrzenią probabilistyczną. Wtedy:

1. $P(\mathrm{\varnothing })=0$.
2. jeżeli $A_i\cap A_j=\mathrm{\varnothing }$ dla $i\ne j$, to:

$P(\bigcup _{i=1}^n{A}_i)=\sum _{i=1}^{n}P(A_i),$

1. jeżeli $A$ i $B$ są takimi zdarzeniami, że $A\subset B,$ to:

$P(B)=P(A)+P(B\setminus A),$

1. dla każdego zdarzenia $A$:

$P(\mathrm{\Omega }\mathrm{\setminus }A)=1-P(A),$

1. jeżeli $A$ i $B$ są takimi zdarzeniami, że $A\subset B$, to:

$P(A)\le P(B),$

1. dla dowolnych zdarzeń $A$ i $B$:

$P(A\cup B)=P(A)+P(B)-P(A\cap B),$

1. dla dowolnych zdarzeń $A_1,A_2,A_3,\dots$:

$P(\bigcup _{i=1}^{\mathrm{\infty }}{A}_i)\le \sum _{i=1}^{\mathrm{\infty }}P(A_i),$

1. jeżeli $A_1\subset A_2\subset A_3\subset \dots ,$ to:

$\underset{n\to \mathrm{\infty }}{\lim }P(A_n)=P(\bigcup _{n=1}^{\mathrm{\infty }}{A}_n),$

1. jeżeli $A_1\supset A_2\supset A_3\supset \dots$, to:

$\underset{n\to \mathrm{\infty }}{\lim }P(A_n)=P(\bigcap _{n=1}^{\mathrm{\infty }}{A}_n).$

W następnych punktach omówimy podstawowe przykłady przestrzeni probabilistycznych.

Schemat klasyczny

Omówimy najpierw najbardziej naturalną przestrzeń probabilistyczną, nazywaną schematem klasycznym.

Niech $\mathrm{\Omega }$ będzie zbiorem skończonym, składającym się z $n$ jednakowo prawdopodobnych (na razie w sensie potocznym) zdarzeń elementarnych, czyli niech:

$\mathrm{\Omega }=\{{\omega }_1,\dots ,{\omega }_n\}$

oraz niech $\mathrm{\Sigma }$ składa się ze wszystkich podzbiorów zbioru $\mathrm{\Omega }$, czyli:

$\mathrm{\Sigma }={𝒫}(\mathrm{\Omega }).$

Jeżeli $A\in \mathrm{\Sigma }$, to przyjmijmy:

$P(A)=\frac{\mathrm{\#}A}{n}.$

Jest oczywiste, że trójka $(\mathrm{\Omega },\mathrm{\Sigma },P)$ stanowi przestrzeń probabilistyczną. Z definicją tą spotykamy się po raz pierwszy w szkole średniej.

Schemat klasyczny jest modelem wielu zjawisk. Na przykład, przy rzucie kostką symetryczną możemy za $\mathrm{\Omega }$ przyjąć zbiór liczb $\{1,2,3,4,5,6\}$ - wtedy prawdopodobieństwo każdego zdarzenia elementarnego wynosi $\frac{1}{6}$, gdy rzucamy dwiema kostkami symetrycznymi, za zbiór $\mathrm{\Omega }$ bierzemy zbiór wszystkich 36 par utworzonych z liczb $1,2,3,4,5,6$ - wtedy prawdopodobieństwo każdego zdarzenia elementarnego wynosi $\frac{1}{36}$, zaś gdy startując w konkursie wybieramy jedno z 20 pytań, nasz zbiór $\mathrm{\Omega }$ ma 20 elementów i prawdopodobieństwo zdarzenia elementarnego jest równe $\frac{1}{20}$. We wszystkich tych przypadkach jest zupełnie naturalnym przyjęcie założenia, że wszystkie zdarzenia elementarne są jednakowo prawdopodobne.

Natomiast gdy kostka została sfałszowana (np. jedna ze ścianek jest nieco cięższa, tak aby "1" wypadała częściej niż "6"), schemat klasyczny nie jest odpowiednim modelem do opisu rzutu tą kostką. Jednak i wtedy można zbudować odpowiednią przestrzeń probabilistyczną - musimy sami odpowiednio określić prawdopodobieństwa zdarzeń elementarnych. Jeżeli na podstawie dłuższej "pracy" ze sfałszowaną kostką wiemy, jak często wypadają poszczególne wyniki, możemy zbudować odpowiednią przestrzeń w następujący sposób: biorąc $\mathrm{\Omega }=\{1,2,3,4,5,6\}$ określamy sześć liczb, na przykład:

$p_1=0.26;p_2=p_3=p_4=p_5=0.15;p_6=0.14,$

a następnie dla każdego zbioru $A\in \mathrm{\Sigma }={𝒫}(\mathrm{\Omega })$ definiujemy:

$P(A)=\sum _{i:{\omega }_i\in A}{p}_i.$

Łatwo teraz sprawdzić, że tak zbudowana trójka $(\mathrm{\Omega },\mathrm{\Sigma },P)$ jest przestrzenią probabilistyczną, przy czym istotne znaczenie ma to, że suma wszystkich liczb $p_i$ równa się $1$, gdyż suma ta jest prawdopodobieństwem zdarzenia pewnego.

W schemacie klasycznym, zbiór interesujących nas zdarzeń $\mathrm{\Sigma }$ pokrywa się ze zbiorem wszystkich podzbiorów zbioru $\mathrm{\Omega }$. Odpowiada to sytuacji, gdy mamy pełną informację o przebiegu zjawiska. Czasem jednak dysponujemy jedynie częściową informacją - taką sytuację poznaliśmy w poprzednim punkcie (punkt Uzupelnic pdp|), gdy Tomek znał sumę oczek na obu kostkach, ale nie wiedział, jakie wyniki wypadły na każdej z nich. W takich przypadkach klasa zdarzeń $\mathrm{\Sigma }$ jest istotnie mniejsza niż ${𝒫}(\mathrm{\Omega })$. Ogólny sposób budowy odpowiedniej przestrzeni probabilistycznej opisujemy poniżej.

Określamy zbiór zdarzeń elementarnych $\mathrm{\Omega }$ oraz funkcję $P$ jak w schemacie klasycznym, natomiast klasa zdarzeń $\mathrm{\Sigma }$ będzie określona w sposób następujący. Przypuśćmy, że:

$\mathrm{\Omega }=S_1\cup \dots \cup S_r,$

przy czym:

Parser nie mógł rozpoznać (błąd składni): {\displaystyle S_i \cap S_j = \O\;\;\textrm{dla} \;\textrm{wszytkich} \; i, j \;\textrm{takich, że}\; 1 \le i < j \le r.}

Określamy $\mathrm{\Sigma }$ jako zbiór wszystkich możliwych sum, które można utworzyć biorąc dowolne zbiory spośród $S_1,\dots ,S_r$. Wyraźnie widać, że powyższa konstrukcja spełnia warunki definicji Uzupelnic wy1.1|, a więc $(\mathrm{\Omega },\mathrm{\Sigma },P)$ jest przestrzenią probabilistyczną. Zauważmy ponadto, że konkretna przestrzeń tego typu była już omówiona w przykładzie ze strony {tomek} - mieliśmy wówczas rozkład:

$\mathrm{\Omega }=S_2\cup \dots \cup S_{12}.$