Náhodné veličiny a rozdělení pravděpodobnosti

V kostce

Náhodná veličina je funkce, která výsledkům pokusu přiřazuje reálná čísla; rozlišujeme diskrétní (izolované hodnoty s nenulovou pravděpodobností) a spojité (hodnoty z intervalu, každý bod má nulovou pravděpodobnost).
Každou náhodnou veličinu popisuje distribuční funkce $F(x) = P(X \le x)$ ; u spojité veličiny platí $F'(x) = f(x)$ , kde $f(x)$ je hustota pravděpodobnosti.
Pravděpodobnost na intervalu se počítá jako $P(x_1 < X < x_2) = F(x_2) - F(x_1)$ .
Normální rozdělení $N(\mu; \sigma^2)$ je nejdůležitější spojité rozdělení; v R ho počítáme funkcemi dnorm, pnorm, qnorm — R jako parametr očekává směrodatnou odchylku $\sigma$ , ne rozptyl $\sigma^2$ .
Studentovo, Pearsonovo (χ²) a Fisherovo-Snedecorovo rozdělení slouží jako nástroj pro pozdější konstrukci intervalů spolehlivosti a testování hypotéz.

Náhodná veličina

Metody aplikované statistiky pracuje s veličinami, jejichž hodnota závisí na náhodě. Formálně: uvažujeme základní prostor $\Omega$ přiřazený výsledkům pokusu. Náhodná veličina $X$ je funkce, která prvkům $\omega \in \Omega$ přiřazuje reálná čísla $x$ , kde $x = X(\omega)$ . Náhodné veličiny značíme velkými písmeny ( $X$ , $Y$ , $T$ ), jejich konkrétní hodnoty odpovídajícími malými písmeny ( $x$ , $y$ , $t$ ); pravděpodobnost, že $X$ nabyla hodnoty $x$ , zapisujeme $P(X = x)$ .

Podle typu hodnot, kterých náhodná veličina nabývá, rozlišujeme dva typy:

Diskrétní náhodná veličina — prvky $\Omega$ se zobrazí na osu reálných čísel jako izolované body $x_1, x_2, \dots, x_k$ , přičemž každý z nich má nenulovou pravděpodobnost. Příklad: počet bodů při hodu kostkou, počet studentů na cvičení.
Spojitá náhodná veličina — hodnoty tvoří interval na ose reálných čísel, přičemž každý bod intervalu má nulovou pravděpodobnost. Příklad: velikost výrobku, doba psaní testu, výška dětí v populaci.

Distribuční funkce

Náhodná veličina nabývá při pokusu určité hodnoty, aniž bychom předem věděli, které. Při opakování pokusu se ale projevují zákonitosti, které popisují zákony rozdělení. Nejobecnějším z nich je distribuční funkce.

mask-nv-distribucni-funkce

Značí-li například $X$ výšku mužů v populaci, pak $F(175)$ je pravděpodobnost, že muž měří nejvýše 175 cm.

Pro distribuční funkci vždy platí:

$0 \le F(x) \le 1$ ,
je neklesající: $x_1 \le x_2 \Rightarrow F(x_1) \le F(x_2)$ ,
je spojitá zprava: $\lim_{h \to 0^+} F(x+h) = F(x)$ ,
$\lim_{x \to -\infty} F(x) = 0$ , $\lim_{x \to \infty} F(x) = 1$ .

U spojité náhodné veličiny je distribuční funkce svázaná s hustotou pravděpodobnosti vztahem

F'(x) = f(x), \qquad F(x) = \int_{-\infty}^{x} f(t)\,dt.

Pravděpodobnost, že $X$ padne mezi body $x_1$ a $x_2$ , se pak počítá jako

P(x_1 < X < x_2) = \int_{x_1}^{x_2} f(t)\,dt = F(x_2) - F(x_1).

Hustota pravděpodobnosti

Intuitivně: rozdělíme-li hodnoty náhodné veličiny (např. výšku mužů v populaci) do stejně širokých intervalů, bude v intervalech blízko průměru nahuštěno víc pozorování než v krajních intervalech — hustota tam bude vyšší.

Charakteristiky spojité náhodné veličiny

Střední hodnota je nejdůležitější charakteristika náhodné veličiny:

E(X) = \int_{-\infty}^{\infty} x \cdot f(x)\,dx.

Je to číslo, kolem něhož kolísají výběrové průměry vypočtené ze sérií pozorovaných hodnot náhodné veličiny.

Rozptyl a směrodatná odchylka:

D(X) = \int_{-\infty}^{\infty} [x - E(X)]^2 f(x)\,dx = \int_{-\infty}^{\infty} x^2 f(x)\,dx - [E(X)]^2, \qquad \sigma(X) = \sqrt{D(X)}.

Směrodatná odchylka udává, jak moc jsou hodnoty náhodné veličiny rozptýlené kolem střední hodnoty. (Pro odhad těchto charakteristik z naměřených dat viz empirické protějšky v popisna-statistika.)

Kvantily udávají, jak jsou hodnoty náhodné veličiny $X$ rozděleny na ose reálných čísel v určitém pravděpodobnostním poměru. 100p%-ní kvantil $x_p$ je číslo, pro které při zvolené pravděpodobnosti $p$ platí

F(x_p) = p.

V intervalu $(-\infty; x_p)$ leží 100p % hodnot, v intervalu $\langle x_p; \infty)$ leží 100(1-p) % hodnot. Nejdůležitější kvantily jsou medián $x_{0{,}5}$ , dolní kvartil $x_{0{,}25}$ a horní kvartil $x_{0{,}75}$ .

Normální rozdělení

Spojitá náhodná veličina $X$ má normální rozdělení $N(\mu; \sigma^2)$ , jestliže její hustota pravděpodobnosti a distribuční funkce jsou dány předpisy

f(x) = \frac{1}{\sigma\sqrt{2\pi}} e^{-\frac{(x-\mu)^2}{2\sigma^2}}, \qquad F(x) = \frac{1}{\sigma\sqrt{2\pi}} \int_{-\infty}^{x} e^{-\frac{(t-\mu)^2}{2\sigma^2}}\,dt,

přičemž $E(X) = \mu$ , $D(X) = \sigma^2$ .

mask-nv-normalni

Křivka hustoty se nazývá Gaussova křivka: je symetrická kolem svislé přímky procházející $\mu$ , kde má $f(x)$ globální maximum, a ve vzdálenosti $3\sigma$ od $\mu$ se téměř dotýká osy x — zhruba 99,73 % hodnot leží v intervalu $(\mu - 3\sigma; \mu + 3\sigma)$ .

Zvláštní postavení má normované normální rozdělení $N(0; 1)$ , na které se dá libovolné normální rozdělení převést standardizací $Z = (X-\mu)/\sigma$ .

Hustota normálního rozdělení N(μ; σ²)

V R:

dnorm(0)
pnorm(1.96)
qnorm(0.975)

[1] 0.3989423
[1] 0.9750021
[1] 1.959964

dnorm(0) je hodnota hustoty $N(0;1)$ v bodě 0, pnorm(1.96) je $F(1{,}96)$ a qnorm(0.975) je 97,5%-ní kvantil — hodnota, pod kterou leží 97,5 % pravděpodobnosti.

mask-nv-priklad-park

pnorm(180, mean = 230, sd = 27.5)

[1] 0.03451817

Park je ztrátový přibližně v 3,45 % dní.

mask-nv-priklad-delka

pnorm(43, mean = 42, sd = 1.2) - pnorm(41, mean = 42, sd = 1.2)

[1] 0.5953432

Do 1. jakostní třídy spadá přibližně 59,53 % výrobků.

mask-nv-priklad-ampulka

pnorm(9.8, mean = 10, sd = sqrt(0.12))

[1] 0.2818514

Obsah menší než 9,8 cm³ má přibližně 28,19 % ampulek.

Další rozdělení dostupná v R

Vedle normálního rozdělení R přímo nabízí hustotu, distribuční funkci a kvantilovou funkci i pro další běžná rozdělení. Pojmenování funkcí je jednotné: d* je hustota/pravděpodobnostní funkce, p* distribuční funkce (s lower.tail = FALSE, případně čtvrtým argumentem TRUE/FALSE, pro horní chvost) a q* kvantilová funkce.

Rozdělení	$P(X=k)$ / $f(x)$	$P(X \le k)$	horní chvost $P(X>k)$
Binomické $Bi(n,p)$	`dbinom(k, n, p)`	`pbinom(k, n, p)`	`pbinom(k, n, p, FALSE)`
Poissonovo $Po(\lambda)$	`dpois(k, lambda)`	`ppois(k, lambda)`	`ppois(k, lambda, FALSE)`
Geometrické $G(p)$	`dgeom(k, p)`	`pgeom(k, p)`	`pgeom(k, p, FALSE)`
Hypergeometrické $H(N,M,n)$	`dhyper(k, M, N-M, n)`	`phyper(k, M, N-M, n)`	`phyper(k, M, N-M, n, FALSE)`
Exponenciální $E(\delta)$	`dexp(k, 1/delta)`	`pexp(k, 1/delta)`	`pexp(k, 1/delta, FALSE)`

V R (pravděpodobnostní a distribuční funkce diskrétní náhodné veličiny $X \sim Bi(5; 0{,}95)$ , a pravděpodobnost, že u exponenciálního rozdělení se střední hodnotou $\delta = 5$ nastane událost do 3 jednotek času):

x <- 0:5
round(dbinom(x, 5, 0.95), 4)
round(pbinom(x, 5, 0.95), 4)

delta <- 5
round(pexp(3, rate = 1 / delta), 4)

[1] 0.0000 0.0000 0.0011 0.0214 0.2036 0.7738
[1] 0.0000 0.0000 0.0012 0.0226 0.2262 1.0000
[1] 0.4512

Studentovo, Pearsonovo a Fisherovo-Snedecorovo rozdělení

Tato tři rozdělení mají statistiky, které se dále používají při konstrukci intervalů spolehlivosti a testování hypotéz (viz testovani-hypotez) — na rozdíl od normálního rozdělení se v příkladech této kapitoly samostatně nepočítají, jsou to nástroje pro další kapitoly.

Studentovo rozdělení s $k$ stupni volnosti má hustotu pravděpodobnosti

f(x) = \frac{1}{B\left(\frac12, \frac{k}{2}\right)\sqrt{k}} \left(1 + \frac{x^2}{k}\right)^{-\frac{k+1}{2}}, \qquad x \in \mathbb{R},

kde $B$ je funkce beta. Je symetrické kolem nuly; číslo $k$ určuje tvar křivky — s rostoucím $k$ se rozdělení blíží normálnímu.

Pearsonovo (chí-kvadrát) rozdělení s $k$ stupni volnosti:

f(x) = \frac{1}{2^{k/2}\Gamma(k/2)} x^{k/2-1} e^{-x/2}, \qquad x > 0,

kde $\Gamma$ je funkce gama.

Fisherovo-Snedecorovo rozdělení se stupni volnosti $k_1$ a $k_2$ :

f(x) = \frac{1}{B\left(\frac{k_1}{2}, \frac{k_2}{2}\right)} \left(\frac{k_1}{k_2}\right)^{k_1/2} x^{k_1/2 - 1} \left(1 + \frac{k_1}{k_2}x\right)^{-\frac{k_1+k_2}{2}}, \qquad x > 0.

mask-nv-specialni-rozdeleni

Studentovo rozdělení a jeho konvergence k normálnímu rozdělení

R funkce pro tato tři rozdělení:

Rozdělení	hustota	distribuční funkce	kvantil
Studentovo $t(k)$	`dt(x, df = k)`	`pt(x, df = k)`	`qt(p, df = k)`
Pearsonovo $\chi^2(k)$	`dchisq(x, df = k)`	`pchisq(x, df = k)`	`qchisq(p, df = k)`
Fisherovo-Snedecorovo $F(k_1, k_2)$	`df(x, df1 = k1, df2 = k2)`	`pf(x, df1 = k1, df2 = k2)`	`qf(p, df1 = k1, df2 = k2)`

V R (97,5%-ní kvantil Studentova rozdělení s 9 stupni volnosti, 95%-ní kvantily Pearsonova a Fisherova-Snedecorova rozdělení):

qt(0.975, df = 9)
qchisq(0.95, df = 9)
qf(0.95, df1 = 3, df2 = 10)

[1] 2.262157
[1] 16.91898
[1] 3.708265

Časté chyby

Rozptyl vs. směrodatná odchylka v R. Zápis $N(\mu; \sigma^2)$ používá rozptyl, ale dnorm/pnorm/qnorm očekávají směrodatnou odchylku. Dosazení rozptylu místo $\sqrt{\sigma^2}$ dává jiný — a pro $\sigma^2 \ne 1$ výrazně odlišný — výsledek (viz příklad s ampulkou).
$P(X=x)$ u spojité veličiny je vždy 0. Hustota $f(x)$ sama o sobě pravděpodobnost neudává — pravděpodobnost dává až plocha pod křivkou na intervalu.
Záměna stupňů volnosti u Fisherova-Snedecorova rozdělení. $k_1$ (čitatel) a $k_2$ (jmenovatel) nejsou zaměnitelné — qf(p, df1, df2) dá jiný výsledek než qf(p, df2, df1).

Související stránky

Reference

KROPÁČ, J. Statistika A. 4. vyd. Brno: Fakulta podnikatelská VUT, 2011.