Empirická distribuční funkce

Empirická distribuční funkce (obvykle označovaná eCDF podle anglického Šablona:Cizojazyčně) je ve statistice distribuční funkce vytvořená na základě empirické míry určené hodnotami určitého znaku z výběrového souboru. Tato distribuční funkce je schodovitá funkce tvořená skoky velikosti Šablona:Math v každém z Šablona:Math datových bodů. Její hodnota v každém bodě je zlomek, jehož čitatelem je počet pozorování, v nichž je měřená proměnná menší nebo rovna zadané hodnotě, a jmenovatelem je rozsah souboru, N.

Empirická distribuční funkce je odhadem distribuční funkce, která generuje datové body. Podle Glivenkovy–Cantelliho věty konverguje k tomuto podkladovému rozdělení s pravděpodobností 1. Rychlost konvergence empirické distribuční funkce k podkladové distribuční funkci popisují různé matematické věty.

Definice

Nechť Šablona:Math jsou nezávislé stejně rozdělené náhodné veličiny reálné náhodné proměnné se stejnou distribuční funkcí Šablona:Math. Empirická distribuční funkce je pak definována vzorcemŠablona:Sfn

${\hat{F}}_n(t)=\frac{n_t}{n}=\frac{1}{n}\sum _{i=1}^n{\chi }_{X_i\le t},$

kde $n_t$ je počet prvků, které mají hodnotu zvoleného znaku menší nebo rovnou $t$, ${\chi }_A$ je charakteristická funkce události Šablona:Math. Pro pevné Šablona:Math je indikátor ${\chi }_{X_i\le t}$ náhodná proměnná s Bernoulliho rozdělením s parametrem Šablona:Math; tedy $n{\hat{F}}_n(t)$ je binomická náhodná proměnná se střední hodnotou Šablona:Math a rozptylem Šablona:Math. Z toho plyne, že ${\hat{F}}_n(t)$ je nevychýlený odhad funkce Šablona:Math.

Někteří autoři používají v čitateli zlomku hodnotu $n+1$:Šablona:SfnŠablona:Sfn

${\hat{F}}_n(t)=\frac{1}{n+1}\sum _{i=1}^n{\chi }_{X_i\le t}$

Střední hodnota

Střední hodnota empirického rozdělení je nestranný odhad střední hodnoty rozdělení populace

$E_n(X)=\frac{1}{n}\left(\sum _{i=1}^n{x}_i\right)$

která se častěji označuje $\overline{x}.$

Rozptyl

Rozptyl empirického rozdělení znásobený $\frac{n}{n-1}$ je nestranný odhad rozptylu rozdělení populace

$\begin{array}{cc}\mathrm{Var}(X)& =\mathrm{E}[(X-\mathrm{E}[X]{)}^2]\\ & =\mathrm{E}[(X-\overline{x}{)}^2]\\ & =\frac{1}{n}\left(\sum _{i=1}^n(x_i-\overline{x}{)}^2\right)\end{array}$

Střední kvadratická chyba

Střední kvadratická chyba empirického rozdělení je

$\begin{array}{cc}\mathrm{MSE}& =\frac{1}{n}\sum _{i=1}^n(Y_i-\widehat{Y_i}{)}^2\\ & ={\mathrm{Var}}_{\hat{\theta }}(\hat{\theta })+\mathrm{Bias}(\hat{\theta },\theta {)}^2\end{array}$

kde $\hat{\theta }$ je odhad a $\theta$ neznámý parametr

Kvantily

Pokud $nq$ není celé číslo, pak $q$-tý kvantil je jednoznačný a jen roven $x_{(\lceil nq\rceil )}$

kde $\lceil a\rceil$ je horní celá část čísla $a$ (nejmenší celé číslo větší nebo rovné $a$).

Pokud $nq$ je celé číslo, pak $q$-tý kvantil není jednoznačný a jeho hodnota může být jakékoli reálné číslo $x$ vyhovující nerovnosti

$x_{(nq)}<x<x_{(nq+1)}$

Empirický medián

Pokud $n$ je liché, pak empirický medián je číslo

$\tilde{x}=x_{(\lceil n/2\rceil )};$

pokud $n$ je sudé, pak empirický medián je číslo

$\tilde{x}=\frac{x_{n/2}+x_{n/2+1}}{2}$

Asymptotické vlastnosti

Protože poměr Šablona:Math se pro Šablona:Math jdoucí k nekonečnu blíží k 1, asymptotické vlastnosti z obou výše uvedených definic jsou stejné.

Podle zákona velkých čísel odhad ${\hat{F}}_n(t)$ konverguje k Šablona:Math pro Šablona:Math skoro jistě pro každou hodnotu Šablona:Math:Šablona:Sfn

${\hat{F}}_n(t)\stackrel{\text{s.j.}}{\to }F(t);$

Odhad ${\hat{F}}_n(t)$ je tedy konzistentní. Tento výraz vyjadřuje bodovou konvergenci empirické distribuční funkce ke skutečné distribuční funkci. Silnější tvrzení poskytuje Glivenkova–Cantelliho věta, která říká, že konvergence je stejnoměrná přes Šablona:Math:Šablona:Sfn

$\Vert {\hat{F}}_n-F{\Vert }_{\mathrm{\infty }}\equiv \underset{t\in ℝ}{\sup }|{\hat{F}}_n(t)-F(t)|\stackrel{\text{s.j.}}{\to }0.$

Suprémová norma v tomto výrazu se nazývá Kolmogorovova–Smirnovova statistika pro testování, jak dobře empirické rozdělení ${\hat{F}}_n(t)$ vyhovuje předpokládané skutečné distribuční funkci Šablona:Math. Mohou být použity i jiné normy, například L²-norma, která dává Cramérovu–von Misesovu statistiku.

Asymptotická rozdělení lze dále charakterizovat několika různými způsoby:

Centrální limitní věta, říká, že bodově má ${\hat{F}}_n(t)$ asymptoticky normální rozdělení se standardní $\sqrt{n}$ rychlostí konvergence:Šablona:Sfn

$\sqrt{n}({\hat{F}}_n(t)-F(t))\stackrel{d}{\to }𝒩(0,F(t)(1-F(t)\left)\right).$

Tento výsledek rozšiřuje Donskerova věta, která říká, že pokud empirický proces $\sqrt{n}({\hat{F}}_n-F)$ považujeme za třídu funkcí indexovaných reálným číslem $t\in ℝ$, konverguje v rozdělení ve Skorochodově prostoru $D⟨-\mathrm{\infty },+\mathrm{\infty }⟩$ ke gaussovskému procesu se střední hodnotou nula $G_F=B\circ F$, kde Šablona:Math je standardní Brownův můstek.Šablona:Sfn Kovarianční struktura tohoto gaussovského procesu je

$\mathrm{E}⟨G_F(t_1)G_F(t_2)⟩=F(t_1\wedge t_2)-F(t_1)F(t_2).$

Rovnoměrnou konvergenci v Donskerově větě lze kvantifikovat výsledkem známým jako maďarské vnoření:Šablona:Sfn

$\underset{n\to \mathrm{\infty }}{\mathrm{lim\; sup}}\frac{\sqrt{n}}{{\ln }^{2}n}\Vert \sqrt{n}({\hat{F}}_n-F)-G_{F,n}{\Vert }_{\mathrm{\infty }}<\mathrm{\infty },\text{s.j.}$

Rychlost konvergence výrazu $\sqrt{n}({\hat{F}}_n-F)$ lze také kvantifikovat asymptotickým chováním suprémové normy tohoto výrazu. V této oblasti existují další výsledky, například Dvoretzkého–Kieferova–Wolfowitzova nerovnost poskytuje meze tail probabilities of $\sqrt{n}\Vert {\hat{F}}_n-F{\Vert }_{\mathrm{\infty }}$:Šablona:Sfn

$\mathrm{Pr}(\sqrt{n}\Vert {\hat{F}}_n-F{\Vert }_{\mathrm{\infty }}>z)\le 2e^{-2z^2}.$

Kolmogorov ukázal, že pokud je distribuční funkce Šablona:Math spojitá, pak výraz $\sqrt{n}\Vert {\hat{F}}_n-F{\Vert }_{\mathrm{\infty }}$ konverguje v rozdělení k $\Vert B{\Vert }_{\mathrm{\infty }}$, který má Kolmogorovovo–Smirnovovo rozdělení, které nezávisí na tvaru funkce Šablona:Math.

Ze zákona opakovaného logaritmu plyne další výsledekŠablona:Sfn

$\underset{n\to \mathrm{\infty }}{\mathrm{lim\; sup}}\frac{\sqrt{n}\Vert {\hat{F}}_n-F{\Vert }_{\mathrm{\infty }}}{\sqrt{2\ln \ln n}}\le \frac{1}{2},\text{s.j.}$

a

$\underset{n\to \mathrm{\infty }}{\mathrm{lim\; inf}}\sqrt{2n\ln \ln n}\Vert {\hat{F}}_n-F{\Vert }_{\mathrm{\infty }}=\frac{\pi }{2},\text{s.j.}$

Intervaly spolehlivosti

Empirická distribuční funkce, distribuční funkce a intervaly spolehlivosti grafická znázornění pro různé velikosti vzorku normálního rozdělení

Podle Dvoretzkého–Kieferovy–Wolfowitzovy nerovnosti lze interval, který obsahuje skutečnou distribuční funkci $F(x)$ s pravděpodobností $1-\alpha$, zapsat

Grafické znázornění empirické distribuční funkce, distribuční funkce a intervalu spolehlivosti pro různé velikosti vzorku Cauchyho rozdělení

$F_n(x)-\epsilon \le F(x)\le F_n(x)+\epsilon \text{ kde }\epsilon =\sqrt{\frac{\ln \frac{2}{\alpha }}{2n}}.$

Podle výše uvedených mezí můžeme graficky znázornit empirickou distribuční funkci, distribuční funkci a intervaly spolehlivosti pro různé distribuce pomocí libovolné statistické implementace. Následuje syntax z StatsmodelŠablona:Nedostupný zdroj pro grafické znázornění empirického rozdělení.

Grafické znázornění empirické distribuční funkce, distribuční funkce a intervalu spolehlivosti pro vzorky různé velikosti trojúhelníkového rozdělení

Statistické implementace

K softwarovým implementacím empirické distribuční funkce patří:

• V programovacím jazyce R lze počítat empirické distribuční funkce, k dispozici je několik metod pro grafické znázornění a tisk a výpočty empirických distribučních funkcí.
• V Mathworks lze použít vykreslení grafu empirické distribuční funkce (cdf)
• jmp ze SAS obsahuje CDF plot, který vytváří graf empirické distribuční funkce
• Minitab, vytváří empirické distribuční funkce
• Mathwave Šablona:Wayback umožňuje napasovat rozdělení pravděpodobnosti na data
• Dataplot, umožňuje vykreslit graf empirické distribuční funkce
• Scipy Šablona:Wayback, pomocí scipy.stats umožňuje vykreslit graf rozdělení
• Statsmodels, umožňuje použití statsmodels.distributions.empirical_distribution.ECDF
• Matplotlib, umožňuje použití histogramů pro vytvoření grafu kumulativního rozdělení
• Seaborn obsahuje funkci seaborn.ecdfplot
• Plotly, lze použít funkci plotly.express.ecdf
• Excel umožňuje vykreslit graf empirické distribuční funkce

Odkazy

Literatura

• Šablona:Citace monografie
• Šablona:Citace monografie
• Šablona:Citace monografie
• Šablona:Citace monografie

Související články

• Càdlàg funkce
• Count data
• Fitting rozdělení
• Dvoretzkého–Kieferova–Wolfowitzova nerovnost
• Empirická pravděpodobnost
• Empirické zpracování
• Kvantil – odhad kvantilů ze vzorku
• Četnost
• Kaplanův–Meierův odhad pro cenzorované procesy
• Funkce přežití
• Q-Q graf
• Znak (statistika)

Externí odkazy

• Šablona:Commonscat