Vícerozměrná náhodná proměnná

Vícerozměrná náhodná proměnná nebo náhodný vektor je v teorii pravděpodobnosti a statistice seznam matematických proměnných, jehož žádná hodnota není známa, buď protože zatím nebyla pozorována, nebo protože její hodnotu neznáme přesně. Jednotlivé proměnné jsou sdružené v náhodném vektoru, protože tvoří části jednoho matematického systému – často reprezentují různé vlastnosti určité statistické jednotky. Pokud například chceme zachytit, že každá osoba má určitý věk, výšku a hmotnost, lze tyto vlastnosti blíže neurčené osoby z určité skupiny reprezentovat náhodným vektorem. Prvky náhodných vektorů jsou obvykle reálná čísla.

Náhodné vektory se často používají jako podkladová implementace různých typů agregátů náhodných proměnných, například náhodných matic, náhodných stromů, náhodných posloupností, náhodných procesů apod.

Formálněji vícerozměrná náhodná proměnná je sloupcový vektor $𝐗=(X_1,...,X_n{)}^T$ (nebo řádkový vektor, který je jeho transpozicí), jehož složkami jsou skalární náhodné proměnné, všechny na stejném pravděpodobnostním prostoru $(\mathrm{\Omega },ℱ,P)$, kde $\mathrm{\Omega }$ je prostor elementárních jevů, $ℱ$ je sigma algebra (kolekce všech událostí) a $P$ je pravděpodobnostní míra (funkce vracející pravděpodobnost každé události).

Pravděpodobnost rozdělení

Hodnoty náhodného vektoru vytváří pravděpodobnostní míru na ${ℝ}^n$ s borelovskou algebrou jako podkladovou sigma-algebrou, která definuje sdružené rozdělení pravděpodobnosti, sdružené rozdělení nebo vícerozměrné rozdělení náhodného vektoru.

Rozdělení pravděpodobnosti každé složky náhodného vektoru $X_i$ se nazývají marginální rozdělení. Podmíněné rozdělení pravděpodobnosti $X_i$ pro dané $X_j$ je rozdělení pravděpodobnosti $X_i$, je-li $X_j$ známé, aby byla určitý hodnota.

Distribuční funkce $F_{𝐗}:{ℝ}^n\mapsto ⟨0,1⟩$ náhodného vektoru $𝐗=(X_1,...,X_n{)}^T$ je definována jakoŠablona:Rp

kde $𝐱=(x_1,...,x_n{)}^T$.

Operace s náhodnými vektory

S náhodnými vektory lze provádět stejné algebraické operace jako s obyčejnými vektory: sčítání, odčítání, násobení skalárem a skalární součin.

Afinní transformace

Podobně nový náhodný vektor $𝐘$ lze definovat aplikací afinní transformace $g:{ℝ}^n\to {ℝ}^n$ na náhodný vektor $𝐗$:

$𝐘=𝒜𝐗+b$, kde $𝒜$ je matice $n\times n$ a $b$ je sloupcový vektor $n\times 1$.

Pokud $𝒜$ je invertovatelná matice a $𝐗$ má hustotu pravděpodobnosti $f_{𝐗}$, pak hustota pravděpodobnosti $𝐘$ je

$f_{𝐘}(y)=\frac{f_{𝐗}({𝒜}^{-1}(y-b))}{|\det 𝒜|}$.

Invertovatelná zobrazení

Obecněji můžeme studovat invertovatelná zobrazení náhodných vektorů.Šablona:Rp

Nechť $g$ je bijektivní zobrazení z otevřené podmnožiny $𝒟\subseteq {ℝ}^n$ na podmnožinu $ℛ\subseteq {ℝ}^n$, nechť $g$ má spojité parciální derivace v $𝒟$ a nechť Jacobián $g$ není nulový v žádném bodě $𝒟$. Předpokládejme, že reálný náhodný vektor $𝐗$ má hustotu pravděpodobnosti $f_{𝐗}(𝐱)$ a vyhovuje $P(𝐗\in 𝒟)=1$. Pak náhodný vektor $𝐘=g(𝐗)$ má hustotu pravděpodobnosti

${f_{𝐘}(𝐲)=\frac{f_{𝐗}(𝐱)}{|\det \frac{\partial g(𝐱)}{\partial 𝐱}|}|}_{𝐱=g^{-1}(𝐲)}\mathrm{𝟏}(𝐲\in R_{𝐘})$

kde $\mathrm{𝟏}$ označuje charakteristickou funkci a množina $R_{𝐘}=\{𝐲=g(𝐱):f_{𝐗}(𝐱)>0\}\subseteq ℛ$ označuje nosič $𝐘$.

Střední hodnota

Střední hodnota nebo očekávaná hodnota náhodného vektoru $𝐗$ je pevný vektor $\mathrm{E}[𝐗]$, jehož prvky jsou střední hodnoty příslušné náhodné proměnné.Šablona:Rp

Kovariance a křížová kovariance

Definice

Kovarianční matice (také nazývaná druhý centrální moment) náhodného vektoru $n\times 1$ je matice, $n\times n$ jejíž prvek (i,j) je kovariance mezi i-tou a j-tou náhodnou proměnnou. Kovarianční matice je střední hodnota, prvek po prvku, matice $n\times n$ vypočítané jako $[𝐗-\mathrm{E}[𝐗]][𝐗-\mathrm{E}[𝐗]{]}^T$, kde horní index T je transpozice vektoru:Šablona:RpŠablona:Rp

Rozšířením křížová kovarianční matice mezi dvěma náhodnými vektory $𝐗$ a $𝐘$ ($𝐗$ s $n$ prvky a $𝐘$ s $p$ prvky) je matice $n\times p$Šablona:Rp

kde střední hodnota matice se opět bere po složkách. Prvek (i,j) je kovariance mezi i-tým prvkem $𝐗$ a j-tým prvkem $𝐘$.

Vlastnosti

Kovarianční matice je symetrická matice, tj..Šablona:Rp

${\mathrm{K}}_{𝐗𝐗}^T={\mathrm{K}}_{𝐗𝐗}$.

Kovarianční matice je kladně semidefinitní matice, i.e.Šablona:Rp

${𝐚}^T{\mathrm{K}}_{𝐗𝐗}𝐚\ge 0\mathrm{\forall }𝐚\in {ℝ}^n$.

Křížová kovarianční matice $\mathrm{Cov}[𝐘,𝐗]$ je transpozicí matice $\mathrm{Cov}[𝐗,𝐘]$, tj.

${\mathrm{K}}_{𝐘𝐗}={\mathrm{K}}_{𝐗𝐘}^T$.

Nekorelovanost

Dva náhodné vektory $𝐗=(X_1,...,X_m{)}^T$ a $𝐘=(Y_1,...,Y_n{)}^T$ se nazývají nekorelované, pokud

$\mathrm{E}[𝐗{𝐘}^T]=\mathrm{E}[𝐗]\mathrm{E}[𝐘{]}^T$.

Jsou nekorelované právě tehdy, když jejich křížová kovarianční matice ${\mathrm{K}}_{𝐗𝐘}$ je nulová.Šablona:Rp

Korelace a křížová korelace

Definice

Autokorelační matice (také nazývaná druhý moment) náhodného vektoru $n\times 1$ je matice $n\times n$, jejíž prvek (i,j) je korelace mezi náhodnými proměnnými i ^th a j ^th. Korelační matice je očekávaná hodnota, prvek po prvku, matice $n\times n$ vypočítané jako $𝐗{𝐗}^T$, kde horní index T znamená transpozici příslušného vektoru:Šablona:RpŠablona:Rp

Rozšířením křížové korelační matice mezi dvěma náhodnými vektory $𝐗$ a $𝐘$ ($𝐗$ s $n$ prvky a $𝐘$ s $p$ prvky) je matice $n\times p$

Vlastnosti

Korelační matice má souvislost s kovarianční matice by

${\mathrm{R}}_{𝐗𝐗}={\mathrm{K}}_{𝐗𝐗}+\mathrm{E}[𝐗]\mathrm{E}[𝐗{]}^T$.

Podobně pro křížová korelace matice a křížová kovarianční matice:

${\mathrm{R}}_{𝐗𝐘}={\mathrm{K}}_{𝐗𝐘}+\mathrm{E}[𝐗]\mathrm{E}[𝐘{]}^T$

Ortogonalita

Dva náhodné vektory stejné velikosti $𝐗=(X_1,...,X_n{)}^T$ a $𝐘=(Y_1,...,Y_n{)}^T$ se nazývají ortogonální, jestliže

$\mathrm{E}[{𝐗}^T𝐘]=0$.

Nezávislost

Šablona:Podrobně Dva náhodné vektory $𝐗$ a $𝐘$ se nazývají nezávislé, jestliže pro všechny $𝐱$ a $𝐲$

$F_{𝐗,𝐘}(𝐱,𝐲)=F_{𝐗}(𝐱)\cdot F_{𝐘}(𝐲)$

kde $F_{𝐗}(𝐱)$ a $F_{𝐘}(𝐲)$ značí kumulativní rozdělení funkce $𝐗$ a $𝐘$ a$F_{𝐗,𝐘}(𝐱,𝐲)$ označuje jejich sdružené distribuční funkce. Nezávislost $𝐗$ a $𝐘$ se často značí $𝐗\perp \perp 𝐘$. Rozepsáno po složkách, o $𝐗$ a $𝐘$ říkáme, že jsou nezávislé, pokud pro všechny $x_1,\dots ,x_m,y_1,\dots ,y_n$

$F_{X_1,\dots ,X_m,Y_1,\dots ,Y_n}(x_1,\dots ,x_m,y_1,\dots ,y_n)=F_{X_1,\dots ,X_m}(x_1,\dots ,x_m)\cdot F_{Y_1,\dots ,Y_n}(y_1,\dots ,y_n)$.

Charakteristická funkce

Charakteristická funkce náhodného vektoru $𝐗$ s $n$ složkami je funkce ${ℝ}^n\to ℂ$ které převádí každý vektor $\mathit{\omega }=({\omega }_1,\dots ,{\omega }_n{)}^T$ na složitý rumber. je definovaný byŠablona:Rp

${\phi }_{𝐗}(\mathit{\omega })=\mathrm{E}\left[e^{i({\mathit{\omega }}^T𝐗)}\right]=\mathrm{E}\left[e^{i({\omega }_1{X}_1+\dots +{\omega }_n{X}_n)}\right]$.

Další vlastnosti

Střední kvadratická forma

Střední hodnotu kvadratické formy můžeme vyjádřit náhodným vektorem $𝐗$ takto:Šablona:Rp

$\mathrm{E}[{𝐗}^{T}A𝐗]=\mathrm{E}[𝐗{]}^{T}A\mathrm{E}[𝐗]+\mathrm{tr}(A{K}_{𝐗𝐗}),$

kde $K_{𝐗𝐗}$ je kovarianční matice $𝐗$ a $\mathrm{tr}$ je stopa matice – tj. součet prvků na její hlavní diagonále (shora zleva dolů doprava). Protože kvadratická forma je skalární, bude skalár i její střední hodnota.

Důkaz: Nechť $𝐳$ jsou náhodný vektor $m\times 1$ s $\mathrm{E}[𝐳]=\mu$ a $\mathrm{Cov}[𝐳]=V$ a nechť $A$ je nestochastická matice $m\times m$.

Pak podle vzorce pro kovarianci, jestliže označíme ${𝐳}^T=𝐗$ a ${𝐳}^T{A}^T=𝐘$, vidíme, že:

$\mathrm{Cov}[𝐗,𝐘]=\mathrm{E}[𝐗{𝐘}^T]-\mathrm{E}[𝐗]\mathrm{E}[𝐘{]}^T$

Tudíž

$\begin{array}{cc}\mathrm{E}[X{Y}^T]& =\mathrm{Cov}[X,Y]+\mathrm{E}[X]\mathrm{E}[Y{]}^T\\ \mathrm{E}[z^{T}Az]& =\mathrm{Cov}[z^T,z^T{A}^T]+\mathrm{E}[z^T]\mathrm{E}[z^T{A}^T{]}^T\\ & =\mathrm{Cov}[z^T,z^T{A}^T]+{\mu }^T({\mu }^T{A}^T{)}^T\\ & =\mathrm{Cov}[z^T,z^T{A}^T]+{\mu }^{T}A\mu ,\end{array}$

nyní zbývá pouze ukázat, že

$\mathrm{Cov}[z^T,z^T{A}^T]=\mathrm{tr}(AV).$

To je splněno díky tomu, že můžeme cyklicky permutovat matici bez změny konečného výsledku (např.: $\mathrm{tr}(AB)=\mathrm{tr}(BA)$).

Vidíme, že

$\begin{array}{cc}\mathrm{Cov}[z^T,z^T{A}^T]& =\mathrm{E}\left[(z^T-E(z^T)){(z^T{A}^T-E\left(z^T{A}^T\right))}^T\right]\\ & =\mathrm{E}[(z^T-{\mu }^T)(z^T{A}^T-{\mu }^T{A}^T{)}^T]\\ & =\mathrm{E}[(z-\mu {)}^T(Az-A\mu )].\end{array}$

Protože

${\left(z-\mu \right)}^T\left(Az-A\mu \right)$

je skalár, pak

$(z-\mu {)}^T(Az-A\mu )=\mathrm{tr}\left((z-\mu {)}^T(Az-A\mu )\right)=\mathrm{tr}((z-\mu {)}^{T}A(z-\mu ))$

triviálně. Při použití permutace dostaneme:

$\mathrm{tr}\left((z-\mu {)}^{T}A(z-\mu )\right)=\mathrm{tr}\left(A(z-\mu )(z-\mu {)}^T\right),$

a dosazením do původní formule dostaneme:

$\begin{array}{cc}\mathrm{Cov}\left[z^T,z^T{A}^T\right]& =E\left[{\left(z-\mu \right)}^T(Az-A\mu )\right]\\ & =E[\mathrm{tr}(A(z-\mu )(z-\mu {)}^T)]\\ & =\mathrm{tr}\left(A\cdot \mathrm{E}((z-\mu )(z-\mu {)}^T)\right)\\ & =\mathrm{tr}(AV).\end{array}$

Střední hodnota součinu dvou různých kvadratických forem

Můžeme vzít střední hodnotu součinu ze dvou různý kvadratických forem náhodný vektor $𝐗$ ve vícerozměrném normálním rozdělení s nulovou střední hodnotou takto:Šablona:Rp

$\mathrm{E}[({𝐗}^{T}A𝐗)({𝐗}^{T}B𝐗)]=2\mathrm{tr}(A{K}_{𝐗𝐗}B{K}_{𝐗𝐗})+\mathrm{tr}(A{K}_{𝐗𝐗})\mathrm{tr}(B{K}_{𝐗𝐗})$

kde opět $K_{𝐗𝐗}$ je kovarianční matice $𝐗$. Opět, protože obě kvadratické formy jsou skaláry a tedy jejich součin je skalár, střední hodnota jejich součinu je také skalární.

Aplikace

Teorie portfolia

V teorii portfolia ve finančnictví často slouží účelová funkce k výběru portfolia rizikového majetku tak, aby rozdělení výnosu náhodného portfolia mělo požadované vlastnosti. Můžeme například chtít vybrat výnos portfolia, který bude mít nejnižší rozptyl pro danou střední hodnotu. Náhodný vektor je zde vektor $𝐫$ náhodných výnosů z určitého majetku a výnos portfolia p (náhodná skalární hodnota) je skalárním součinem vektoru náhodných výnosů s vektorem w vah portfolia – části portfolia alokovaného na příslušný majetek. Protože p = w^T$𝐫$, střední hodnota výnosu portfolia je w^TE($𝐫$) a rozptyl výnosu portfolia bude w^TCw, kde C je kovarianční matice $𝐫$.

Teorie regrese

V teorii lineární regrese máme data z n pozorování závislé proměnné y a n pozorování každé z k nezávislých proměnných x_j. Pozorování závislých proměnných jsou uspořádána do sloupcového vektoru y; pozorování každé nezávislé proměnné jsou uspořádána do sloupcových vektorů, které tvoří regresní matici X (neznamenající v tomto kontextu náhodný vektor) pozorování nezávislé proměnné. Pak následující regresní rovnice prohlásíme za popis procesu, který generoval data:

$y=X\beta +e,$

kde β je pevný, ale neznámý vektor k koeficientů odezvy a e je neznámý náhodný vektor odrážející náhodné vlivy na závislou proměnnou. Nějakou zvolenou technikou jako například pomocí obyčejných nejmenších čtverců dostaneme vektor $\hat{\beta }$, který je odhadem β, pomocí něhož vypočítáme $\hat{e}$, odhad vektoru e

$\hat{e}=y-X\hat{\beta }.$

Statistik pak musí analyzovat vlastnosti $\hat{\beta }$ a $\hat{e}$, na které pohlížíme jako na náhodné vektory, protože náhodný výběr n pozorovaných případů způsobuje, že budou mít různé hodnoty.

Vektorová časová řada

Vývoj náhodného vektoru k×1 $𝐗$ v čase lze modelovat jako vektorovou autoregresi (VAR) takto:

${𝐗}_t=c+A_1{𝐗}_{t-1}+A_2{𝐗}_{t-2}+\cdots +A_p{𝐗}_{t-p}+{𝐞}_t,$

kde vektor pozorování ${𝐗}_{t-i}$ o i period zpět se nazývá i-té zpoždění $𝐗$, c je k × 1 vektor konstant, A_i je časově invariantní matice k × k a ${𝐞}_t$ je náhodný vektor k × 1 chybových členů.

Odkazy

Související články

• Náhodná veličina