多变量正态分布

一种多元正态分布是A.矢量图在多个正态分布变量，使得任何线性组合变量也正态分布。它在延长时很有用中央限制定理到多个变量，但也有应用贝叶斯推断因此机器学习，其中所述多元正态分布来近似的一些特性的特征;例如，在检测中的照片的面。

2个变量中的正常（或高斯）分布

一种随机向量 $\ mathbf {X} =（X_1，X_2，\ ldots，X_n）$是多元正常的，如果任何线性组合随机变量 $X_1，X_2，\ ldots，X_n$是正态分布。换句话说， $a_1X_1 + a_2X_2 + \ ldots + a_nX_n$对任何常数都有正常分布 $A_1，A_2，\ LDOTS，A_N$。

同样地，多变量分布可以被看作是一个线性变换独立的标准正态随机变量的集合，这意味着如果 $\ mathbf {Z}$是另一随机矢量，其分量都是标准随机变量，存在矩阵 $一种$和向量 $\亩$这样

$\ mathbf {X} = A \ mathbf {Z} + \亩。$

如果 $\ mathbf {X}$是多元很正常，它也有一个平均向量 $\亩$这样

$\ mu =（\ mathbb {e}（x_1），\ mathbb {e}（x_2），\ ldots，\ mathbb {e}（x_n））$

在哪里 $\ mathbb {E}（X）$是预期的值（或平均值）的 $X$。 $\ mathbf {X}$也有一个协方差矩阵 $\ sigma.$满意

$\ Sigma_ {I，J} = \ {文本冠状病毒}（X_I，X_j）$

在哪里 $\文本{冠状病毒}（X_I，X_j）$是协方差的 $X_I.$和 $X_j$。

此外， $\ mathbf {X}$完全被定义 $\亩$和 $\ sigma.$，所以可以很方便地写

$\ mathbf {X} \ SIM \ mathcal {N}（\亩，\ Sigma）中。$

当p.d.f.多元正态分布 $\ mathbf {X}$是给出的

$P（\ mathbf {X}; \亩，\ Sigma公司）= \压裂{1} {（2 \ PI）^ {\压裂{N} {2}} | \西格玛| ^ {\压裂{1} {2}}} \文本{EXP} \左（ - \压裂{1} {2}（\ mathbf {X} - \亩）^ T \西格玛^ { - 1}（\ mathbf {X} - \亩）\对）$

在哪里 $\文本{exp}（x）= e ^ x$。

在理解这个方程式中，与p.d.f比较是有用的。的单变量正常分布或正态分布在1个变量，其由下式给出

$P（X; \亩，\西格马^ 2）= \压裂{1} {\ SQRT {2 \ PI} \西格玛} \文本{EXP} \左（ - \压裂{1} {2 \西格玛^ 2}（X- \亩）^ 2 \右）$

在这种情况下，单因素， $- \压裂{1} {2 \西格玛^ 2}（X- \亩）^ 2$是的二次函数 $X.$，这是一个抛物线由于负极的主要系数，这向下开放。在多变量的情况下， $- \压裂{1} {2}（\ mathbf {X} - \亩）^ T \西格玛^ { - 1}（\ mathbf {X} - \亩）$是A.二次型在载体中 $\ mathbf {X}$。自从 $\ sigma.$是积极的确定，这种二次形式是负的明确，因此以类似的方式向向下定向“碗”，以便单变量案例中的抛物线向下开放。

在单变量情况下的首项系数 $\压裂{1} {\ SQRT {2 \ PI} \西格玛}$不依赖 $X.$，并且选择在这样的方式

$\压裂{1} {\ SQRT {2 \ PI} \西格玛} \ INT _ { - \ infty} ^ {\ infty} \文本{EXP} \左（ - \压裂{1} {2 \西格玛^ 2}（X- \亩）^ 2 \右侧）= 1$

类似地，在多变量情况下的首项系数 $\ frac {1} {（2 \ pi）^ {\ frac {n} {2}} | \ sigma | ^ {\ frac {1} {2}}}$不依赖 $\ mathbf {X}$，并且选择在这样的方式

$\压裂{1} {（2 \ PI）^ {\压裂{N} {2}} | \西格玛| ^ {\压裂{1} {2}}} \ INT _ { - \ infty} ^ {\ infty}\ INT _ { - \ infty} ^ {\ infty} \ ldots \ INT _ { - \ infty} ^ {\ infty} \文本{EXP} \左（ - \压裂{1} {2}（\ mathbf {X} -\亩）^ T \西格玛^ { - 1}（\ mathbf {X} - \亩）\右）= 1$

还值得一提的是，多元公式简化为一个单变量的情况下 $n = 1$，正如在这种情况下 $（\ mathbf {x} - \ mu）^ t \ sigma ^ { - 1}（\ mathbf {x} - \ mu）=（x-\ mu）\ frac {1} {\ sigma ^ 2}（x-\亩）$。

多变量分布的一个主要重要性的延伸中央限制定理多个变量：

假设 $\ {X_I \} _ {I \在\ mathbb {N}}$是独立的序列，同分布具有共同均值向量随机向量 $\亩$和正定\协方差矩阵 $\西格玛$。然后

$Y_n = \压裂{1} {\ SQRT {N}} \ {sum_ I = 1} ^ N（X_i- \亩）$

要收敛

$Y_n \ SIM \ mathcal {N}（0，\ Sigma）的$

多变量正常分布可用于分析多个正常分布变量之间的关系，因此对生物学和经济学的沉重应用，其中大致正常变量之间的关系具有很大的兴趣。例如，多变量分布的最早用途之一是分析父亲的身高与他们年长儿子的高度之间的关系，解决了达尔文提出的问题论物种的起源。这项工作表明：

• 父亲和儿子的身高通常用平均值68和方差3（以英寸为单位）分发。
• 对于任何给定的高度 $F$，儿子，他们的父亲是高度的高度 $F$曾是还有通常分布，实际上平均高度是线性函数 $F$。

从本质上说，高尔顿就已经发现了条件分布多元正态分布的：如果 $\ mathbf {X}$被分成 $\开始{pmatrix} \ {mathbf X_1} \\\ mathbf {X_2} \ {端} pmatrix$那 $\亩$进入 $\开始{pmatrix} \ mu_1 \\\ mu_2 \ {端} pmatrix$， 和 $\ sigma.$进入 $\开始{pmatrix} \ Sigma_ {11}＆\ Sigma_ {12} \\\西格玛'_ {12}＆\ Sigma_ {22} \ {端} pmatrix$， 然后

$\ mathbf {X_1} | \ mathbf {X_2} \ SIM \ mathcal {N}（\ mu_1 + \ sigma_ {12} \ sigma_ {22} ^ { - 1}（\ mathbf {X_2} - \ mu_2），\ sigma_ {11} - \ sigma_ {12} \ {sigma_ 22} ^ { - 1} \ sigma_ {12}'）$

其重要性主要是延伸到的事实，条件分布 $\ mathbf {X} | \ mathbf {Y}$2个多元正态变量是正态分布，其中的参数的函数 $\ mathbf {Y}$。

在现代社会，多元正态分布是非常重要的机器学习，其目的是（非常粗略地讲）进行分类的输入数据 $X.$为标签 $y$基于一些训练对 $X，Y.$。一个主要的方法包括分析的分布 $P（X | Y）$，并用多变量正态分布逼近它，其中的有效性可使用各种检查正态性检验;然而矛盾的是，分类基于多元正态分布的，即使它是已知的数据是不良的模式的实践是成功的。

• 连续随机变量 - 概率密度函数（PDF）
• 正常分布
• 协方差