条件概率分布

条件概率一件事为真的概率是在另一件事为真的前提下吗?关键的概念在里面吗贝叶斯定理．这与联合概率也就是两件事都为真而不知道其中一件一定为真的概率。

例如，一个联合概率是“你的左右袜子都是黑色的概率”，而一个条件概率是“如果你知道你的右边袜子是黑色的，你的左边袜子是黑色的概率”，因为添加信息会改变概率。这个值可以高也可以低，这取决于你正确搭配袜子的频率。一个欧拉图，其中面积与概率成正比，可以证明这种差异。

让 $X$求你左边袜子是黑色的概率，让 $Y$是你右边袜子是黑色的概率。在图的左边，黄色区域表示你的两只袜子都是黑色的概率。这是联合概率 $P (X, Y)$．如果 $Y$是绝对正确的(例如，假设你右边的袜子肯定是黑色的)，那么所有的空间都不是 $Y$所有东西都掉下来了吗 $Y$重新缩放到原始空间的大小。重新缩放的黄色区域现在是的条件概率 $X$鉴于 $Y$，表示为 $P(X \mid Y)$．换句话说，这是如果你知道你的右边袜子是黑色的你左边袜子是黑色的概率。的条件概率 $X$鉴于 $Y$一般不等于的条件概率吗 $Y$鉴于 $X$．这是 $X$这是黄色的，在这幅图中比 $Y$那是黄色的。

在哲学领域内,所有概率是条件概率。在欧拉图中， $X$而且 $Y$以它们所在的盒子为条件，以同样的方式吗 $X | y$以盒子为条件吗 $Y$它在。以这种方式处理概率可以将不同类型的推理连接在一起贝叶斯定理更简单，考虑到结果的不确定性(“假设这枚硬币是公平的，我得到正面的可能性有多大”)和假设的不确定性(“假设弗兰克给了我这枚硬币，它有多大可能是公平的?”)的组合。历史上，条件概率经常被误解，从而产生了著名的理论蒙蒂霍尔问题而且科学中的贝叶斯错误．

的条件概率质量函数 $Y$给定值的出现 $x$的 $X$根据定义可以写成

$P (Y = Y \中期X = X) = \ dfrac {P (X = X \帽Y = Y)} {P (X = X)}。$

除以 $P (X = X)$将联合概率重新调整为条件概率，如介绍中的图表所示。自 $P (X = X)$在分母中，这只定义为非零(因此严格为正) $P (X = X)$．此外,由于 $P(X = X) \leq 1$，那一定是真的 $P(Y = Y \mid X= X) \geq P(X= X \cap Y= Y)$，并且它们只有在 $P(X = X) = 1$．在任何其他情况下，更有可能是这样 $X = X$而且 $Y = Y$如果已经知道的话 $X = X$比不知道要好。

的概率分布的关系 $X$鉴于 $Y$是

$P (Y = Y \中期X = X) P (X = X) = P (X = X \ \帽Y = Y) = P (X = X \中期Y = Y) P (Y = Y)。$

作为一个具体的例子，下图显示了一个概率树，分解二元随机变量上的条件分布 $一个$而且 $B$．右边的四个节点是空间中四个可能的事件。最左边的节点值为1。中间节点的每个值都等于它们的子节点的和。边值是它右边的节点除以它左边的节点。这反映了所有概率都是有条件的。 $(一页)$而且 $P (B)$都是以整个概率空间的假设为条件的，比如" $一个$而且 $B$是抛硬币的结果"

类似地，对于连续随机变量，条件概率密度函数为 $Y$给定值的出现 $x$的 $X$可以写成

$f_Y(y \mid X= X) = \dfrac{f_{X, y}(X, y)}{f_X(X)}，$

在哪里 $f_{X, Y} (X, Y)$的关节密度 $X$而且 $Y$,而 $f_X (x)$的边际密度 $X$．在这种情况下，有必要 $f_{X} (X) > 0$．的概率分布的关系 $X$鉴于 $Y$是由

$f_Y (y \ X = X)中期f_X f {X, y} (X) = (X, y) = f_X (X、y = y)中期f_Y (y)。$

连续随机变量的条件分布的概念并不像它看起来那样直观:波莱尔悖论说明条件概率密度函数在坐标变换下不一定不变。

条件分布和边际分布是相关的贝叶斯定理，这是根据联合分布定义条件分布的简单结果。

离散分布的贝叶斯定理表明

$\{对齐}开始P (Y = Y \中期X = X) P (X = X) & = P (X = X \ \帽Y = Y) \ \ & = P (X = X \中期Y = Y) P (Y = Y) \ \ \ \ \ Rightarrow P (Y = Y \中期X = X) & = \ dfrac {P (X = X \中期Y = Y)} {P (X = X)} P (Y = Y)。结束\{对齐}$

这可以被解释为改变边际分布的规则 $P (Y = Y)$进入条件分布 $P(Y= Y \mid X= X)$乘以这个比率 $\frac{P(X= X \mid Y= Y)}{P(X= X)}$．这些函数称为先验分布，后验分布,似然比,分别。

对于连续分布，一个类似的公式将条件密度与边际密度联系起来:

$f {Y} (Y \中期X = X) = \ dfrac f {X} {(X \中期Y = Y)} {f {X} (X)} f {Y} (Y)。$

两个变量是独立的，如果知道其中一个的值却不能给出另一个的信息。更准确地说，是随机变量 $X$而且 $Y$当且仅当条件分布是独立的 $Y$鉴于 $X$是，为所有可能的实现 $X,$等于的无条件分布 $Y$．对于离散随机变量，这意味着 $P(Y = Y | X = X) = P(Y = Y)$对于所有相关的 $x$而且 $y$．对于连续随机变量 $X$而且 $Y$，有一个关节密度函数，表示 $f_Y(y | X) = f_Y(y)$对于所有相关的 $x$而且 $y$．

的函数 $y$对于给定 $x$， $P(Y = Y | X = X)$是概率，也就是所有的和 $y$(如果是条件概率密度，则为积分)为1。的函数 $x$对于给定 $y$，它是一个似然函数，所以对所有的求和 $x$不一定是1。

让 $(\Omega， \mathcal{F}， P)$是一个概率空间， $\mathcal{G} \subseteq \mathcal{F}$一个 $\σ$字段在 $F \ mathcal {}$, $X: \Omega \to \mathbb{R}$一个实值随机变量 $\大($都是可以测量的 $\σ$场 $R \ mathcal {} ^ 1$在 $R \ mathbb{} \大)。$可以证明存在一个函数 $\mu: \mathcal{R}^1 \乘以\Omega \to \mathbb{R}$这样 $\μ(\ cdot \ω)$是否有概率测量 $R \ mathcal {} ^ 1$为每一个 $\omega \在\omega$(即，它是规则的)和 $\mu(H， \cdot) = P(X \in H | \mathcal{G})$(几乎可以肯定) $H \in \mathcal{R}^1$．对于任何 $\omega \在\omega$，函数 $\mu(\cdot， \omega): \mathcal{R}^1 \to \mathbb{R}$的条件概率分布 $X$鉴于 $G \ mathcal {}$．在这种情况下，

$E [X | \ mathcal {G}] = \ int_ {- \ infty} ^ \ infty X \ \μ(d X \ cdot)$

几乎可以肯定。

对于任何事件 $A \in \mathcal{A} \supseteq \mathcal B$，定义指标函数

$\mathbf{1}_A (\omega) = \begin{cases} 1 \;&\text{if} \omega \in A \\ 0 \;&\text{if} \omega \notin A， \end{case}$

这是一个随机变量。注意，这个随机变量的期望等于的概率 $一个$本身:

$\ operatorname {E} (\ mathbf {1} _A) = \ operatorname {P} (A)。$

然后给出条件概率 $B \ mathcal$是一个函数 $\operatorname{P}(\cdot|\mathcal{B}):\mathcal{A} \times \Omega \to (0,1)$这样 $\ operatorname {P} (| \ mathcal {B})$指标的条件期望是函数吗 $一个$：

$\ operatorname {P} (| \ mathcal {B}) = \ operatorname {E} (\ mathbf {1} _A | \ mathcal {B})。$

换句话说， $\ operatorname {P} (| \ mathcal {B})$是一个 $B \ mathcal$满意的可测函数

$\int_B \operatorname{P}(A|\mathcal{B}) (\omega) \， \operatorname{d} \operatorname{P}(\omega) = \operatorname{P}(A \cap B) \quad \text{for all} \quad A \in \mathcal{A}， B \in \mathcal{B}。$

条件概率是正则的，如果 $\ operatorname {P} (\ cdot | \ mathcal {B})(\ω)$也是对所有人的概率度量吗 $\omega∈\omega$．一个随机变量关于规则条件概率的期望等于它的条件期望。

• 对于一个简单的代数 $\mathcal B= \{\emptyset，\Omega\}$条件概率是一个常数函数， $\ operatorname P {} \ !\left(A| \{\emptyset \Omega\} \right) \equiv\operatorname{P}(A)$．

• 为 $一个\ \ mathcal {B}$，如上所述， $\ operatorname {P} (| \ mathcal {B}) = 1 _a。$