贝叶斯定理和条件概率

贝叶斯的定理是一个公式，描述了当给出证据时如何更新假设的概率。它简单地从公理出发条件概率，但可以用来有力地推理一系列涉及信念更新的问题。

给定一个假说 $H$和证据 $E.$，贝叶斯的定理表明，在获得证据之前假设的概率之间的关系 $p（h）$与设定的获得证据后概率 $p（h \ mid e）$是

$P(H \mid E) = {frac{P(E \mid H)} {P(E)} P(H)。$

许多现代机器学习技术依赖于贝叶斯定理。例如，垃圾邮件过滤器使用贝叶斯更新来确定邮件是否是真实的还是垃圾邮件，因为在邮件中的话。此外，在统计很多具体的技术，如计算 $P.$- 价值或解释医学结果，最好在他们使用贝叶斯定理更新的假设如何促进描述。

概率问题对于产生令人惊讶和违反直觉的结果是臭名昭着的。一个着名的例子 - 或者一对示例 - 是以下内容：

1. 一对夫妇有2个孩子，老儿是一个男孩。如果有一个男孩或女孩的概率均为50％，那对夫妻有两个男孩的可能性是什么？
   我们已经知道老年人是一个男孩。两个男孩的概率相当于年轻孩子是一个男孩的概率，这是 $50 \％$．

2. 一对夫妇有两个孩子，其中至少一个是男孩。如果生男孩或女孩的概率都是 $50 \％$，这对夫妇有两个男孩的概率是多少?

乍一看，这似乎是问同样的问题。我们不妨推理如下：“我们知道，一个是男孩，所以唯一的问题是另外一个是男孩，和的机会，既然如此有 $50 \％$．也是，答案是 $50 \％$．”

这是完美的感觉。这也恰好是不正确的。

贝叶斯定理的中心是关联不同条件概率．条件概率是一个事件发生的概率的表达式考虑到发生某些其他事件（一个固定值）。举例来说，“那是什么人行道是湿的概率是多少？”都会有不同的答案不是“是什么，该人行道是湿的概率考虑到早些时候下雨了?”

为一个联合概率分布在事件 $一种$和 $B.$那 $P (A \帽)$的条件概率 $一种$给予 $B.$被定义为

$p（a \ mid b）= \ frac {p（a \ cap b）} {p（b）}。$

在人行道例如，当 $一种$是“人行道是湿”的 $B.$“雨下得早”，这个表达的意思是“如果雨下得早，人行道湿的概率等于人行道湿的概率和下雨的概率。”

注意 $P (A \帽)$两者的概率是多少 $一种$和 $B.$发生的概率，也就是 $一种$发生的次数 $B.$发生鉴于 $一种$发生： $P(B \mid A) \乘以P(A)$使用相同的推理， $P (A \帽)$是也的概率 $B.$发生概率的倍数 $一种$发生鉴于 $B.$发生: $P（A \中间B）\倍P（B）$．这两个表达式相等的事实引出了贝叶斯定理。用数学方法表示，这是:

$\开始{对齐} P（A \中间B）＆= \压裂{P（A \帽B）} {P（B）}，\ {文本如果} P（B）\ 0 NEQ，\\ P（B\中期A）＆= \压裂{P（B \帽A）} {P（A）}，\ {文本如果} P（A）\ 0 NEQ，\\ \ RIGHTARROW P（A \帽B）＆=P（A \中间B）\倍P（B）= P（B \中期A）\倍P（A），\\ \ RIGHTARROW P（A \中间B）＆= \压裂{（B \ A中期P）\倍P（A）} {P（B）}，\ {文本如果} P（B）\ 0 NEQ \ {端对齐}$

注意，当事件是独立的时，我们对相关事件和贝叶斯定理的结果都是有效的。在这些情况下, $p（a \ mid b）= p（a）$和 $P(B \mid A) = P(B)$，所以表达式简化了。

贝叶斯的定理

$p（a \ mid b）= \ frac {p（b \ mid a）} {p（b）} p（a）$

虽然这是一个等式，适用于事件的任何概率分布 $一种$和 $B.$，它的情况下特别好的解释 $一种$代表一个假设 $H$和 $B.$代表了一些观察到的证据 $E.$．在这种情况下，该公式可写成

$p（h \ mid e）= \ frac {p（e \ mid h）} {p（e）} p（h）。$

这与在得到证据之前假设的概率有关 $p（h）$，在假设获得证据后的概率， $p（h \ mid e）$．由于这个原因, $p（h）$被称为之前的概率， 尽管 $p（h \ mid e）$被称为后验概率．这涉及两个因素， $\压裂{P（E \中间1H）} {P（E）}$，称为似然比．使用这些术语，贝叶斯定理可以为‘的后验概率等于先验概率倍似然比。’改写

如果从扑克牌的标准甲板中汲取单张卡，则卡是国王的概率是4/52，因为标准甲板的52张卡片有4个国王。重写这个，如果 $\文本{king}$事件是“这张卡是国王”的现有概率 $P(\text{King}) = \frac{4}{52} = \frac{1}{13}。$

如果提供了证据（例如，有人看卡），单张卡是面部卡，然后是后验概率 $P({王}\中\ \文本文本{脸})$可使用贝叶斯定理来计算：

$P（\文本{特大} \中间\文本{工作面}）= \压裂{P（\文本{工作面} \中间\文本{特大}）} {P（\文本{工作面}）} P（\文本{王}）。$

因为每个国王也是一张脸卡， $P（\ {文本工作面} \中间\文本{特大}）= 1$．由于每副牌中有3张面牌(杰克、王后、国王)，所以出现面牌的概率为 $P(文本\{脸})= \压裂{3}{13}$．组合这些给出的似然比 $\压裂{1} {\ HSPACE {2毫米} \ {frac3 13} \ {HSPACE2毫米}} = \压裂{13} {3}$．

使用贝叶斯定理给出 $P({王}\中\ \文本文本{脸})= \压裂{13}{3}\压裂{1}{13}= \压裂{1}{3}$． $_\正方形$

贝叶斯定理从第一部分澄清了双子问题：

1.一对夫妇有两个孩子，其中较大的是个男孩。他们有两个男孩的可能性是什么？

一对夫妇有两个孩子，其中一个是一个男孩。他们有两个男孩的可能性是什么？

$$定义三个事件， $一种$那 $B.$, $C$， 如下：

$\ {开始对准} A＆= \ {MBOX两个孩子都是男孩} \\ B＆= \ {MBOX上了年纪的孩子是个男孩} \\ C＆= \ {MBOX自己的孩子一个是男孩。} \结束{}对齐$

问题1是要求 $P (A \中期)$和问题2要求 $P(中期\ C)$．第一个是用贝叶斯定理的简化版本计算的:

$p（a \ mid b）= \ frac {p（a）p（b \ mid a）} {p（b）}} {p（b）}} {p（b）} = \ frac {\ frac {1} {4} \ cdot 1} {\ frac {1} {2}} = \ frac {1} {2}。$

找到 $P(中期\ C)$，我们必须确定 $个人电脑）$，这对夫妇至少有一个男孩的概率。这是等于的 $1 - P(\mbox{两个孩子都是女孩})= 1 - frac{1}{4} {4} {4}$．因此所期望的概率

$P(中期\ C) = \压裂{P (A) (C \中期)}{P (C)} = \压裂{\压裂{1}{4}\ cdot 1}{\压裂{3}{4}}= \压裂{1}{3}。\ _ \广场$

有关类似的矛盾问题，请参阅蒙蒂大厅问题．

Venn图表对于可视化贝叶斯定理特别有用，因为图表和定理都是关于查看不同空间的不同事件的交叉点。

在100人中5人中有5个疾病，并进行了90％的测试（意味着测试产生90％的病例的正确结果）给予100人。如果小组中的一个人测试阳性，那么这个人有疾病的可能性是什么？

直觉的答案是，一个人有90%的可能患有这种疾病。但我们可以想象一下，这是不准确的。首先，绘制人口总数和患病的5人:

圆圈A表示5超过100，或100人的较大宇宙的5％。

接下来，覆盖一个圆圈代表谁得到的试验阳性结果的人。我们知道，90％的人与疾病会得到一个积极的结果，因此需要支付90％的圆A的，但我们也知道人口的10％谁没有这种疾病会得到一个积极的结果，所以我们需要以覆盖非疾病携带人口的10％（100更少圆A的总宇宙）。

圆形B覆盖总人口的大部分。它实际上涵盖了比患有疾病的人口的总部更多的区域。这是因为100人口中的14个（患有5人的90％的疾病+ 95人没有这种疾病的10％）将获得积极的结果。即使这是一个具有90％的准确度的测试，这种可视化也表明，任何测试疾病的阳性（圆B）的患者只有32.14％（4.5英寸）的实际疾病的可能性。

主要文章：在科学和数学贝叶斯理论

贝叶斯定理可以显示在科学研究得到误报的可能性。在深入看看这款可以发现在科学和数学贝叶斯理论．

据说很多医学诊断测试 $X$%准确，例如99%准确，具体指的是在你的情况下测试结果正确(或不正确)的概率。这与根据测试结果得出的患此病的后验概率不同。要了解实际情况，请考虑以下问题。

编号为1至20的球被放置在一个袋中。三个球被拉出袋子无需更换。什么是所有的球对他们奇数的概率是多少？

---

在这种情况下，事件不是独立的。会有一个 $\压裂{10}{20}= \压裂{1}{2}$的机会，任何特定的球是奇数。然而，所有的球都是奇数的概率不大 $\ frac {1} {8}$．我们确实有第一球是奇数的概率是 $\压裂{1} {2}。$对于第二个球，鉴于第一球是奇数的，只有9个奇数球，可以从总共19个球中汲取，因此概率是 $\压裂{9}{19}$．对于第三个球，因为前两个球都是奇数，所以剩下的18个球中有8个是奇数。所以概率是 $\压裂{8} {18}$．

所以3个球都是奇数的概率是 $\ frac {10} {20} \ times \ frac {9} {19} \ times \ frac {8} {18} = \ frac {2} {19}。$注意 $\压裂{2}{19}\约0.105$， 然而 $\ FRAC {1} {8} = 0.125。$ $_\正方形$

一个家庭有两个孩子。假设其中一个孩子是男孩，两个孩子都是男孩的概率是多少?

---

我们假设一个孩子的概率是男孩还是女孩 $\压裂{1}{2}$．我们使用贝叶斯定理来解决这个问题。我们让我们 $B.$当这个家庭有一个男孩的时候。我们让我们 $一种$因为两个孩子都是男孩。我们想要找到 $P（A \中间B）= \压裂{P（B \中期A）\倍P（A）} {P（B）}$．我们可以很容易地看到， $P(B \mid A) = 1$．我们还注意到， $P (A) = \压裂{1}{4}$和 $p（b）= \ frac {3} {4}$．所以 $p（a \ mid b）= \ frac {1 \ times \ frac {1} {4}} {\ frac {3} {4}}}} = \ frac {1} {3}$． $_\正方形$

一个家庭有两个孩子。假设其中一个孩子是男孩，他出生在周二，那么两个孩子都是男孩的概率是多少?

---

你对这个问题的第一反应可能是回答 $\压裂{1}{3}$，因为这显然和前一个问题是同一个问题。知道孩子出生的日期不可能给你额外的信息，对吧?

我们假设出生在一周中某一天的概率是 $\ frac {1} {7}$与孩子是男孩还是女孩无关。我们让我们 $B.$是家里有一个孩子谁是出生在周二和一个男孩事件 $一种$是事件，这两个孩子都是男孩，并运用贝叶斯定理。我们注意到立刻意识到 $P（B \中期A）$不再等于一个。鉴于本周7天，两个男孩出生的一周中有49个可能的组合，其中13个有一个男孩在星期二出生，所以 $P（B \中期A）= \压裂{13} {49}$． $(一页)$仍然保持不变 $\压裂{1}{4}$．计算 $P (B)$，我们注意到有 $14 ^ 2 \ = 196$选择孩子的性别和出生日期的可能方法。其中，有 $13 ^ 2 = 169$没有在星期二生下男孩的方法，还有 $196 - 169 = 27$该做的，所以 $p（b）= \ frac {27} {196}$．这给出了这一点 $P（A \中间B）= \压裂{\压裂{13} {49} \倍\压裂{1} {4}} {\压裂{27} {196}} = \压裂{13} {27}$． $_\正方形$

笔记：这个答案肯定不是 $\压裂{1}{3}$，实际上更接近于 $\压裂{1}{2}$．