二项分布几乎是一切的基础，它描述了在 n 次独立重复试验（伯努利实验）中，成功次数 k 的概率分布。
定义 #
对于 \(X \sim B(n, p)\)，即发生次数 X，服从参数为 \(n\) 次试验，成功概率为 \(p\) 的二项分布，概率质量函数为：
$$ P_k=\binom nk p^k(1-p)^{n-k} $$重复独立试验（伯努利实验） #
是一种只有两种结果的随机试验，比如抛硬币，要么正要么反，要么输要么赢。且每次试验成功的概率是相同的，即前一次不影响下一次。
概率质量函数（PMF） #
概率质量函数（Probability Mass Function, PMF）是离散随机变量在各个取值上的概率。全部取值的概率之和为 1。
$$ \sum_{x=0}^{n} P(X) = 1\ $$推导 #
成功概率为 \(p\)，失败概率为 \(1-p\)，现在做 \(n\) 次试验。
全成功的概率是：
$$ P(X=n) = p^n $$全失败（即成功次数为 \(0\)）的概率是：
$$ P(X=0) = (1-p)^n $$成功 \(1\) 次的概率是从 \(n\) 次里面选 1 次来成功。
$$ P_1=\binom n1 p^1(1-p)^{n-1} $$所以成功 \(k\) 次的概率就是从 \(n\) 次里面选 \(k\) 次来成功。
$$ P_k=\binom nk p^k(1-p)^{n-k} $$上面所用的组合数，是从 \(n\) 个元素中取 \(k\) 个元素的选法的总数，记作 \(\binom nk\)。
$$ \binom nk = \frac{n!}{k!(n-k)!} $$
期望（平均成功次数） #
直觉上，实验次数乘以成功概率就是期望值。 为什么？对于单次伯努利实验，即每个 \(X_i\) 的期望值是 \(p\)。因为要么成功要么失败：
$$ E(X_i) = 1 \cdot p + 0 \cdot (1-p) = p $$利用期望的线性性质， \(n\) 次实验的期望值就是 \(np\)。
$$ E(X) = E(\sum_{i=1}^{n} X_i) = \sum_{i=1}^{n} E(X_i) = np $$方差（Variance） #
方差描述成功次数围绕期望值 \(np\) 的波动程度，定义为各个数据点与均值之差的平方和的均值。
$$ Var(X) = E[(X - E[X])^2] $$展开后，得到以下公式，更容易推导二项分布的方差。（见理解方差）
$$ Var(X) = E(X^2) - E(X)^2 $$二项分布的方差是：
$$ Var(X \sim B(n, p)) = np(1-p) $$为什么？对于单个伯努利变量（单次伯努利实验的结果）因为 \(X_i\) 只能是 \(0\) 或 \(1\)，所以：
$$ X_i^2 = X_i $$可以通过代入 \(X_i = 0\) 和 \(X_i = 1\) 来验证。
所以
$$ E(X_i^2) = E(X_i) = p $$由于单个变量的期望值已知，即 \(E(X_i) = p\)，所以单个变量的方差是：
$$ Var(X_i) = E(X_i^2) - E(X_i)^2 = p - p^2 = p(1-p) $$利用方差的线性性质， \(n\) 次实验的方差就是：
$$ Var(X) = Var(\sum_{i=1}^{n} X_i) = \sum_{i=1}^{n} Var(X_i) = np(1-p) $$一个重要的直觉是，因为存在 \(p(1-p)\)， 当 \(p = 0.5\) 时，方差最大。显然，\(50\%\) 成功率代表的不确定性最高。
不成功和成功是对称的，假设成功率 \(10\%\)，意味着 \(90\%\) 的失败率，显然 \(50\%\) 的成功率所携带的不确定性更高。
周长固定的矩形中，正方形的面积最大。
若成功率是 0% 或 100%，则不会有波动，即必然事件，没有随机性，所以方差为 0。即，矩形有一条边为零，面积也为零。
对于更高维的图形同理，如立方体，长宽高总量固定时，三等分将得到最大的体积；即有三种可能结果的事件，可能性相等时，整体不确定性最大。
赢多少次概率最大 #
抛10次公平硬币，赢 5 次的概率最大。或者说，赢期望次的概率最大。当期望次数非整数时，只需向上，以及向下取整，得到的两个数的概率相等，也是最大。
原因藏在于二项分布的公式：
$$ P_k=\binom nk p^k(1-p)^{n-k} $$当 \(p\) 和 \(1 - p\) 都等于 \(50\%\) 时，即公平骰子，公式简化为：
$$ P_k=\binom nk 0.5^n $$使概率 \(P_k\) 最大的 \(k\) 就是使 \(\binom nk\) 最大的 \(k\)。很显然，对组合数 \(\binom nk\)，当 k 几乎（或确切）是 \(n\) 的一半时，\(\binom nk\) 最大。
比如，当 n 是偶数时，比如 \(10\)，\(\binom {10}{5} = 252\) 最大。