机器学习中的概率统计 Python语言描述

序
前言
第1章 概率思想：构建理论基础1
1.1 理论基石：条件概率、独立性与贝叶斯1
1.1.1 从概率到条件概率1
1.1.2 条件概率的具体描述2
1.1.3 条件概率的表达式分析3
1.1.4 两个事件的独立性4
1.1.5 从条件概率到全概率公式5
1.1.6 聚焦贝叶斯公式6
1.1.7 本质内涵：由因到果，由果推因7
1.2 事件的关系：深入理解独立性8
1.2.1 重新梳理两个事件的独立性8
1.2.2 不相容与独立性8
1.2.3 条件独立9
1.2.4 独立与条件独立11
1.2.5 独立重复实验11
第2章 变量分布：描述随机世界13
2.1 离散型随机变量：分布与数字特征13
2.1.1 从事件到随机变量13
2.1.2 离散型随机变量及其要素14
2.1.3 离散型随机变量的分布列15
2.1.4 分布列和概率质量函数16
2.1.5 二项分布及二项随机变量17
2.1.6 几何分布及几何随机变量21
2.1.7 泊松分布及泊松随机变量24
2.2 连续型随机变量：分布与数字特征27
2.2.1 概率密度函数27
2.2.2 连续型随机变量区间概率的计算29
2.2.3 连续型随机变量的期望与方差29
2.2.4 正态分布及正态随机变量30
2.2.5 指数分布及指数随机变量33
2.2.6 均匀分布及其随机变量35
2.3 多元随机变量（上）：联合、边缘与条件38
2.3.1 实验中引入多个随机变量38
2.3.2 联合分布列38
2.3.3 边缘分布列39
2.3.4 条件分布列40
2.3.5 集中梳理核心的概率理论44
2.4 多元随机变量（下）：独立与相关46
2.4.1 随机变量与事件的独立性46
2.4.2 随机变量之间的独立性47
2.4.3 独立性示例48
2.4.4 条件独立的概念48
2.4.5 独立随机变量的期望和方差50
2.4.6 随机变量的相关性分析及量化方法52
2.4.7 协方差及协方差矩阵52
2.4.8 相关系数的概念54
2.5 多元随机变量实践：聚焦多元正态分布55
2.5.1 再谈相关性：基于二元标准正态分布55
2.5.2 二元一般正态分布57
2.5.3 聚焦相关系数60
2.5.4 独立和相关性的关系64
2.6 多元高斯分布：参数特征和几何意义66
2.6.1 从一元分布到多元分布66
2.6.2 多元高斯分布的参数形式67
2.6.3 二元高斯分布的具体示例68
2.6.4 多元高斯分布的几何特征71
2.6.5 二元高斯分布几何特征实例分析74
第3章 参数估计：探寻 可能77
3.1 极限思维：大数定律与中心极限定理77
3.1.1 一个背景话题77
3.1.2 大数定律78
3.1.3 大数定律的模拟80
3.1.4 中心极限定理83
3.1.5 中心极限定理的工程意义84
3.1.6 中心极限定理的模拟85
3.1.7 大数定律的应用：蒙特卡罗方法86
3.2 推断未知：统计推断的基本框架89
3.2.1 进入统计学89
3.2.2 统计推断的例子90
3.2.3 统计推断中的一些重要概念91
3.2.4 估计量的偏差与无偏估计92
3.2.5 总体均值的估计93
3.2.6 总体方差的估计95
3.3 极大似然估计100
3.3.1 极大似然估计法的引例100
3.3.2 似然函数的由来102
3.3.3 极大似然估计的思想103
3.3.4 极大似然估计值的计算105
3.3.5 简单极大似然估计案例106
3.3.6 高斯分布参数的极大似然估计107
3.4 含有隐变量的参数估计问题110
3.4.1 参数估计问题的回顾110
3.4.2 新情况：场景中含有隐变量111
3.4.3 迭代法：解决含有隐变量情形的抛硬币问题112
3.4.4 代码实验115
3.5 概率渐增：EM算法的合理性118
3.5.1 EM算法的背景介绍119
3.5.2 先抛出EM算法的迭代公式119
3.5.3 EM算法为什么是有效的120
3.6 探索EM公式的底层逻辑与由来123
3.6.1 EM公式中的E步和M步124
3.6.2 剖析EM算法的由来124
3.7 探索高斯混合模型：EM 迭代实践127
3.7.1 高斯混合模型的引入128
3.7.2 从混合模型的角度看内部机理129
3.7.3 高斯混合模型的参数估计131
3.8 高斯混合模型的参数求解132
3.8.1 利用 EM 迭代模型参数的思路132
3.8.2 参数估计示例136
3.8.3 高斯混合模型的应用场景139
第4章 随机过程：聚焦动态特征145
4.1 由静向动：随机过程导引145
4.1.1 随机过程场景举例1：博彩146
4.1.2 随机过程场景举例2：股价的变化150
4.1.3 随机过程场景举例3：股价变化过程的展现152
4.1.4 两类重要的随机过程概述154
4.2 状态转移：初识马尔可夫链155
4.2.1 马尔可夫链三要素155
4.2.2 马尔可夫性：灵魂特征156
4.2.3 转移概率和状态转移矩阵157
4.2.4 马尔可夫链性质的总结158
4.2.5 一步到达与多步转移的含义159
4.2.6 多步转移与矩阵乘法160
4.2.7 路径概率问题163
4.3 变与不变：马尔可夫链的极限与稳态164
4.3.1 极限与初始状态无关的情况164
4.3.2 极限依赖于初始状态的情况165
4.3.3