统计推断与置信区间
原理、架构与设计思想
analytics 统计推断简介
统计推断是数据科学中用于推断总体参数值（如总体均值或总体比例）的重要方法。数据科学家通常对基于样本特征对总体进行概括感兴趣；统计推断允许数据科学家基于样本数据得出关于总体的结论。
此外，统计推断被数据科学家用来评估模型性能和比较机器学习应用中的不同算法。统计推断提供了生成预测性预测模型的方法，这使数据科学家能够生成预测和趋势，以协助有效和准确的决策制定。
- 从样本数据推断总体特征
- 评估模型性能和比较算法
- 生成预测模型和趋势分析
- 支持决策制定过程
timeline 置信区间概念
置信区间是用于估计总体参数（如均值或比例）可能落在的区间范围。置信区间提供了与估计相关的不确定性水平，并表示为一个值范围。置信区间将为总体参数提供下限和上限，其中点估计位于区间中心。
置信区间反映了研究者的期望置信水平。置信水平是区间估计在重复进行参数估计过程时包含总体参数的概率。置信水平通常范围从80%到95%的置信度。
| 总体参数 | 点估计 |
|---|---|
| 均值 (总体均值表示为 μ) | 样本均值 (表示为 x̄) |
| 比例 (总体比例表示为 p) | 样本比例 (表示为 p̂) |
compare_arrows 点估计与区间估计
点估计是用于估计总体参数的单个值。例如，样本均值是代表真实总体均值的点估计，因为样本均值被用作未知总体均值的估计值。当研究人员从样本中收集数据以对总体进行推断时，他们根据观察到的样本数据计算点估计。
区间估计提供了一个范围，而不是单个值，表示总体参数可能落在该范围内。区间估计通过提供参数估计的不确定性度量来补充点估计。置信区间是区间估计的一种形式，它给出了参数可能值的范围，以及我们对该范围包含真实参数值的置信程度。
- 点估计：提供单一值作为参数的最佳猜测，但不提供关于估计准确性的信息
- 区间估计：提供一个范围，反映估计的不确定性，并给出置信水平
假设研究人员对估计加利福尼亚州所有居民的平均收入感兴趣。由于从每个居民收集数据不可行，研究人员随机选择1000名居民，并计算这些1000人的样本平均收入。这个来自样本的平均收入估计值然后为所有加利福尼亚居民的总体平均收入提供了估计。样本均值被选为总体均值的点估计，因为样本均值提供了总体均值的最无偏估计。
calculate 置信区间的计算
为了计算置信区间，需要两个量：
- 点估计
- 边际误差
如前所述，点估计是用于估计总体参数的单个数字。边际误差（通常表示为E. 提供了估计的最大误差指示。边际误差可以被视为在指定置信度下，围绕点估计存在总体参数的最大距离。✅
置信区间上限 = 点估计 + 边际误差
边际误差反映了研究者的期望置信水平。除了置信水平外，样本的变异性和样本大小也会影响边际误差。
当总体标准差σ已知时，边际误差的计算公式为：
其中，Zα/2是标准正态分布的临界值，α为显著性水平（如常用的0.05），n为样本数量。
考虑一个对预测加利福尼亚州所有居民中位数收入感兴趣的数据科学家。从1000名居民收集收入数据，中位数收入水平为68,500美元。假设95%置信区间的边际误差为4,500美元。数据科学家可以构建95%置信区间来预测收入水平：
置信区间上限 = $68,500 + $4,500 = $73,000
数据科学家可以得出以下结论：有95%的置信度认为加利福尼亚州所有居民的中位数收入预测在64,000美元至73,000美元之间。
functions 中心极限定理
中心极限定理描述了样本均值的抽样分布与底层总体之间的关系。这个定理是允许数据科学家和研究人员使用样本数据生成总体参数推断的重要工具。
- 如果从具有均值μ和标准差σ的任何总体中随机抽取样本，其中样本大小至少为30，则样本均值的分布近似于正态（钟形）分布。
- 如果从具有均值μ和标准差σ的正态分布总体中随机抽取样本，则对于任何样本大小，样本均值的分布都近似于正态（钟形）分布。
设X1, X2, …, Xn是从总体X中抽取的样本，其均值为μ，标准差为σ。则当n足够大时，样本均值X̄ = (1/n)∑Xi的分布将趋近于均值为μ，标准差为σ/√n的正态分布：
假设我们有一个总体，其中每个个体的身高服从任意分布，我们想要估计这个总体的平均身高。根据中心极限定理，从总体中随机抽取足够大的样本，并计算样本的平均身高。使用中心极限定理，我们可以通过样本均值的分布来得出总体均值的估计，并计算其置信区间。
bar_chart 抽样分布
抽样分布是基于来自总体的所有可能随机样本的特定大小的概率分布。例如，研究人员从纽约居民中重复抽取大小为1000的样本来收集纽约居民平均收入的数据。
对于每个大小为1000的样本，我们可以计算样本均值x̄。如果研究人员采取50个这样的样本（每个样本大小为1000），可以计算一系列样本均值：
- 样本均值的均值（表示为μx̄）等于总体均值μ。
μx̄ = μ - 样本均值的标准差（表示为σx̄）等于总体标准差σ除以样本大小n的平方根。
σx̄ = σ/√n
假设一个总体有4个个体，分别为X1=1, X2=2, X3=3, X4=4。总体的均值μ=2.5，标准差σ≈1.29。现从总体中抽取n=2的简单随机样本，在重复抽样条件下，共有42=16个样本。计算各样本的均值，这些均值形成的分布就是样本均值的抽样分布。可以验证，样本均值的均值μx̄=2.5=μ，样本均值的标准差σx̄≈0.91=σ/√n。
总结
统计推断是数据科学中用于从样本数据推断总体特征的核心方法。置信区间作为统计推断的重要工具，提供了对总体参数的区间估计，反映了估计的不确定性。通过点估计和边际误差，我们可以构建置信区间，从而对总体参数做出有置信度的推断。中心极限定理和抽样分布理论为置信区间的构建提供了理论基础，使我们能够在不知道总体分布的情况下，通过样本数据对总体参数进行推断。这些统计方法在科学研究、商业决策和机器学习模型评估中有着广泛的应用。