1.点估计
什么是点估计
设总体X的分布形式已知，但它的一个或多个参数未知，借助于总体X的一个样本来估计总体未知参数的值的问题称为参数的点估计问题
注意：
点估计的问题就是要构造一个适当的统计量（估计量），用它的观察值作为未知参数的近似值（估计值）
估计量的评选标准
无偏性
若估计量的数学期望存在，并且该期望等于总体参数，则称为无偏估计
无偏估计的实际意义就是："E(估计值) - 真值"的结果为0
不论总体服从什么分布，样本均值是总体均值的无偏估计；样本方差是总体方差的无偏估计
有效性
有两个无偏估计θ1和θ2,如果在样本容量n相同的情况下，θ1比θ2更密集在真值附近，就认为θ1比θ2更理想换言之，无偏估计以方差最小者为好相合性
随着样本容量的增大，一个估计量的值稳定于待估参数的真值。满足此条件的估计量为相合估计量
2.区间估计
对于未知参数，我们不仅要得到近似值（点估计），还希望估计出一个范围（区间），并希望知道这个范围包含参数真值的可信程度。这种形式的估计称为区间估计，这样的区间称为置信区间
置信区间、置信水平
设(X1,…,Xn)是取自总体X的一个样本，对于未知参数θ，给定α，0<α<1,如果存在统计量θ1(X1,…,Xn)，θ2(X1,…,Xn)，使得P(θ1(X1,…,Xn)≤θ≤θ2(X1,…,Xn))≥1−α
那么，称[θ1,θ2]为θ的双侧1-α置信区间；称1-α为置信水平（也称作置信度或置信系数）。
注意：
对于置信区间和置信水平的理解：
固定样本容量n,若反复抽样多次，每个样本值确定一个区间，每个这样的区间要么包含θ的真值，要么不包含θ的真值在这么多区间中，包含真值的约占100(1-α)%，不包含真值的占100α%计算得到的区间属于那些包含真值的区间的可信程度为100(1-α)%，或“该区间包含真值”这一陈述的可信程度为100(1-α)%
3.求置信区间的步骤
较优的点估计应该属于置信区间，这是求置信区间的起始和基本思想
求未知参数的置信区间的步骤：
寻求一个样本X1,X2,…Xn和一个统计量W(X1,X2,…Xn;θ)，使统计量W的分布不依赖于θ和其他未知参数，统计量W的构造，通常可以从θ的点估计着手对于给定的置信水平1-α，定出两个常数a和b，使得P(a < W(X1,X2,…Xn;θ) < b) = 1-α求解出θ的不等式θ1 < θ < θ2，则(θ1,θ2)为θ的一个置信水平为1-α的置信区间
4.正态总体均值的置信区间（方差已知）
已知：总体X服从正态分布，且总体方差已知
求：均值的置信区间
5.正态总体均值的置信区间(方差未知)
已知：总体X服从正态分布，且总体方差未知
求：均值的置信区间
6.正态总体方差的置信区间(总体均值未知)
7.两正态总体均值差的置信区间(两个方差已知)
8.两正态总体均值差的置信区间(方差不等且未知)
9.Python实现均值估计（一个正态总体）
import numpy as np
from scipy.stats import norm, t, chi2 # 正态分布；t分布；卡方分布
# 计算一个正态总体均值的置信区间函数（分为是否已知方差两种情况）
def mean_ci_est(data, alpha, sigma=None): # data是原始数据，alpha是置信区间，sigma是方差
n = len(data) # 样本容量
sample_mean = np.mean(data) # 样本均值
# 方差未知
if sigma is None:
s = np.std(data)
se = s/np.sqrt(n)
# t.ppf(alpha / 2, n-1) 返回左侧面积alpha/2对应的t值
t_value = np.abs(t.ppf(alpha / 2, n-1))
# 根据公式返回置信区间
return sample_mean - se * t_value,sample_mean + se * t_value
# 方差已知
else:
se = sigma / np.sqrt(n) # 标准差
# norm.ppf(alpha/2)返回左侧面积为alpha/2对应的z值
z_value = np.abs(norm.ppf(alpha/2))
# 根据公式返回置信区间
return sample_mean - se*z_value, sample_mean + se*z_value
salary_18 = [1484, 785, 1598, 1366, 1716, 1020, 1716, 785, 3113, 1601]
salary_35 = [902, 4508, 3809, 3923, 4276, 2065, 1601, 553, 3345, 2182]
# 样本均值是总体均值的无偏点估计，并调用函数计算均值的置信区间
print(np.mean(salary_18),mean_ci_est(salary_18,0.05))
print(np.mean(salary_35),mean_ci_est(salary_35,0.05))
10.Python实现方差估计(一个正态总体)
import numpy as np
from scipy.stats import norm, t, chi2 # 正态分布；t分布；卡方分布
# 定义计算方差的置信区间函数
def var_ci_est(data, alpha):
n = len(data)# 样本容量
s2 = np.var(data) # 样本方差
# chi2.ppf(alpha/2,n-1) 返回左侧面积为alpha/2的卡方值
chi2_low_value = chi2.ppf(alpha/2,n-1)
# chi2.ppf(1-alpha/2,n-1) 返回左侧面积为1-alpha/2的卡方值
chi2_upper_value = chi2.ppf(1-alpha/2,n-1)
return (n-1) * s2 /chi2_upper_value, (n-1)*s2/chi2_low_value
salary_18 = [1484, 785, 1598, 1366, 1716, 1020, 1716, 785, 3113, 1601]
salary_35 = [902, 4508, 3809, 3923, 4276, 2065, 1601, 553, 3345, 2182]
# 样本方差是总体方差的无偏点估计
print(np.std(salary_18),np.var(salary_18),var_ci_est(salary_18,0.05))
print(np.std(salary_35),np.var(salary_35),var_ci_est(salary_35,0.05))
11.Python实现均值差的估计（两个正态总体）
import numpy as np
from scipy.stats import norm, t, chi2 # 正态分布；t分布；卡方分布
# 两个正态总体均值差的置信区间
def mean_diss_ci_t_est(data1, data2, alpha, equal=True):
n1 = len(data1) # 样本1的容量
n2 = len(data2) # 样本2的容量
mean_diff = np.mean(data1)-np.mean(data2) # 两个样本的均值差（两个总体均值差的无偏估计）
sample1_var = np.var(data1) # 样本1的方差
sample2_var = np.var(data2) # 样本2的方差
# 方差未知且相等
if equal:
sw = np.sqrt(((n1-1)*sample1_var + (n2-1)*sample2_var / (n1+n2-2)))
t_value = np.abs(t.ppf(alpha/2, n1+n2-2))
return mean_diff - sw*np.sqrt(1/n1+1/n2)*t_value, mean_diff + sw*np.sqrt(1/n1+1/n2)*t_value
# 方差未知且不等
else:
df_numerator = (sample1_var/n1 + sample2_var/n2) **2 # 自由度分子
df_denominator = (sample1_var/n1)**2/(n1-1) + (sample2_var/n2)**2 /(n2-1)# 自由度分母
df = df_numerator / df_denominator # 自由度
t_value = np.abs(t.ppf(alpha/2,df))
return mean_diff - np.sqrt(sample1_var/n1 + sample2_var/n2) * t_value, mean_diff + np.sqrt(sample1_var/n1 + sample2_var/n2) * t_value
salary_18 = [1484, 785, 1598, 1366, 1716, 1020, 1716, 785, 3113, 1601]
salary_35 = [902, 4508, 3809, 3923, 4276, 2065, 1601, 553, 3345, 2182]
print(mean_diss_ci_t_est(salary_18, salary_35, 0.05, equal=True))
print(mean_diss_ci_t_est(salary_18, salary_35, 0.05, equal=False))
12.Python实现方差比的估计(两个正态总体)
import numpy as np
from scipy.stats import norm, t, chi2, f # 正态分布；t分布；卡方分布 f分布
# 定义一个实现方差比置信区间的函数
def var_ratio_ci_est(data1, data2, alpha):
n1 = len(data1)
n2 = len(data2)
f_low_value = f.ppf(alpha/2, n1-1, n2-1) # 左侧临界值
f_upper_value = f.ppf(1-alpha/2, n1-1, n2-1) # 右侧临界值
var_ratio = np.var(data1) / np.var(data2)
return var_ratio / f_upper_value, var_ratio/f_low_value
salary_18 = [1484, 785, 1598, 1366, 1716, 1020, 1716, 785, 3113, 1601]
salary_35 = [902, 4508, 3809, 3923, 4276, 2065, 1601, 553, 3345, 2182]
print(var_ratio_ci_est(salary_18, salary_35, 0.05))