协方差矩阵(三元正态分布的协方差阵)

多元正态分布的定义及其密度函数推导

多元正态分布是这样定义的：

假设u1,u2,...up独立，且都服从N(0,1)分布，记U=[u1,u2,...up]'，A为p阶非奇异矩阵，X,μ为p维列向量

则X=AU+μ 所服从的分布为p维正态分布记为N(μ,AA')

由此可见，多元正态分布中的协方差矩阵的原始定义并非是一个协方差的矩阵，而是线性变换的乘积。

下面我们来推导多元正态分布的密度函数

假设p元随机向量X~N(μ,∑)，那么X的密度函数为

1

—————————————exp[(X-μ)'∑^(-1)(X-μ)]

(2*pi)^(p/2)*|∑|^(1/2)

证明：

令∑=AA'则X=AU+μ

→ U=A^(-1)(X-μ)

因为u1,u2,...up独立，且都服从N(0,1)分布，所以U的联合分布为

1

p(U)=————————exp[U'*U]

(2*pi)^(p/2)

现在将U=A^(-1)(X-μ)代入，有

1

p(X)=————————exp[(X-μ)'∑^(-1)(X-μ)]J(U→X)

(2*pi)^(p/2)

1

=—————————————exp[(X-μ)'∑^(-1)(X-μ)]

(2*pi)^(p/2)*|∑|^(1/2)

其中，J(U→X)为dU/dX的亚柯比行列式