4. 多维高斯分布

多维高斯分布一般使用参数 \(\mu\) 和 参数 \(\Sigma\) 表达，这里的 \(\mu\) 是 \(n \times 1\) 的向量， \(\Sigma\) 是 \(n \times n\) 的对称半正定矩阵。概率密度函数的形式为：

(4.1)\[p(x|\mu, \Sigma) = \frac{1}{(2\pi)^{n/2} |\Sigma |^{1/2}}exp\{-\frac{1}{2}(x - \mu)^{T}\Sigma^{-1}(x - \mu)\}\]

\(x\) 是 \(n\) 维向量，\(|\Sigma|\) 是矩阵 \(\Sigma\) 的行列式。

对于随机变量 \(X\) 符合分布 \(N(\mu, \Sigma)\), 均值为：

(4.2)\[E[X] = \int_{x}xp(x;\mu, \Sigma)dx = \mu\]

向量形式的随机变量 \(Z\) 的方差为： \(Cov(Z) = E[(Z-E[Z])(Z-E[Z])^{T}]\) ， 或者定义为： \(Cov(Z) = E[ZZ^{T}] - (E[Z])(E[Z]^{T})\)。如果 \(X \sim N(\mu, \Sigma)\)，那么：

(4.3)\[Cov(X) = \Sigma\]