Skip to main content

問題 2.6 多變量高斯分佈的最大似然估計 (MLE)

在這個問題中，你將推導多變量高斯分佈的最大似然估計 (ML estimate)。給定樣本 {x1,⋯ ,xN}\{x_1, \cdots, x_N\}，

(a) 推導多變量高斯分佈均值 μ\mu 的最大似然估計。

你可能會發現以下的向量和矩陣導數很有幫助：

  • ∂∂xaTx=a\frac{\partial}{\partial x} a^T x = a，其中向量 x,a∈Rdx, a \in \mathbb{R}^d。
  • ∂∂xxTAx=Ax+ATx\frac{\partial}{\partial x} x^T A x = Ax + A^T x，其中向量 x∈Rdx \in \mathbb{R}^d 且矩陣 A∈Rd×dA \in \mathbb{R}^{d \times d}。
  • ∂∂Xlog⁡∣X∣=X−T\frac{\partial}{\partial X} \log |X| = X^{-T}，其中 XX 為方陣。
  • ∂∂Xtr(AX−1)=∂∂Xtr(X−1A)=−(X−TATX−T)\frac{\partial}{\partial X} \text{tr}(AX^{-1}) = \frac{\partial}{\partial X} \text{tr}(X^{-1}A) = -(X^{-T} A^T X^{-T})，其中 A,XA, X 為矩陣。

提示：記住 Σ\Sigma 是對稱的！