Skip to main content

Explain ZH

直觀理解 (Intuition)

在貝葉斯統計中,先驗 (priors) 允許我們在看到任何實際資料之前,注入我們的「直覺」或先備知識。讓我們來看看這兩個新情境:

情境 1:樂觀的先驗 (p1p_1) 先驗 p1(π)=2πp_1(\pi) = 2\pi 畫出來是一條從 0 向上往 1 走的直線。這意味著在拋任何硬幣之前,我們強烈懷疑這枚硬幣被動過手腳,極容易出現正面。

在數學上,這個先驗方程式完全符合一種情況:我們神奇地在實驗開始前就多觀察到了1 次額外的正面 (Head)

  • 所以當我們計算 MAP 估計量時,我們不只使用實際資料 (s/ns/n),還混入了我們的虛擬資料:(s+1)/(n+1)(s + 1) / (n + 1)。這使得我們的最終估計值比標準的 MLE 稍微高一點(更樂觀)。

情境 2:悲觀的先驗 (p0p_0) 先驗 p0(π)=22πp_0(\pi) = 2 - 2\pi 畫出來是一條向下的直線。我們懷疑這枚硬幣偏向反面。

這在數學上的作用,就像是我們在開始前已經看到了1 次額外的反面 (Tail)

  • 因為增加了這個虛擬拋擲,我們的總拋擲次數 (nn) 增加了 1,但是正面次數 (ss) 保持不變。MAP 估計量變成了 s/(n+1)s / (n + 1)。這把我們的最終猜測拉得比標準的 MLE 還低。

虛擬樣本:核心概念 共軛先驗(conjugate priors,例如用於伯努利拋硬幣的貝塔分佈)的美妙之處在於,它將複雜的微積分簡化成了簡單的算術:先驗只是想像出來的、虛擬的拋硬幣結果,你直接把它們加到真實資料上就好了。

  • 想要假設硬幣是公平的?加上 1 次想像的正面和 1 次想像的反面。
  • 強烈懷疑它偏向正面?加上一堆想像的正面!