Explain ZH
直觀理解 (Intuition)
我們試圖為硬幣的偏置 找到「最佳」的猜測。不同的方法對「最佳」有不同的定義:
- MLE(最大概似估計):問的是「哪個 值能讓我們實際看到的資料發生機率最大?」答案正是我們看到的正面比例:。
- MAP(最大後驗估計):問的是「給定我們的資料『以及』我們的初始假設(先驗), 最有可能的單一數值是多少?」
與均勻先驗的關聯 「均勻先驗 (uniform prior)」在數學上的意義是「我對 的任何數值都沒有偏好;在拋硬幣之前,它們都是等可能的。」
因為我們在開始沒有帶入任何預設的偏見或知識,我們最終信念的最高峰 (MAP) 百分之百是由我們看到的資料所決定的。因此,MAP 給出了與 MLE 完全相同的答案。
哪一個更好? MLE 和 MAP(使用均勻先驗時)給出相同的數字,但在實務上通常更偏好(來自 c 部分, 的)貝葉斯期望值。為什麼呢?因為偏斜分佈的最高點(眾數)並不總是最佳的代表值。期望值(平均值)將整體的「不確定性形狀」都考慮進去了,能防止我們在還沒看到足夠資料時就做出過度自信的極端預測。