問題背景
- 隨機變量 X 服從泊松分佈,概率質量函數為:
P(X=x∣θ)=x!e−θθx,x=0,1,2,…,θ>0
其中 θ 是泊松分佈的參數(即均值和方差)。
- 先驗分佈:θ 的先驗分佈是伽馬分佈 Gamma(α,λ),其概率密度函數為:
π(θ)=Γ(α)λαθα−1e−λθ,θ>0
其中 α(形狀參數)和 λ(速率參數)是已知的。
- 目標:
- 求 θ 的後驗分佈 π(θ∣x),其中 x=(x1,x2,…,xn) 是獨立同分佈的樣本。
- 在平方損失函數下,求 θ 的貝葉斯估計。
第一步:求後驗分佈
假設我們有 n 個獨立同分佈的樣本 x=(x1,x2,…,xn),每個 xi∼Poisson(θ)。樣本的聯合似然函數為:
L(θ∣x)=i=1∏nP(xi∣θ)=i=1∏nxi!e−θθxi=∏i=1nxi!e−nθθ∑i=1nxi
忽略與 θ 無關的常數項(因為它們在後驗分佈中會被歸一化),似然函數正比於:
L(θ∣x)∝e−nθθ∑i=1nxi
先驗分佈為:
π(θ)∝θα−1e−λθ
根據貝葉斯定理,後驗分佈為:
π(θ∣x)∝L(θ∣x)⋅π(θ)∝(e−nθθ∑i=1nxi)⋅(θα−1e−λθ)
合併同類項:
π(θ∣x)∝θ∑i=1nxi+α−1e−(n+λ)θ
這是伽馬分佈 Gamma(α′,λ′) 的核心形式,其中:
- 形狀參數:α′=α+∑i=1nxi
- 速率參數:λ′=λ+n
因此,後驗分佈為:
θ∣x∼Gamma(α+i=1∑nxi,λ+n)
第二步:平方損失函數下的貝葉斯估計
在平方損失函數 L(θ,θ^)=(θ−θ^)2 下,貝葉斯估計是後驗分佈的期望值,即:
θ^Bayes=E[θ∣x]
對於伽馬分佈 Gamma(α′,λ′),期望值為:
E[θ]=λ′α′
代入後驗分佈的參數:
α′=α+i=1∑nxi,λ′=λ+n
因此,貝葉斯估計為:
θ^Bayes=λ+nα+∑i=1nxi
最終答案
- 後驗分佈:
θ∣x∼Gamma(α+i=1∑nxi,λ+n)
- 平方損失函數下的貝葉斯估計:
θ^Bayes=λ+nα+∑i=1nxi
這就是 θ 的後驗分佈和貝葉斯估計。
沒有留言:
張貼留言