ベイズ更新 — 観測ごとに事前分布が事後分布に変わる

成功率 μ や平均 μ について,データを見る前の知識(事前分布)が,観測を 1 個足すたびにどう変わるか(事後分布)を確かめます.最尤推定・MAP 推定・事後平均の違い,データが増えると事前分布の影響が薄れること,1 個ずつ更新しても一括で更新しても同じになること,予測の不確かさが 2 つの成分からなることを,式と数値を見比べながら確かめてください.

成功率 μ の事前分布・尤度・事後分布

観測ボタンを押すたびに,事後分布 Beta(μ | a+m, b+l) が描き直されます.

尤度 p(𝒟 | μ) = μm(1 − μ)l は μ の確率密度ではありません.事前分布・事後分布と形を比べるため,面積を 1 にそろえて(Beta(μ | m+1, l+1) と同じ形)表示しています.塗った範囲は事後分布の 95 % 信用区間(等裾)です.

横軸は観測の回数 N.N 個目まで観測したときの事後平均と 95 % 信用区間,最尤推定値 m/N の推移です.N = 0 の値は事前分布そのものです.

いまの数値を式に入れると

読み出し

観測の履歴(● 成功,○ 失敗.新しい順に最大 200 個)

1 個ずつ更新と一括更新

このシミュレーターの説明(操作手順・式・条件・問い)

操作手順と観察する点

  1. ①で「事前分布の型」を「一様 Beta(1,1)」にし,「成功を 1 回」を 3 回押します.見る点:最尤推定値 m/N = 1,MAP = 1,事後平均 = 4/5 = 0.8 の違い.MAP は事後密度の最大の点,事後平均は分布の重心なので,μ < 1 の側にも確率が残る Beta(4, 1) では事後平均だけが 1 より小さくなります.式で見ると,MAP (a+m−1)/(a+b+N−2) には a − 1,b − 1(一様事前では 0 回)が,事後平均 (a+m)/(a+b+N) には a,b(一様事前では成功 1 回・失敗 1 回.Laplace の継起則)が足されています.
  2. 「失敗を 1 回」を押し,次に「1 つ戻す」で取り消します.見る点:失敗 1 回で事後分布の右端(μ = 1)の密度が 0 になり,MAP が 1 から 0.75 に下がること.
  3. 「データを消す」のあと,事前分布を「強い Beta(20,20)」にして「真の μ から 10 回引く」を何度か押します.見る点:最尤推定値は真の μ(既定 0.70)の近くへ動くのに,事後平均は 0.5 に引き戻されること.下の図で,N が増えると事後平均が最尤推定値に近づき,信用区間が狭くなること(データの重み w = N/(a+b+N) が 1 に近づく).
  4. 「逐次更新と一括更新を比べる」を押します.見る点:1 個ずつ更新したパラメーターの列の最後が一括の Beta(a+m, b+l) と一致すること.格子の上で Bayes の定理を 1 個ずつ数値で適用した密度も,解析的な一括の事後分布と丸め誤差の範囲で一致します.
  5. ②で「10 回観測」を数回押します.見る点:事後分布が細くなり(σN が小さくなる),予測分布の幅は σ より細くならないこと.下の図と内訳の帯で,減るのは σN2 だけであること.
  6. ②で事前の標準偏差 σ0 を 0.1 まで小さくし,事前の平均 μ0 を真の値から離します.見る点:強い事前分布(小さい σ0)は,データが少ないうちは事後平均を μ0 の側に引き留めること.

キーボードでは Tab でボタンとスライダーへ移り,Enter(または Space)で押し,矢印キーでスライダーを動かせます.タブは ←→ で切り替えられます.

計算している式とアルゴリズム

Bayes の定理を成功率 μ に適用します(μ の関数として見るとき,分母の証拠 p(𝒟) は正規化定数です).

p(μ∣𝒟)=p(𝒟∣μ)p(μ)p(𝒟)∝μm(1−μ)l×μa−1(1−μ)b−1

事前分布を Beta(μ | a, b) とし,成功 m 回・失敗 l 回(N = m + l)を観測すると,事後分布はふたたび Beta 分布になります(共役).

p(μ∣𝒟)=Beta(μ∣a+m,b+l),Beta(μ∣a,b)=Γ(a+b)Γ(a)Γ(b)μa−1(1−μ)b−1

画面に出す 4 つの点推定と予測:

μML=mN,μMAP=a+m−1a+b+N−2(a+m>1,b+l>1 のとき)𝔼[μ∣𝒟]=p(x=1∣𝒟)=∫01μp(μ∣𝒟)dμ=a+ma+b+Na+ma+b+N=wmN+(1−w)aa+b,w=Na+b+N

95 % 信用区間は事後分布の 2.5 % 点と 97.5 % 点(等裾の区間)です.正則化不完全ベータ関数 Ix(a, b) を連分数で計算し,その逆関数を Newton 法と二分法で求めています.

1 個ずつ更新するときは,直前の事後分布を次の事前分布として使います.成功なら a に 1,失敗なら b に 1 を足すだけなので,順序によらず一括の結果と同じになります.画面の数値による確認では,μ の格子(2001 点)の上で対数の密度に ln μ または ln(1 − μ) を 1 個ずつ足し,最後に正規化した密度を一括の解析解と比べています.

②の Gauss 分布の平均(ノイズの分散 σ2 は既知,事前分布 𝒩(μ | μ0, σ02))では,平方完成により

1σN2=1σ02+Nσ2,μN=σN2(μ0σ02+Nx¯σ2)p(x∣𝒟)=𝒩(x∣μN,σ2+σN2)

予測分散のうち σ2 はノイズ由来(偶然的な不確かさ),σN2 は μ を知らないことに由来する(認識的な不確かさ)成分です.

データと乱数の条件

  • 「真の μ から引く」の観測は教育用の合成データです:x = 1(成功,たとえば試料の合格)を確率 μ真,x = 0(失敗)を確率 1 − μ真 で,互いに独立に引きます.既定は μ真 = 0.70.単位はありません.
  • ②の観測も教育用の合成データです:x = μ真 + σ ε,ε ~ 𝒩(0, 1)(独立).既定は μ真 = 1.5,σ = 1,事前 μ0 = 0,σ0 = 2.量は無次元です(たとえば測定値を基準値からのずれで表したもの).
  • 乱数は seed つきの生成器(mulberry32)です.既定の seed は ①,② とも 20261112.同じ seed でやり直すと同じ観測の列が出ます.seed の操作(やり直す・変える・既定に戻す)は,観測をすべて消して最初から引き直します.
  • 上限:①の観測は 2000 回,②は 1000 回まで.

簡略化している点

  • ①では各観測が独立で,成功率 μ は一定と仮定しています(同じロットの試料で条件がそろっている場合に近い).実際の工程では μ が時間とともに変わることがあります.
  • ②ではノイズの分散 σ2 を既知としています.σ2 も未知なら事後予測分布は Student の t 分布になります(本文 4.9 節,第3章 3.9 節).
  • 信用区間は等裾の区間です(最高密度区間ではありません).
  • 事前分布のパラメーターは a,b ∈ [0.5, 30],σ0 ∈ [0.1, 3],σ ∈ [0.2, 3] に制限しています.

結果が不安定になる条件

  • a + m < 1 または b + l < 1 のとき,事後密度が端で発散し,MAP の公式は使えません(画面では「内部に最大なし」と表示します).片方がちょうど 1 のときは端(μ = 0 または 1)が最大で,公式の値もその端に一致します.一様な Beta(1,1) のまま(a+m = b+l = 1)では最大の点が 1 つに決まりません(画面では「1 つに決まらない」).
  • N = 0 では最尤推定値 m/N は定義できません(0/0).
  • 観測が多い(N ≳ 1000)と事後分布が非常に細くなり,図の縦軸が大きく伸びます.数値計算は対数で行っているので,桁あふれは起きません.
  • 真の μ を 0 や 1 の近くにすると,成功(または失敗)しか出ない列が続き,最尤推定値は 0 や 1 に張り付きます(事後平均は張り付きません).

本文の対応節

操作後に答える短い問い

  1. 一様な事前分布 Beta(1,1) のもとで 3 回中 3 回成功しました.最尤推定値・MAP・事後平均はそれぞれいくつですか.事後平均だけが違うのはなぜですか.
    答えの例

    最尤 3/3 = 1,MAP (1+3−1)/(1+1+3−2) = 3/3 = 1,事後平均 (1+3)/(1+1+3) = 4/5 = 0.8.一様な事前分布では事前密度が一定なので,事後密度の最大の点(MAP)は尤度の最大の点(最尤)と同じです.事後平均は分布全体の重心で,μ < 1 の側にも確率が残っているので 1 より小さくなります.これは次の 1 回が成功する確率 p(x=1 | 𝒟) でもあります.

  2. 事前分布 Beta(20,20) と Beta(1,1) で,同じ観測(成功 7 回,失敗 3 回)を入れたとき,事後平均はそれぞれいくつですか.観測を 100 倍(成功 700 回,失敗 300 回)にするとどうなりますか.
    答えの例

    N = 10:Beta(20,20) では 27/50 = 0.54,Beta(1,1) では 8/12 ≈ 0.667.N = 1000:720/1040 ≈ 0.692 と 701/1002 ≈ 0.700(最尤推定値はどちらも 0.7).データの重み w = N/(a+b+N) は 10/50 = 0.2 から 1000/1040 ≈ 0.96 に増え,事前分布の影響が薄れます.

  3. 1 個ずつ更新した結果と一括で更新した結果が一致するのはなぜですか.観測の順番を入れ替えるとどうなりますか.
    答えの例

    観測が独立なら尤度は 1 個ずつの尤度の積で,k 個目までの事後分布に k+1 個目の尤度を掛けて正規化すると,全体の積を正規化したものと同じになります.Beta–Bernoulli では成功なら a,失敗なら b に 1 を足すだけなので,順番を入れ替えても最後は Beta(a+m, b+l) です(途中の経過は変わります).

  4. ②で σ = 1,σ0 = 1 のとき,N = 0,1,9,99 での σN2 と予測分散はいくつですか.予測分散はいくら観測を増やしても何より小さくなりませんか.
    答えの例

    σN2 = 1/(1+N) なので 1,0.5,0.1,0.01.予測分散 1 + σN2 は 2,1.5,1.1,1.01 で,ノイズの分散 σ2 = 1 より小さくなりません.データを増やして減らせるのは知識不足に由来する成分だけです.

機械学習 — 確率から GPT まで(目次)へ戻る | 本文:第4章 4.4 節 | 数式はブラウザ標準の MathML で組んでいます(外部ライブラリ不使用).