装置が「正常」か「劣化」か(隠れ状態)は直接見えず,センサーの値(観測)だけが時刻ごとに得られる,という場面で,観測の列から隠れ状態を推定します.forward 算法で求めるフィルタリング(その時刻までの観測を使う)と,backward 算法も使う平滑化 γt(全時刻の観測を使う)の違い,最も確からしい状態の列(Viterbi 法)が各時刻の最も確からしい状態を並べたものと一致しないことがあること,連続の隠れ状態では Kalman フィルターになることを,式に数値を入れながら確かめてください.
観測の列と真の状態
「時刻を進める」で調べる時刻 t(縦の破線)が動き,下の「いまの数値を式に入れると」がその時刻の forward 算法の 1 段になります.
劣化である確率:フィルタリングと平滑化
破線はフィルタリング p(zt = 2 | x1:t)(時刻 t までの観測だけを使う),実線は平滑化 γt(2) = p(zt = 2 | x1:T)(全時刻の観測を使う).斜線の帯は真の状態が劣化の時刻です.状態の番号は 1 = 正常,2 = 劣化.
状態の列(推定と真の状態)
各行の塗ったます目は「劣化」,白います目は「正常」と推定した時刻です.ます目の下の小さな ▲ は真の状態と違う時刻です.「γ 最大」は各時刻で γt(j) が最大の状態を並べた列,「フィルター」はフィルタリングの確率が最大の状態の列,Viterbi は同時確率 p(x1:T, z1:T) が最大の状態の列です.
p(zt = 2 | x1:t−1) は 1 時刻前までの観測から見た予測,ct = p(xt | x1:t−1) は正規化の係数です.状態 1(正常)の値は 1 から引いた値です(2 状態なので).α̂t(j) は規格化した forward 変数で,フィルタリングの確率そのものです.
手計算(状態 2 個,時刻 3 個)の格子図
各ます目に αt(j),βt(j),γt(j) を書きました.太い緑の矢印が Viterbi の経路,二重の枠が各時刻で γt が最大の状態です.
真の状態,観測,Kalman フィルターの推定
隠れ状態 zt がランダムウォークで動き,観測 xt にはノイズが乗ります.推定の平均 μt と ±2√Pt の帯を描きます.
Kalman ゲイン Kt と推定の分散 Pt の推移
点線の横線は定常値 K∞ と P∞.観測が欠けた時刻(斜線の帯)では更新ができないので Kt = 0 となり,Pt は毎時刻 q ずつ増えます.観測のある時刻では Pt = Ktr なので,r = 1 では 2 本の線が重なります(太い実線の上に破線).
キーボードでは Tab でボタンとスライダーへ移り,Enter(または Space)で押し,矢印キーでスライダーを動かせます.タブは ←→ で切り替えられます.埋め込みでは ?only=hmm&mode=hand で手計算モードから始まります.
隠れ状態 zt ∈ {1, 2}(1 = 正常,2 = 劣化),初期分布 πi = p(z1 = i),遷移行列 Aij = p(zt = j | zt−1 = i)(i から j へ.各行の和が 1),出力確率 Bjv = p(xt = v | zt = j) とすると,同時分布は
forward 算法(αt(j) = p(x1:t, zt = j))と backward 算法(βt(j) = p(xt+1:T | zt = j)):
αt(j) は確率の積なので,T が大きいと指数関数的に小さくなり,やがて浮動小数点数で 0 に丸まります(この装置の試験では T = 2000 で 0 に丸まりました).そこで次のスケーリングを使います.各時刻で正規化の係数 ct = p(xt | x1:t−1) で割り,規格化した α̂t(j) = p(zt = j | x1:t) を順に求めます.
計算の中では,同じ量を対数で求める版(ln αt を log-sum-exp で更新する)も並べて計算し,読み出しに両者の対数尤度の差を表示します(丸め誤差の大きさ).Gauss 型の観測では Bjxt の代わりに密度 𝒩(xt | μj, σ2) を使い,各時刻で 2 つの密度の大きい方で割ってから計算します(割った分は対数尤度に足し戻します).
Viterbi 法は,和の代わりに最大値を取ります.ωt(j) は「時刻 t に状態 j で終わる状態の列のうち最も確からしいものの同時確率」,ψt(j) はそのときの 1 つ前の状態(バックポインター)です.計算は対数で行います.
②の Kalman フィルターは,連続の隠れ状態 zt がランダムウォーク zt = zt−1 + wt(wt ~ 𝒩(0, q))をし,観測が xt = zt + vt(vt ~ 𝒩(0, r))のときの forward 算法です.分布がずっと Gauss 分布のままなので,平均と分散だけを更新すれば済みます(更新は第4章の「Gauss 分布の平均のベイズ推定」と同じ計算).
μt,Pt は p(zt | x1:t) = 𝒩(zt | μt, Pt) の平均と分散,μt|t−1,Pt|t−1 は 1 つ前までの観測から見た予測の平均と分散です.観測が欠けた時刻は更新をせず,μt = μt|t−1,Pt = Pt|t−1 とします.分散の更新は引き算をしない形 Pt|t−1r/(Pt|t−1 + r) で計算するので,丸めで負になりません.
α1(1) = 0.6 × 0.5 = 0.30000,α1(2) = 0.4 × 0.1 = 0.040000.α2(1) = B1,中(0.3 × 0.7 + 0.04 × 0.4) = 0.4 × 0.226 = 0.090400.同様に α2(2) = 0.3 × (0.3 × 0.3 + 0.04 × 0.6) = 0.034200,α3(1) = 0.1 × (0.0904 × 0.7 + 0.0342 × 0.4) = 0.0076960,α3(2) = 0.6 × (0.0904 × 0.3 + 0.0342 × 0.6) = 0.028584.p(x1:3) = 0.0076960 + 0.028584 = 0.036280.8 通りの全列挙の和と一致します.
γ3 = (0.54627, 0.45373) は,z2 が正常の列も劣化の列も足し合わせた(周辺化した)確率です.最後の観測「中」は B1,中 = 0.4 と B2,中 = 0.3 で区別しにくく,z2 = 正常 を経る列の分まで含めると z3 = 正常 がわずかに多くなります.一方,最も確からしい 1 本の列 正常・劣化・劣化(確率 0.0097200)は,劣化にとどまる確率 A22 = 0.6 が劣化から戻る確率 A21 = 0.4 より大きいので,正常・劣化・正常(0.0086400)より確からしくなります.「各時刻で最も確からしい状態」と「最も確からしい状態の列」は別の問いです.
既定(seed 20261112)ではフィルタリング 0.90,平滑化(γ 最大)0.99,Viterbi 0.98 です.平滑化は時刻 t より後の観測も使うので,状態が切り替わった直後の判断を後から修正できます.ただし後の観測が届くまで計算できないので,その時刻に判断を下す実時間の監視ではフィルタリングしか使えません(後から記録を解析するときは平滑化が使えます).
K1 = 1/(1 + 1) = 0.5,P1 = 0.5.P2|1 = 0.5 + 0.2 = 0.7,K2 = 0.7/1.7 = 0.41176.定常値は P∞− = (0.2 + √(0.04 + 0.8))/2 = 0.55826,K∞ = 0.55826/1.55826 = 0.35826.観測が欠けると更新ができず,Pt = Pt−1 + q で毎時刻 0.2 ずつ増え(15 時刻で 3.0 増える),観測が戻った時刻のゲインは大きくなります.
機械学習 — 確率から GPT まで(目次)へ戻る | 本文:第22章 22.5 節 | 数式はブラウザ標準の MathML で組んでいます(外部ライブラリ不使用).