講義/Baum-Welch Algorithm

出典: Fukudat

Markov Model と Markov Chain は知っているとして，Hidden Markov Models (HMM)の学習アルゴリズムとして有名な Baum-Welch Algorithm を解説する．

準備

n個組みを表す便利な表記方法として，

$\left[a_k\right]_{k=i}^{j} \equiv (a_{i}, a_{i+1}, \ldots, a_{j})$
$\left[a(k)\right]_{k=i}^{j} \equiv (a(i), a(i+1), \ldots, a(j))$

を導入する．添字の" $k=$ "は，明らかな場合は省略することもある．

条件付確率 (conditional probability) と再帰的分解 (recursive factorization) を用いる．再帰的分解とは，複数の事象 (event) の同時確率 (joint probability) は 1つの事象のそれ以前に起こった事象を条件とする条件付確率の積で表されるというもので，例えば， $A$ , $B$ , $C$ をそれぞれ事象として，

$Pr(A \cap B \cap C) = Pr(A) Pr(B \mid A) Pr(C \mid A \cap B)$

である．

前に定義したカギ括弧表記法を用いると，離散確率変数 $X(n)$ の系列の同時確率分布は，

$Pr\left(\left[ X(k) \right]_0^N = \left[ x_k \right]_0^N \right) = Pr(\bold{X}(0)=x_0) \cdot \prod_{n=1}^{N} Pr\left( \bold{X}(n) = x_n \mid \left[ X(k) \right]_0^{n-1} = \left[ x_k \right]_0^{n-1} \right)$

と表記できる．

[編集]

Hidden Markov Chain

ここでは有限状態の場合だけを考える．

$\bold{S}$ を状態の有限集合とする．状態数を $M$ とする(つまり $|\bold S|=M$ )．簡単のため，状態を $1$ から $M$ の整数で表現する．（つまり， $\bold{S} = \{1, 2, \ldots, M\}$ ．）

つぎに， $(S(t) : t \in [0..N])$ を確率変数の時系列とし，すべての $t$ において $Pr(S(t) \in \bold{S}) = 1$ であるとする．つまり， $S(t)$ は $\bold{S}$ に限定されている．

$0$ から $N$ までの確率変数について，再帰的分解を適用すると，

$Pr\left( \left[ S(k) \right]_0^N = \left[ s_k \right]_0^N \right) = Pr\left( S(0) = s_0 \right) \cdot \prod_{n=1}^{N} Pr\left( S(n) = s_n \mid \left[ S(k) \right]_0^{n-1} = \left[ s_k \right]_0^{n-1} \right)$ . . . (1)

となる．

この事象系列がMarkov Chainであるためには，この条件付確率は直前の確率変数だけの関数でなければならないこのため，式(1)は次の様に簡略化される．

$Pr\left( \left[ S(k) \right]_0^N = \left[ s_k \right]_0^N \right) = Pr\left( S(0) = s_0 \right) \cdot \prod_{n=1}^{N} Pr\left( S(n) = s_n \mid S(n-1) = s_{n-1} \right)$ . . . (2)

ここで状態遷移確率は定常的であり，時間に依存しないと仮定する．すなわち，任意の $n$ について

$Pr(S(n)=j \mid S(n-1)=i) = Pr(S(1)=j \mid S(0)=i) \quad\stackrel{\rm{def}}{=}\quad p_{ij}$

である．

つぎに $(Y(t) : t \in [0..N])$ を別の確率変数の系列とする（観測 (observation) と呼ぶ）． $Y(t)$ は有限の範囲に限定されているとし，時刻 $0$ から $T$ までの連続した観測が得られるものとする． (一般の場合に拡張することは可能だが，複雑になるのでここでは扱わない）．

観測 $Y(t)$ はその時点の状態 $S(t)$ だけに依存すると仮定して， $T+1$ 個の状態と $T$ 個の観測の同時確率分布を分解すると，

$Pr\left( \left[ S(t) \right]_0^T = \left[ s_t \right]_0^T \wedge \left[ Y(t) \right]_1^T = \left[ y_t \right]_1^T \right) =$
　　 $Pr\left( S(0) = s_0 \right) \cdot \prod_{t=1}^{T} Pr\left( S(n) = s_n \mid S(n-1) = s_{n-1} \right) \cdot$
　　 $\prod_{t=1}^{T} Pr\left( Y(t) = y_t \mid S(t) = s_t \right)$ . . . (3)

表記をさらに簡単にするために，次の記号を導入する．

$\begin{cases} f(y \mid s) & \stackrel{\rm{def}}{=}\quad Pr\left( Y(t) = y \mid S(t) = s\right) \\ \bar{s} & \stackrel{\rm{def}}{=}\quad \left[ s_t \right]_0^T \\ \bar{y} & \stackrel{\rm{def}}{=}\quad \left[ y_t \right]_1^T \\ p(\bar{s}, \bar{y}) & \stackrel{\rm{def}}{=}\quad Pr\left( \left[ S(t) \right]_0^T = \bar{s} \wedge \left[ Y(t) \right]_1^T = \bar{y} \right) \\ \end{cases}$

これを使って式(3)を書き換えると，

$Pr\left(S(\tau) = s_{\tau} \mid \left[ Y(t) \right]_{1}^{T} = \left[ y_t \right]_{1}^{T} \right) =$
　　 $p(\bar{s}, \bar{y}) = p_{s_0} \cdot \prod_{t=1}^{T} p_{s_{t-1} s_{t}} f(y_t \mid s_t)$ . . . (4)

を得る．この式(4)はモデルにおける，これ以上分解することのできない最小の事象に対する確率を与える式である．すなわち，モデル上で表現することのできる任意のイベントは，この確率の和として表現することが可能である．

もちろん，この確率は次のモデルパラメータ $\lambda$ の関数である．

$\lambda \quad \stackrel{\rm{def}}{=} \quad \left.\begin{cases} p_s, & 1 \le s \le M \\ p_{s_1s_2}, & 1 \le s_1, s_2 \le M \\ f(y \mid s), & 1 \le y \le Y,\, 1 \le s \le M \\ \end{cases} \right\}$

このため，以後は適時 $\lambda$ を関数の引数に使用する．なお，

$p_s$ ... (初期)状態が $s$ である確率
$p_{s_1 s_2}$ ... 状態 $s_1$ から状態 $s_2$ に遷移する確率
$f(y \mid s)$ ... 状態 $s$ で観測 $y$ が観測される確率

という意味である．

状態 $S(t)$ は直接観測できないが， $Y(t)$ は観測できると考えて議論するのが，Hidden Markov Model (HMM) である．

[編集]

各種事象の生起確率の計算

ある $T$ 個の観測からなる観測系列 $\bar{y}$ が観測される確率は，

$p(\bar{y};\, \lambda) \quad \stackrel{\rm{def}}{=} \quad \sum_{\bar{s}} p(\bar{s}, \bar{y};\, \lambda)$

と書ける．この確率は，ある観測系列 $\bar{y}$ が得られたときのモデルパラメータ $\lambda$ の尤度 (likelihood) でもある．

ある $T$ 個の観測からなる観測系列 $\bar{y}$ が観測されたときに，ある時刻 $\tau$ における状態の確率分布

$\Gamma_{\tau}(s_{\tau}) \quad\stackrel{\rm{def}}{=}\quad Pr\left(S(\tau) = s_{\tau} \mid \left[ Y(t) \right]_{1}^{T} = \left[ y_t \right]_{1}^{T} \right)$

を推定したい．条件付確率の定義より，

$\Gamma_{\tau}(s_{\tau}) = Pr\left(S(\tau) = s_{\tau} \mid \left[ Y(t) \right]_{1}^{T} = \left[ y_t \right]_{1}^{T} \right) = \frac{ Pr\left(S(\tau) = s_{\tau} \wedge \left[ Y(t) \right]_{1}^{T} = \left[ y_t \right]_{1}^{T} \right) }{ Pr\left(\left[ Y(t) \right]_{1}^{T} = \left[ y_t \right]_{1}^{T} \right) }$

であるから，条件付確率を求めることは，同時確率を求めることと等価である．

ところで

$\Gamma_{\tau}(s_{\tau}) = Pr\left(S(\tau) = s_{\tau} \mid \left[ Y(t) \right]_{1}^{T} = \left[ y_t \right]_{1}^{T} \right)$
　　 $= Pr\left(\left[ Y(t) \right]_{1}^{\tau} = \left[ y_t \right]_{1}^{\tau} \wedge S(\tau) = s_{\tau} \right) \cdot$
　　　　 $Pr\left(\left[ Y(t) \right]_{\tau+1}^{T} = \left[ y_t \right]_{\tau+1}^{T} \mid \left[ Y(t) \right]_{1}^{\tau} = \left[ y_t \right]_{1}^{\tau} \wedge S(\tau) = s_{\tau} \right)$

であるが， Markov性の仮定から， $[S(t)]_{\tau+1}^{T}$ の確率分布は $S(\tau)$ 以前の履歴とは独立（無関係）であり，したがって $[Y(t)]_{\tau+1}^{T}$ の確率分布も同様である．このことから右辺の第2項にある $Y$ の条件は取り除くことができ，

$\Gamma_{\tau}(s_{\tau}) = Pr\left(S(\tau) = s_{\tau} \mid \left[ Y(t) \right]_{1}^{T} = \left[ y_t \right]_{1}^{T} \right)$
　　 $= Pr\left(\left[ Y(t) \right]_{1}^{\tau} = \left[ y_t \right]_{1}^{\tau} \wedge S(\tau) = s_{\tau} \right) \cdot$
　　　　 $Pr\left(\left[ Y(t) \right]_{\tau+1}^{T} = \left[ y_t \right]_{\tau+1}^{T} \mid S(\tau) = s_{\tau} \right)$

を得る．

$\begin{cases} \alpha_{\tau}(s) & \stackrel{\rm{def}}{=}\quad Pr\left(\left[ Y(t) \right]_{1}^{\tau} = \left[ y_t \right]_{1}^{\tau} \wedge S(\tau) = s \right), \\ \beta_{\tau}(s) & \stackrel{\rm{def}}{=}\quad Pr\left(\left[ Y(t) \right]_{\tau+1}^{T} = \left[ y_t \right]_{\tau+1}^{T} \mid S(\tau) = s \right) \\ \end{cases}$

と置くと，

$\Gamma_{\tau}(s) = \alpha_{\tau}(s) \cdot \beta_{\tau}(s)$

である．

ここで， $\alpha_{\tau}(s)$ を再帰分解すると，

$\alpha_{\tau}(s) = \sum_{\sigma} Pr\left( [Y(t)]_1^{\tau-1} = [y_t]_1^{\tau-1} \wedge S(\tau-1)=\sigma \right) \cdot$
　　　　 $Pr\left(Y(\tau)=y_t \wedge S(\tau) = s \mid [Y(t)]_1^{\tau-1} = [y_t]_1^{\tau-1} \wedge S(\tau-1)=\sigma \right)$

再び Markov性の仮定から，第2項の $Y$ に関する条件を消去して，

$\alpha_{\tau}(s) = \sum_{\sigma} Pr\left( [Y(t)]_1^{\tau-1} = [y_t]_1^{\tau-1} \wedge S(\tau-1)=\sigma \right) \cdot$
　　　　 $Pr\left(Y(\tau)=y_t \wedge S(\tau) = s \mid S(\tau-1)=\sigma \right)$

この第1項は $\alpha_{\tau-1}(\sigma)$ で，第2項は $p_{\sigma s} f(y_\tau \mid s)$ であるから，結局次の漸化式を得る．

$\alpha_{\tau}(s) = \sum_{\sigma} \alpha_{\tau-1}(\sigma) p_{\sigma s} f(y_\tau \mid s)$ . . . (5)

同様に， $\beta_{\tau}(s)$ に関しては

$\beta_{\tau}(s) = \sum_{\sigma} p_{s \sigma} f(y_{\tau+1} \mid \sigma) \beta_{\tau+1}(\sigma)$ . . . (6)

を得る． $p(\bar{y};\, \lambda)=\sum_{\sigma} \alpha_T(\sigma)$ であるから，結局 $\bar{y}$ を観測したとき，時刻 $\tau$ の状態が $s_{\tau}$ である確率は

$Pr(s_{\tau} \mid \bar{y}) \equiv Pr( S(\tau) = s_{\tau} \mid [Y(t)]_1^T = [y]_1^T ) = \frac{\alpha_{\tau}(s_{\tau}) \beta_{\tau}(s_{\tau})}{\sum_{\sigma} \alpha_T(\sigma)}$ . . . (7)

一旦各状態について $\alpha$ , $\beta$ を求めてしまえば，色々な事象の確率を計算することが可能となる．

"http://www.fukudat.com/wiki/ja/%E8%AC%9B%E7%BE%A9/Baum-Welch_Algorithm" より作成

講義/Baum-Welch Algorithm

出典: Fukudat

準備

Hidden Markov Chain

各種事象の生起確率の計算

表示

個人用ツール

ナビゲーション

検索

ツールボックス