可積分

前記事のフィルトレーションの定義中に可積分が前提とされていましたが、定義されていなかったので定義しておきます。

$\forall t\in T$について$X_t$が$L^1$に属するとき、すなわち$E(\mid X_t\mid)\lt \infty\ \ (\forall t\in T)$のとき、$X$を可積分であるという。

マルコフ過程

確率過程$X$が生成するフィルトレーションを$\{\mathcal{F}^X_t\}$とするとき、任意のBorel集合$\mathcal{B}$に対して、 $$ P(X_u\in \mathcal{B}\mid\mathcal{F}^X_t\}=P(X_u\in\mathcal{B}\mid X_t)\ \ \ \ \ (u\gt t) $$ であるとき、$X$をマルコフ過程という。

式で明らかなように、システムがいかなる過程を通ってきたとしても、ある状態になるのは、現在の状態のみに依存し、過去の状態に依存しないことを意味します。この性質をマルコフ性と呼びます。

前のブログ 次のブログ

マルチンゲール

マルチンゲールの定義です。

可積分な$\text{c}\grave{\text{a}}\text{dl}\grave{\text{a}}\text{g}$過程$M=\{M_t\mid t\in T\}$が$\{\mathcal{F}_t\}$に適合していて、ほとんど確実に $$ E(M_t\mid \mathcal{F}_s)=M_s\ \ \ \ (t\gt s) $$ が成り立つとき、$M$を$\{\mathcal{F}_t\}$に関するマルチンゲールという。

これで分かるように、マルチンゲールとなる確率過程に関しては、過去($s$)の事象を完全に記憶していても、未来の期待値は現在の期待値と同じであることを表しています。いわゆる公平な賭けを表す確率過程です。

上記確率過程$M$が $$ E(M_t\mid \mathcal{F}_s)\geq M_s\ \ \ \ (t\gt s) $$ が成り立つとき、$M$を$\{\mathcal{F}_t\}$に関する劣マルチンゲールという。 $$ E(M_t\mid \mathcal{F}_s)\leq M_s\ \ \ \ (t\gt s) $$ が成り立つとき、$M$を$\{\mathcal{F}_t\}$に関する優マルチンゲールという。

教科書にはランダムウォークの例が良く書かれていますが、増加、減少の確率が$\frac{1}{2}$であるときに限りマルチンゲールとなります。不信頼度は非減少関数なので、劣マルチンゲールです。

前のブログ 次のブログ

確率変数の生成するフィルトレーション

時刻$t$までの確率過程$X$の挙動$\{X_s(\omega)\mid 0\leq s\leq t\}$を全て可測とする$\sigma$加法族を$\sigma(X_s\mid s\leq t)$と表し、これを右連続化したものを$\mathcal{F}^X_t$と表すとき、それらの集合$\{\mathcal{F}^X_t\}$を、確率過程$X=\{X_t\}$により生成されるフィルトレーションという。

ただし、$\mathcal{F}^X_t$が右連続($\text{c}\grave{\text{a}}\text{dl}\grave{\text{a}}\text{g}$)であるということは、任意の$t\in T$に対して、

左極限$\mathcal{F}^X_{t-}:=\lim_{s\uparrow t}\mathcal{F}^X_s$が存在し、かつ 右極限$\mathcal{F}^X_{t+}:=\lim_{s\downarrow t}\mathcal{F}^X_s$が存在しかつ$\mathcal{F}^X_t$に等しい

ことをいいます。

独立増分確率過程

確率過程$X_t$について、区間での増分が独立となる場合には、独立増分過程という

次の定理が成り立ちます。

独立増分過程$X_t$が可積分のとき、その平均が一定であれば、$\{\mathcal{F}^X_t\}$を$X_t$が生成するフィルトレーションとして、次式が成立する。 $$ E(X_t-X_s\mid \mathcal{F}^X_s)=0 (t\gt s) $$

$$ E(X_t-X_s\mid \mathcal{F}^X_s)=E(X_t-X_s)=E(X_t)-E(X_s)=0 $$ より、題意が成り立ちます。

前のブログ 次のブログ

今までは、スタティックな確率事象を議論してきましたが、いよいよ時間によって変化する確率事象、つまり確率過程について説明していきます。

確率過程

確率空間$(\Omega, \mathcal{F}, P)$、可測空間$(\mathcal{S}, \Sigma)$、全順序集合$T$が与えられ、時刻$t\in T$で添え字付けられる状態空間$\mathcal{S}$に値をとる確率過程$X_t$とは、 $$ X:\Omega\times T\to\mathcal{S} $$ であり、全ての$t\in T$に対して$X_t$が$\Omega$上の確率変数となるものをいう。

確率過程は時間的に変化する確率変数であり、「すべての$t\in T$に対して」というのは$\omega\in\Omega$を固定するという意味です。これはサンプルパスと言われます。一方で$t$を固定すれば、ある時刻の確率変数$X(\omega)$が得られます。従って、確率過程とは確率変数の時間変化に他なりません。

ただし、上の定義内の直積$\times$は、以下のような定義です。

$$ \Omega\times T=\{(\omega, t)\mid \omega\in\Omega\land t\in T\} $$

すなわち、2つの集合からひとつずつ取り出してペアとした集合です。

フィルトレーション

可測空間$(\Omega, \mathcal{F})$において、$t\in T$をパラメータとする$\mathcal{F}$の部分$\sigma$加法族の族$\{\mathcal{F}_t\mid t\in T\}$が$0\leq s\leq t\Longrightarrow\mathcal{F}_s\subseteq\mathcal{F}_t$を満たすとき、増大情報系(フィルトレーション)という。

適合

フィルトレーション$\{\mathcal{F}_t\}$が与えられた確率空間$(\Omega, \mathcal{F}, P)$上の確率過程$\{X_t(\omega)\}$が任意の$t\in T$に対して$X_t$が$\mathcal{F}_t$可測になるとき、フィルトレーション$\{\mathcal{F}_t\}$に適合するという。

従って、$X_t$が$\{\mathcal{F}_t\}$に適合している場合は、ある時刻での$X_t$が時刻$t$までに観測しうる情報で表せることを意味しています。これを因果的(causal)といい、そのような空間をフィルター付き確率空間$(\Omega, \mathcal{F}, P, \{\mathcal{F}_t\})$と呼びます。

前のブログ 次のブログ

基本単位についての定理です。

$X$を可測集合$(\Omega, \mathcal{F})$上の実確率変数、つまり$\mathcal{F}$可測写像とすると、これは$\mathcal{F}$の基本単位上で定数となる。

まず、確率変数$X$は前記事で定義したように、$\mathcal{F}$可測であることから逆像が$\mathcal{F}$の要素となります。これを表すために、定数を$x\in\mathcal{B}$とすれば、その逆像は$A=X^{-1}(\{x\})$と書け、$A\in\mathcal{F}$と表せます。$\mathcal{F}$の基本単位を$C$で表し、$C\cap A\neq\varnothing$となるようにとれば、$C$は基本単位であるため、$C\subset A=X^{-1}(\{x\})$。これを$X$により写像すれば、$X(C)\subset X(A)=x$より、基本単位の$X$による写像は定数となります。

前のブログ 次のブログ

基本単位

1. $\Omega$の部分集合の族$\mathcal{G}$が$\mathcal{G}\subset\mathcal{F}$を満たし、かつ$\mathcal{G}$自身が$\sigma$加法族であるとき、$\mathcal{G}$を$\mathcal{F}$の部分$\sigma$加法族という。
2. $\sigma$加法族$\mathcal{G}$の要素集合$A(\neq\varnothing)$で、$A$自身と$\varnothing$を除く全ての$A$の部分集合が$\mathcal{G}$に属さないとき、$A$を$\mathcal{G}$の基本単位という。

基本単位は情報の粗さを決定する最小単位です。例を挙げてみます。

標本集合 $$ \Omega=\{\img[-0.2em]{/images/d1s.png}, \img[-0.2em]{/images/d2s.png}, \img[-0.2em]{/images/d3s.png}, \img[-0.2em]{/images/d4s.png}, \img[-0.2em]{/images/d5s.png}, \img[-0.2em]{/images/d6s.png}\} $$ があり、どのような基本単位で事象を考えるかについて、例えば、$\sigma$加法族$\mathcal{F}$に関して、 $$ A_1=\{\img[-0.2em]{/images/d1s.png}\}, A_2=\{\img[-0.2em]{/images/d2s.png}\}, A_3=\{\img[-0.2em]{/images/d3s.png}\}, A_4=\{\img[-0.2em]{/images/d4s.png}\}, A_5=\{\img[-0.2em]{/images/d5s.png}\}, A_6=\{\img[-0.2em]{/images/d6s.png}\} $$ のような集合$A_i (i=1,...,6)$を考えると、これは上記の基本単位の定義を明らかに満たしています。 各事象集合$A_i$に属する集合は根元事象で、その部分集合から自分自身と$\varnothing$は無いため、$\mathcal{F}$に属さず、$A_i$は$\mathcal{F}$の基本単位となります。

次に、奇数の目の集合と偶数の目の集合を考えます。 $$ A_\text{odd}=\{\img[-0.2em]{/images/d1s.png}, \img[-0.2em]{/images/d3s.png}, \img[-0.2em]{/images/d5s.png}\}, A_\text{even}=\{\img[-0.2em]{/images/d2s.png}, \img[-0.2em]{/images/d4s.png}, \img[-0.2em]{/images/d6s.png}\}, \mathcal{G}=\{A_\text{odd}, A_\text{even}, \Omega, \varnothing\} $$ 自分自身と$\varnothing$を除く$A_\text{odd}$の部分集合は、 $$ \{\img[-0.2em]{/images/d1s.png}\}, \{\img[-0.2em]{/images/d3s.png}\}, \{\img[-0.2em]{/images/d5s.png}\}, \{\img[-0.2em]{/images/d1s.png}, \img[-0.2em]{/images/d3s.png}\}, \{\img[-0.2em]{/images/d1s.png}, \img[-0.2em]{/images/d5s.png}\}, \{\img[-0.2em]{/images/d3s.png}, \img[-0.2em]{/images/d5s.png}\} $$ となり、いずれも$\mathcal{G}$に属していません。$A_\text{even}$に関しても同様であり、$A_\text{odd}$、$A_\text{even}$とも、$\mathcal{G}$の基本単位となります。

この例は、確率微分方程式とその応用, 清兼泰明, 森北出版の例2.3.10に掲載されているものです。

前のブログ 次のブログ

確率変数から生成される$\sigma$加法族

ボレル集合から生成された$\sigma$加法族を定義しましたが、今回は確率変数から生成される$\sigma$加法族を定義します。

確率空間$(\Omega, \mathcal{F}, P)$上で定義された可測空間$(\mathcal{E}, \mathcal{G})$に値を取る確率変数$X:\Omega\to\mathcal{E}$に対し、集合族$\mathcal{A}_X$ $$ \mathcal{A}_X=\{X^{-1}(G):G\in\mathcal{G}\}=\{\{\omega\in\Omega:X(\omega)\in G\}:G\in\mathcal{G}\} $$ を確率変数$X$から生成された集合族という。$\mathcal{A}_X$から生成される$\sigma$加法族$\sigma[\mathcal{A}_X]$を$\sigma[X]$と書く。

前記事で

空でない集合$S$の、様々な部分集合$E_n$を元とする集合族$\mathfrak{B}_0$に対して、この$\mathfrak{B}_0$を含むような$\sigma$加法族のうち最小のものが存在する。これを$\sigma[\mathfrak{B}_0]$と書き、$\mathfrak{B}_0$から生成された$\sigma$加法族と呼ぶ。

のように定義していたので、後半はこれを使用していることがわかります。つまり確率変数$X$から集合族を生成し、その集合族から$\sigma$加法族を生成しています。

重要な点は、このように定められた$\sigma$加法族$\sigma[X]$は確率変数$X$にとって必要十分であるため、根元事象である$\Omega$の構造は不要となることです。$\Omega$はもはや十分大きければなんでも良いわけです。

前のブログ 次のブログ

具体例をサイコロの目で表してきましたが、部品の故障とは関係ないので、あまりピンときません。そのため、確率変数を部品の故障で考えることにします。すでに確率変数をFFOT(Failure Free Operating Time)で考慮してきましたが、標本空間$\Omega$や確率空間$(\Omega, \mathcal{F}, P)$から考え直します。

最初に標本空間$\Omega$は、N個の部品から構成されているサブシステムにおいて、全ての故障事象とします。従って、$\Omega$の元は$N$個であり、状態はそれぞれにup, downがあるため、$2^N$です。 $$ \Omega=\{(\omega_n)_{n\in N};\omega_n\in\{\text{up, down}\}\} $$ 次に$\sigma$加法族は$\Omega$の部分集合となりますが、 確率変数$X_n:\Omega\to\mathbb{R}$をn番目の部品のupかdownかを示すものとして、 $$ X_n(\omega)=X(\omega_n)=\begin{cases}1&\omega_n\in\text{up}\\ 0&\omega_n\in\text{down} \end{cases} $$

期待値

確率変数が以下の形で書けるとき、確率変数は単確率変数と呼ぶ。 $$ X(\omega)=\sum_i a_i\mathbf{1}_{A_i}(\omega),\ \ \ \ a_i\in\mathbb{R}, A_i\in\mathcal{F} $$

ただし、$\mathbf{1}_{A_i}(\omega)$は$A\in\mathcal{F}$の指示関数で、

$$ \mathbf{1}_A(\omega):= \begin{cases} 1 & (\omega\in A) \\ 0 & (\omega\notin A) \end{cases} $$

で定義されるものとし、このとき、先の単確率変数の期待値は、以下により定義される。 $$ E(X):=\int_\Omega X(\omega)P(d\omega)=\sum_ia_iP(A_i) $$

指示関数はディラック測度とも呼ばれます。 $$ \delta_\omega(A)= \begin{cases} 1 & (\omega\in A) \\ 0 & (\omega\notin A) \end{cases} $$

前のブログ 次のブログ

確率分布関数の話をしましたが、公理的確率論では以下のように定義されます。

確率分布

前記事において事象族$\mathcal{F}$に対して写像である確率$P$を定義しました。また、前記事において確率変数$X$により、例えば根元事象$\img[-0.2em]{/images/d1s.png}$を1に写像することを説明しました。確率変数の定義を再度掲載すれば、

Borel加法族が$\mathbb{B}(\mathbb{R}^n)=\mathbb{B}^n$であり、$X:\Omega\rightarrow\mathbb{R}^n$のとき、 $$ \forall B\in\mathbb{B}^n\to X^{-1}(B)=\{\omega\in\Omega;X(\omega)\in B\}\in\mathcal{F} $$ となる写像$X$を$\mathcal{F}$可測写像、あるいは確率変数と呼ぶ。

$X$により事象族$\mathcal{F}$がBorel加法族$\mathbb{B}$に写像されます。すると、$P$と同様な確率測度$P_X$が定義でき、

確率変数$X$に対して $$ B\in\mathbb{B}^n\to P_X(B)=P(X^{-1}(B))=P(\{\omega\in\Omega;X(\omega)\in B\})=P(X\in B)\ $$ により定まる可測空間$(\mathbb{R}^n, \mathbb{B}^n)$上の確率測度$P_X$を、確率変数$X$の確率分布と呼ぶ。

確率分布関数

確率分布が集合関数であるのに対して、確率分布関数は点関数(普通の関数)です。確率分布関数は、確率変数が$x$以下である確率を意味します。

$$ F_X(x)=P_X(\{X\in\mathbb{R}^n;X_i<=x_i (i=1, 2, ...,n)\})=P(X\leq x) $$ を確率分布関数(Cumulative Distribution Function, CDF)と呼ぶ。

確率密度関数

確率分布関数$F_X(x)$が微分可能である場合、 $$ f_X(x)=\frac{\partial^n}{\partial x_1...\partial x_n}F_X(x) $$ を確率密度関数(Probability Density Function, PDF)と呼ぶ。

測度としては面積($\mathbb{R}^2$)、体積($\mathbb{R}^3$)のアナロジーで理解されるように、確率測度を$n$次元ユークリッド空間で考えていますが、故障確率を考える上では1次元で十分です。従って、CDF及びPDFはそれぞれ

$$ F_X(x)=P_X(\{X\in\mathbb{R};X<=x\})=P(X\leq x) $$ $$ f_X(x)=\frac{d}{dx}F_X(x) $$

となります。

前のブログ 次のブログ

前記事の図181.1を生成したコードは以下のようなもので、i番目の部品が稼働していたら(life[i]==1)サイコロを振り、故障率で示される範囲に入っていたら故障とする(life[i] = 0)ものです。そのときの稼働時刻t-1を(tは不稼働時刻であるため)FFOTに格納します。

for (t = 0; t < TIMEMAX; t++) {
    for (int i = 0; i < IMAX; i++) {
        if ((life[i] == 1) && (genrand_real1() < lambda)) {
            life[i] = 0; // failed
            ffot[i] = t-1; // t-1 is the failure free operating time
        }
    }
}

コードを見るとわかるようにどこにも指数関数は使用していませんが、前図181.1のように指数分布になります。このことは過去記事(#1～#5)でも解説しているように、簡単に示すことができます。ここで故障率$\lambda$は定数とします。

時刻$t=0$では全ての部品が良品(信頼度=1)であり、時刻$t$において、1時間後の信頼度の減少は故障率に比例することから、信頼度についての差分方程式が得られます。 $$ R(t+1)-R(t)=-\lambda\cdot R(t) $$ 1時間後ではなく、$\Delta t$時間後として、これを0に限りなく近づければ、差分方程式は信頼度について微分方程式となり、 $$ \lim_{\Delta t\to 0}\frac{1}{\Delta t}\cdot[R(t+\Delta t)-R(t)]=\frac{dR(t)}{dt}=-\lambda\cdot R(t)\\ -\lambda=\frac{1}{R(t)}\frac{dR(t)}{dt}=\frac{d}{dt}\ln R(t)\\ -\int\lambda dt=-\lambda t+C_1=\ln R(t)+C_2\\ R(t)=e^{-\lambda t+C_1-C_2} $$ ここで、$R(0)=1$を用いれば、積分定数はゼロとなり、 $$ \therefore R(t)=e^{-\lambda t}\\ $$ このように故障率を一定として微分方程式を立て、積分して分布関数を求めると、上記のように信頼度が求まります。不信頼度(CDF, 累積分布関数)は以下のようになります。 $$ F(t)=1-R(t)=1-e^{-\lambda t} $$

前のブログ 次のブログ