確率論入門 読書メモ

機械学習技術 デジタルトランスフォーメーション技術 人工知能技術 数学 アルゴリズムとデータ構造 lif tips&雑記 本ブログのナビ
確率論入門 読書メモ

確率論入門より

確率をめぐる数学的考察は、賭け事に関してパスカルとフェルマが交わした往復書簡に始まると言われる。組み合わせの概念に基づく古典的確率論は、20世紀になるとボレルやコルモゴロフの手により、集合論に基礎づけられた「現代数学」へと大きく飛躍した。本書はその確率論の古典と現代とを橋渡しする目的で書かれており、トランプやサイコロ投げといった初歩的な具体例を豊富に示しつつ、抽象的な数式の意味を読者にわかりやすく説く。高校数学で習う確率を、より深く学び直すことのできる入門書。

いとぐち

この世には、ある実験をほぼ同じ条件で繰り返しても、 いつも同じ結果が得られるとは限らないことがある
トランプを出たら目に引く
サイコロをふる
結果が偶然に支配されて、色々と変わるような実験
思考の結果として、考えうるような個々のもの
試行をめぐり、ある事柄の”起こる可能性の程度”が問題になることがある
事柄の確率はどう求めるのか?
ラプラスのアプローチ
根元事象がN個あって、それらは全く同じ程度に起こる可能性を持つ
一つの事柄にとって都合の良い根元事象(それが出ればその事柄の起こるような根元事象)の数がR個であれば
その事柄の確率はR/N
もっと広く種々の方面に応用しうるような理論の構成は?
「相対頻度」を利用する
人は、一つのサイコロが完全であるかないかを調べるとき、どういう方法をとるか
実際に何度も何度も試行を繰り返して、どの程度に問題の事柄が起きるのか見る
一般の試行において
それを何回も何回も繰り返して行い、結果の根元事象の列をa1,a2,…,anとする
このとき、ある事柄Eにとって都合の良い根元事象がr回現れていれば、r/nなる数を上記の列における事柄Eの相対頻度という
今、相対頻度をいくつもいくつも取り、r1/n1,.r2/n2,…,rk/nk,…なる列を観察する
もしそれらの数が一定値αの近くに密集する傾向を持つならば
その事柄Eの確率はαであるといい、p(E)と書く
事柄Eの起こる確率がαであるとは
試行を何回も何回も行うとき、Eが1に対してαの割合で起こるということ
1回の試行において、Eが、全体を1とするときαの程度の可能性を持つ
確率論の応用分野
統計数学
多数の対象の集団の性質を、ごく少数の見本から推測することを目的とした学問

1 確率の概念

1 事象

試行は一種の実験である
一つの実験を同じ条件のもとで繰り返したとしても
その結果が偶然に支配されて色々に変わりうる場合
そのような実験を試行という
試行の結果となりうる個々のものを
その試行の「根元事象」という
一つの試行に対してどれくらい多くの”事柄”がありうるのか
そもそも”事柄”とはなんなのか?
どのような事柄も”グループ”という言葉で言い換えられる

“2が出る”という事柄は
試行の結果が{スペードの2,クラブの2,ダイヤの2)(-a3+b3)とハートの2}というグループに属する
“クラブが出ない”という事柄は
試行の結果がスペード、ダイヤ、ハートのあらゆるカードからなるグループに属する
あらゆる事柄は、”試行の結果の根元事象がこれこれのグループに所属する”という形に引き直すことが可能
一つの試行に対応する根元事象をいくつか集めてできるグループのことを
“事柄”は”試行の結果の根元事象がこれこれの事象に所属する”という形に表せる
事柄は、根元事象を集めてできるグループの個数と同じ数だけある
簡単のために”試行の結果が事象Eに所属する”という代わりに”事象Eが起きる”という
ただ一つの根元事象、全事象、空事象

2 確率

確率の概念を事象の概念に関連して整理する
一つの試行を考え、それにおける任意の事象をEとする
その試行を何回も何回も繰り返し、その結果の根元事象を記録してa1,a2,..,anとおく
この根元事象の中に、Eにとって都合の良いものがr回現れるならば、数r/nを上記の列における事象Eの「相対頻度」という
「試行を繰り返し行なって、結果の根元事象を記録紙、それから双対頻度を計算する」ことを何回も繰り返す
この時の双対頻度の列r1/n1,r2/n2,…,rk/nk,…が一定の数αに密集する傾向があるならば
特別の場合として
根元事象の総数がN個
そのどれもが平等に現れる可能性を持つ
事象Eにとって都合の良い根元事象の数が、全部でR個あるものとする
Eの双対頻度r/nは、多くはR/Nに近い
しかもそれらはR/Nの近くに密集する傾向を持つ
よってこの場合はp(E)=R/Nとおくことが許される
全事象にとっては、あらゆる根元事象は都合が良い
試行の結果の列a1,a2,…,anを作れば
これにおける全事象の相対頻度はn/n=1
これにより全事象(Ω)の確率は1となる
空事象は起こることがない
いかなる根元事象もそれにとって都合が悪い
試行の結果の列を作ると、その相対頻度は常に0/n=0となる
よって空事象(∅)の確率は0に等しい

3 集合の概念

事象はいくつかの根元事象のグループ
確率論を展開していく上で、グループというものの特性が色々と問題になる
もののグループのことを「集合」と呼ぶ
空事象は「空集合」
集合に属するメンバーはその集合の「元」と呼ばれる
一つの事象にとって都合の良い根元事象はその事象の元である
aというものが、Mという集合の元であることを
aが Mの元でないことは
元a,b,c,..からなる集合を
ものxについての条件C(x)を満足するようなx全体の集合を
(x-3)2<5なる実数xの全体からなる集合は
集合Aの元が全てまたBにも属する時、AはBの部分集合である
BはA和包む、AはBに包まれる
空集合はあらゆる集合(自分自身を含めて)の部分集合である
集合AとBとは、その元が全く重複する時ひとしいと言われる

4 集合の演算

いくつかの集合A,B,..の元を全部寄せ集めてできる集合をA,B,..の和集合という
集合A,B,..の全てに共通に所属するような元全体からなる集合を、A,B,..の共通部分という
集合Aから、その元のうち集合Bに属するものを全部引き去った場合、残りの集合をAとBの差という
ある考察をする時
一つの集合を固定し、その部分集合ばかりを考えることがある
一つの集合Ωを固定して、その部分集合だけを考えるときΩ-Aなる形の集合のことをAの余集合という

5 確率事象

同じ一つの試行を行っても、 その結果たる根源事象に対する関心の向けられる方向がつがう場合がある

トランプぬき
結果であるカードの数字ではなく、マークだけが関心
逆にマークではなく、数字だけが関心
試行を行うとき、関心の向けられている根元事象の側面を
試行の指標だと関連した概念で言い表すことができるような事象を
例:トランプの指標がマークであるとき
“ハートの全体”,”スペードの全体”,”赤いカードの全体”は確率事象
“2の全体”,”J,Q,Kの全体”などはそうでない
全事象は”赤いカードと黒いカードの全体”
空事象は”赤くかつ黒いカードの全体”
“指標だけに関連した概念で言い表しうる事象”という表現は曖昧
もう少しはっきりさせる
事象を言い表すということ
一つの事象が指標だけに関連した概念で表しうるか否か
指標をI,J,..と表すと、根元事象aの、指標Iによる値をI(a)と書く

ハートの全体={x|I(x)=ハート}
赤いカードの全体={x|I(x)=ハート}かあるいは(I(x)=ダイヤ)}

トランプ抜きの試行においてIをマークとするとき
根元事象xに対する条件C(x)のうち、次の4つをIに関する基本的な時要件という
I(x)=スペード、I(x)=クラブ、I(x)=ダイヤ、I(x)=ハート
ある試行における指標の一つをIとするとき、 根元事象xに対する条件でI(x)=αという形をしたものを、
定義
一つの試行において
その指標をI,J,..とする
このとき、根元事象xに対する条件C(x)が、I,J,…に関する基本的な条件の有限個を
…かあるいは…、…でかつ…、…ではない、なる3つの言葉でもって組み合わせたものとして得られるならば
C(x)はI,J,..だけに関連した概念で言い表される、という
一般に次の公式が成立する
(1) {x|C(x)かあるいはD(x)}={x|C(x)}⋃{x|D(x)} (2) {x|C(x)でかつD(x)}={x|C(x)}⋂{x|D(x)} (3) {x|C(x)ではない}={x|C(x)}c
(1)(2)(3)を用いれば次のことがわかる
(1)’ A,Bが確立事象ならばA⋃Bはまた確立事象である (2)’ A,Bが確立事象ならばA⋂Bはまた確立事象である (3)’ Aが確立事象ならばAcはまた確立事象である
以上を利用して、一つの試行においていくつかの指標を個体した場合
それらに対するあらゆる確立事象を求めることができる

6 確率の基本的性質

試行の指標が決まれば
確立事象にならざる事象は必要ない
確率は確率事象に対してだけ考えれば十分である
0≤p(E)≤1、p(Ω)=1、p(∅)=0
2つの確率上E,Fの積事象E⋂Fが空事象ならば、
EとFを互いに排反な二つの確率事象とする
試行を何度も何度も繰り返し、結果の根元事象の列を
Eにとって都合の良い項と、Fにとって都合の良い項の個数をそれぞれr1,r2とすると
よってE⋃Fの相対頻度は
よってE⋃Fの相対頻度は上記に向かって密集していく
E⋂F=∅ならばp(E⋃F)=p(E)+p(F)

7 確率空間

これまで述べたことを要約すると
(1) 一つの試行の結果となりうる個々のものをその試行の根元事象という
この全体の集合をΩと書く
(2) Ωの部分集合は事象と言われる
(3)事象のうちのあるものは確立事象と名付けられ、 それらは以下の性質を満足する
(1) Ω(全事象)および∅(空事象)は確率事象である
(2) E,Fが確率事象ならば、E⋃F、E⋂Fなる事象はまた確率事象である
(3) Eが確立事象ならばEcも確率事象である
(4) 各確率事象Eには確率p(E)が対応し、 次の条件を満足する
(a) 0≤p(E)≤1
(b) p(Ω)=1、p(∅)=0
(c) E⋂F=∅ならばp(E⋃F)=p(E)+p(F)
議論の基礎
(1)一つの集合Ωが与えられ、その元は根元事象と呼ばれる
(2)Ωの部分集合は事象と言われる
(3)事象のあるものは確率事象と指定される
(4)各確率事象Eには、その確率と呼ばれる数p(E)が対応せしめられ、それは(a)(b)(c)を満足する
一般に上記の「議論の基礎」を満たしているような集合Ωを
6つの確率空間の公理

8 確率空間の例

例1:トランプのカード
52枚をΩ、スペード全体をE1、クラブ全体をE2、ダイヤ全体をE3、ハート全体をE4、
離散型の確率空間
有限離散型
無限離散型
確率事象に適当な確率を与えてくれる確率空間
その確率の与え方
(A)
有限個または無限個の実数の列をとり、
それらに一つずつ次のような実数pnを対応させる
任意の確率事象Eに対し、それに所属する有限こまたは無限個の数列の数を探して、それがαi,αj,…,αk,..であれば
このような確率分布は離散型といい
例えば
0→e-α、1→αe-α、…、n→αn/n!xe-α
e-α+αe-α+…+αn/n!xe-α=e-α(1+α+…+αn/n!+…) =e-αe-α=1
(B)
上記のような積分可能な連続関数f(x)をとり
上記のようにおく
このようなものを確率密度がf(x)であるような連続型の実確率分布という
例1

例2:(m,σ)-ガウス分布

2 確率の性質

1 事象の関係

準備として、一般の事象の間に成立する、種々の関係について説明する
任意の確率空間Ωに固定して
定理1 E,F,Gを任意の事象とすれば、次の公式が成り立つ (1) E⋃F=F⋃E (2) (E⋃F)⋃G=E⋃(F⋃G) (3) E⊆E⋃F、F⊆E⋃F (4) E⊆Fならば、E⋃F=F (5) E⋃F=Fならば、E⊆F (6) E⋃∅=E (7) E⋃Ω=Ω
定理2. E,F,Gを任意の事象とすれば、次の公式が成り立つ (1) E⋂F=F⋂E (2) (E⋂F)⋂G=E⋂(F⋂G) (3) E⋂F⊆E、E⋂F⊆F (4) E⊆Fならば、E⋂F=E (5) E⋂F=Eならば、E⊆F (6) E⋂∅=∅ (7) E⋂Ω=E
定理3 次の公式が成立する (1) (E1⋃E2⋃…)⋂G=(E1⋂G)⋃(E2⋂G)⋃… (2) (E1⋂E2⋂…)⋃G=(E1⋃G)⋂(E2⋃G)⋂…
定理4 (1) E⊆Fならば、Ec⊇Fc (2) Ecc=E (3) Ωc=∅ (4) ∅c=Ω (5) E⋃Ec=Ω (6) E⋂Ec=∅
定理5 (1) (E1⋃E2⋃…)c=E1c⋂E2c⋂… (2) (E1⋂E2⋂…)c=E1c⋃E2c⋃…

2 確率の基本的性質

確率に関する基本的な性質を述べる
定義1 有限個の確率上の集まり{E1,E2,…,En}のことを 一般に確率事象の族、あるいは単に族という
定義2 確率事象の族{E1,E2,…,En}において それに属する確率事象のどの二つをとっても 互いに袖あるとき、 族自身が排反であるといわれる
定理1 確率事象の族{E1,E2,…,En}が排反ならば p(E1⋃E2⋃…⋃En)=p(E1)+p(E2)+…+p(En)
定義3 Eを確率事象、族{E1,E2,…,En}を背反とするとき もし、 E=E1⋃E2⋃…⋃Enが設立するならば 族{E1,E2,..,En}はEの分割であるといわれる またこの場合は、EはE1,E2,..,Enに分割されたという言葉を使うこともある
定義4 一つの事象Eに対して、二つの分割{E1,E2,…,En},{F1,F2,…,Fn}があるとき どのEiもあるFjの部分集合となっているならば 前の分割は後の分割の「細分」であるという

定理2(加法定理) p(E⋃F)+p(E⋂F)=p(E)+p(F)

3 二つの事象の独立性

二つの事象の独立性の概念について説明する

トランプの1組から、次のカードを除外する
(1)あらゆるK
(2)スペードのA から6まで
(3)ハートの7からQまで
残った36枚を基本のカードとし、それらをよく切ってネその中からでたらめに1枚を抜く
赤いカードの全体からなる事象Fの確率は
基本のカードの総数が36
Fに属するカードの枚数が18枚
p(F)=18/36=1/2
この試行を何回も何回も繰り返し、結果の根元事象の例をa1,a2,…,anとする
この中に現れる、例えばAのカードを全部抜き出し、b1,b2,…,brとおく
これらのbiはいずれもAのカードである
そのマークはハート、ダイヤ、クラブと3種類の可能性がある
それらの現れる程度には何らの優越もない
赤いカードは大体3回に2回、黒いカードは3回に1回の割合で出る
このことは次の事実を示している
その結果を自分が知らないものとすると
それが赤いカードであったかそうでなかったかは、全く同程度の足しから尺を持っている
もし結果のカードがAであることが知らされると
それが赤いカードであった可能性は、そうでなかった可能性の2倍も強くなる
それがQであったことが知らされれば
それはスペード、ダイヤ、クラブのいずれかとなるから、
赤いカードであった可能性は半分に減ってしまう
結果の数字がAであるとかQであるとかいう通知は
マークが河合可能性に対して何らかの影響を持っている
これに対して(1)(2)(3)を除外しない普通のトランプ危機の試行では
事前の通知は何の影響も与えない
一つの試行とその指標が与えられたとし
二つの確率事象E,Fに注目する
E,Fはそれぞれ上記の例のAのカードの全体、赤いカードの全体に対応する
p(E)は0でないものとする
(A) 試行を何回も繰り返し、結果の根元事象の列をa1,a2,..,anとする
(B) (A)の中に現れるEの元を抜き出して、b1,b2,…,brとおく
r/nは、(A)におけるEの双対頻度で、Eの確率p(E)の近くに密集する傾向がある
(C) (B)からFに属する元を抜き出し、c1,c2,…,csとする
(C)は(A) からE⋂Fに属する根元事象を抜き出して作った列
よって、s/nは(A)におけるE⋂Fの相対頻度に一致する
これはp(E⋂F)の近くに密集する
このとき、s/rを(A)における、 「Eに関する、Fの双対頻度」という
確率は上記の値の近くに密集する
以上より
誰か別の人がこの試行を行い、
その結果が全然知らされていないとすれば
それがFに属する可能性は
p(F)
結果がEに属するものであると知らされれば
それがFに属する可能性は
確率
上記ならば、 結果について何も知らされていない時と、 Eに属することが知らされていた時とで、 結果がFに属することの可能性に変化がある
上記ならば そのような変化がない
FはEと無関係
一般の確率空間における確率事象に対する定義
定義1   E,Fが確率事象でp(E)>0の時   数p(E⋂FF)/p(E)のことを   Eに関するFの「相対確率」、   あるいはEが起こったときのFの条件付き確率といい   pE(F) あるいは p(F|E) と書く
定義2・1   E,Fが確率事象でp(E)>0の時   p(F)=pE(F)が成立すれば、   FはEと独立であるという
定義2・2   P(E)=0ならば、いかなるFもEと独立であるという   ただ、相対確率pE(F)の方は、定義を補足しないのが普通である
定理1   事象FがEと独立であるための必要かつ十分な条件は   p(E⋂F)~p(E)p(F)が成立することである
FがEと独立ならば、EとFも独立

4 多くの事象の独立性

二つの事象からなる族{E,F}だけてなく
有限個の確率事象からなる一般の族{E1,E2,…,En}に対して拡張する
定義1   族{E1,E2,..,En}において、   その確率事象のいずれもが、   他の残りの確率事象の任意個の積事象と独立である時   族自信が独立であるといわれる   詳しく言えば、   E1がE2,E3,…,Enのうちの任意個の積事象と独立   E2がE1,E3,…,Enのうちの任意個の積事象と独立   一般にEiが、E1,…,Ei-1,Ei+1,…,Enのうちの任意個の積事象と独立である時   族{E1,E2,…,En}は独立であるというのである
定理1   族{E1,E2,…,En}が独立であるための必要十分な条件は   この中から勝手に選んだ事象Ei(1),Ei(2),..,Ei(r)に対して   p(Ei(1)⋂Ei(2)⋂…⋂Ei(r))=p(Ei(1))p(Ei(2))…p(Ei(r))   が成立することである
一般に、確率事象の族{E1,E2,…,En}に対し
次のような族{F1,F2,..,Fn}はそれと「同系統」であるといわれる
どのようなFi(i=1,2,…,n)も、Eiに等しいか、差もなければEicに等しい
例えば{E1c,E2,E3c}や{E1,E2c,E3c}は、{E1,E2,E3}と同系統である
定理2   族{E1,E2,..,En}が毒釣りであるための必要かつ十分な条件は   それと同系統のいかなる族{F1,F2,…,Fn}に対しても   p(F1⋂F2⋂…⋂Fn)=p(F1)p(F2)…p(Fn)   が成立することである

5 相対確率の性質

FがEと必ずしも独立でない場合の効用にいて
これまでの復讐
一つの試行とその指標が与えられたとき
その試行を何回も何回も繰り返し
結果の根元事象の列をa1,a2,…,anとする
(A)
この中から事象Eに属するものを抜き出してb1,b2,…,brとし
さらにこれから、Fに属するものを抜き出してc1,c2,…,csとおく
この時、数s/rを、(A)における、Eに関する、Fの相対頻度という
相対確率pE(F)とは
それはちょうど上記に一致する
上記の考察は、具体的な試行と指標が与えられたとき
それにおける確率事象の確率の決定に、実際に応用できる

例A,B,Cという3つの壺がある
それらの中には、赤い球と青い球が、それぞれm1:n1、m2:n1、m3:n2の割合で入っている
出鱈目にツボを一つ選んで、選ばれたツボの中から出鱈目に球を一つ抜いてその色を調べる
根元事象は、選ばれたツボXと、その中から抜かれた玉の色xとの組み(X,x)
次の6組みがある
指標としては、根元事象それ自信を採用する
事象{(B,赤)}は、 選ばれたツボXがBであるような根元事象E(かなわち{(B,赤)、(B,白)})と、 選ばれた玉の色が赤であるような根元事象F(すなわち{(A,赤)、(B,赤)、(C,赤)}) との積事象E⋂F
p({B,赤})=p(E⋂F)=P(E)pE(F)
どのツボも選ばれる確率は全く平等
試行を繰り返した結果の列から、Eに属するものを抜き出して作った列を
そのうちのxiが赤であるものの個数をsとしてs/rを作れば、 それは上記の周りに密集する傾向を持つ
よって上記とおくのが合理的である
よってp({B、赤)}は上記となる
相対確率の最も基本的な性質(上記)の拡張
定理1(乗法定理) p(E1⋂E2⋂…⋂En-1)>0ならば、次の公式が成立する p(E1⋂E2⋂…⋂En)=p(E1)pE1(E2)PE1⋂E2(E3)….pE1⋂E2⋂…⋂En-1(En)
例2
ある一定の集団から、出鱈目に一人の人間を抜き出して、性別、出身都道府県、生年を聞くという試行を考える
根元事象は三つの項目の組み(a,b,c)
例(男、東京、昭10)
(男、b、c)なる形の根元事象の確率を考える
(男、b、c)なる形の根元事象の全体をE1
(a、東京、c)なる形の根元事象の全体をE2
(a、b、昭10)なる形の根元事象の全体をE3とする
p({(男、東京、昭10)})=p(E1⋂E2⋂E3)=p(E1)pE1(E2)pE1⋂E2(E3)
相対確率のもう一つの大事な性質
定理2(完全確率の定理) 族{E1,E2,…,En}が (1)Ωの分割である。 すなわち、i≠jならば、Ei⋂Ej=∅でかつ全てのEiを加えたものはΩ (2)p(Ei)>0(I=1,2,..,n)なる条件を満足すれば、いかなる事象Eに対しても p(E)=p(E1)pE1(E)+p(E2)pE2(E)+…+pEn)pEn(E)が設立する
例3
Fを選ばれた玉の色xが赤であるような根元事象(X,x)の全体とする
E1,E2,E3をそれぞれ選ばれたつぼがA,B,C出るあような根元事象(X,x)の全体とする
p(E1)=p(E2)=p(E3)=1/3
{E1,E2,E3}はΩの分割である
完全確率の定理から、導き出される定理
定理3(ベイズ(Byes)の定理) 族{E1,E2,…,En}が定理2と同じ条件を満たすならば p(E)>0なる任意の確率事象Eに対して PE(Ei)=p(Ei)pEi(E)/(p(E1)pE1(E)+…+p(En)pEn(E)] =p(Ei)pEi(E)/∑p(Ei)pEi(E) が成立する
例4
例3にベイズの定理をもちいる
誰か他の人がその試行を行った時、その結果のツボはわからないが、玉の色が知らされた時,壺がどれであったか、という狩野伊勢程度の計算
実際に知られたものを利用して、未知のものを推測するのにベイズは使われる

3 多重試行

1 二重試行

一つの試行を2回繰り返し、その二つの結果を記録する
根元事象
1回目の結果aと2回目の結果bの組み(a,b)
(a,b)と(b,a)は、結果の現れた順序が違うので、違う根元事象として扱う

トランプ抜きの試行を2回繰り返す
(スペードのA、スペードのA)、(スペードのA、スペードの2)、..、(ダイヤの9、クラブのJ)、るるる
サイコロ投げを2回行う
(1,1),(1,2),(2,1)…
一つの試行を2回繰り返すことをまとめて一つの試行と考える
元の試行の根元事象のあらゆる組み(a,b)
その全体はΩ(2)
肩の(2)は2重試行を意味する
(a,b)におけるaを第一成分、bを第二成分という

硬貨を投げ、それが北からどれくらい傾いているか
二つの角度の測定値a,bの組み(a,b)
正方形そのものがΩ(2)
二重試行においては、元と同じ指標を採用するのが常識的

トランプ抜きの試行
指標が根元事象のマークとすると
二重試行の根元事象(a,b)についても、数字ではなくマークなんを注目される
元の試行の根元事象のマークをI
二重試行の根元事象の第一成分のマーク、第二成分のマークをそれぞれI1,I2とする
I1((alb))=I((alb)の第一成分)=I(a) I2((alb))=I((alb)の第二成分)=I(b)

一般的には、一つの試行の指標をI,J,..とする時、 その二重施工において次のような指標I1,I2,J1,J2,..が得られる
二重試行(Ω(2))では、どのような事象が確率事象となるのか?
二重試行における最も簡単な事象は
厳密な定義
一つの試行における二つの事象を考えて、それぞれE、Fとおく
二重試行における根元事象(a,b)のうち
第一成分aがEに属し、第二成分bがFに属するようなものの全体
(E,F)={(a,b)|a∈E、b∈F

トランプの試行
ハートの全体をE
2の全体をFとすると
(E,F)は、ハートのカードと2のカードの組みの全体の集合
上記の指標がマークならば、最初の方事象(E,F)は確率事象ではない
(E,F)はマークと数字だから
(E’,F’)がクラブとハートのマークなら確率事象
E,Fが一つの試行の指標I,J,..に対する確立事象ならば
それらを辺とする方事象(E,F)は、 その二重試行における確率事象である
二重試行における確率事象は
有限個の方確率事象を⋃,⋂,cの三つの演算で組み合わせて作られる

2 確率事象の標準形

二重試行における確率事象を見やすく表すような便利な方法について
二重試行において、 方確率事象の族{(E1,F1),(E2,F2),…(En,Fn)}の和事象が 上記のようになる確率上を、一般にU型の確率事象という
特にn=1の場合を考えれば、方確率事象(E,F)はU型である
さらに全事象Ω(2)、空事象∅は、 それぞれΩ(2)=(Ω、Ω)、∅=(∅,∅)と表せるのでともにU型である
定理1(2). Ω(2)におけるいかなる確率事象もU型である
定義1(2). Ω(2)の確率事象を方確率事象の和事象として (E1,F1)⋃(E2,F2)⋃….⋃(En,Fn) のように表した場合、上式をその確率事象の「標準形」という
注意1標準形はただ一通りとは限らない
補助定理1(2). E1,E2,F1,F2をΩの任意の事象(確率事象でなくとも良い)とすれば (E1,F1)⋂(E2,F2)=(E11⋂E2, F1⋂F2) が成立する
補助定理2(2). E,FをΩの任意の事象とすれば (E,F)c=(Ec,Ω)⋃(Ω,Fc)

3 多重試行

“N”重試行に拡張する
一つの試行をn回続けて行い、そのn個の結果の組み(a1,a2,…,an)を記録するという実験
その根元事象の全体をΩ(n)で表す
aiをn重試行列の第i成分という
E1,E2,…,Enを元の試行におけるn個の任意の事象とする
A1∈E1,a2∈E2,…,an∈Enとなるような根元事象(a1,a2,…,an)の全体のことを
E1,E2,…,Enが全て確立事象ならば(E1,E2,…,En)はn重試行における確立事象となる
有限個の方確率事象の和事象となるものを「U型の確率事象」と称する
補助定理1(n). E1,E2,…,En;F1,F2,…,FnをΩの任意の事象とすれば (E1,E2,…,En)⋂(F1,F2,..,Fn)=(E1⋂F1,E2⋂F2,..,En⋂Fn) が成立する
補助定理2(n). E1,E2,…,EnをΩの任意の事象とすれば (E1,E2,…,En)c=(E1c,Ω,…,Ω)⋃(Ω,E2c,Ω,…,Ω)⋃…⋃(Ω,..,Ω,Enc)
定理1(n). Ω(n)のいかなる確率事象もU型である
定義1(n). Ω(n)の確率事象を方確率事象の和事象として (E1,E2,…,En)⋃(F1,F2,…,Fn)⋃…⋃(G1,G2,…,Gn) と表した場合、これをその確立事象の「標準形」という
注意 方確率事象(E1,E2,…,En)は、いうまでもなく 「1回目にE1が起こり、2回目にE2が起こり、…、n回目にEnが起こる」 という事柄に対応するもの
例1
(E,Ω,…,Ω)は1回目にEが起こり、2回目以降はΩが起こる、Ωは常に怒るから、単に1回目にEが起こることを表す
同様に(Ω,E,Ω,…Ω)は2回目にEが起きることを示す
例2
マークが指標であるトランプ抜きの試行において
Eがハート全体とすれば
(U型の)確率事象
1回からn回までのうちに、少なくとも1回はハートが出るという事柄に対応する

4 確率の計算

上記の確率がどんなものになるかを考える
はじめに、二重試行を考える
まず方確率事象(E,F)の確率を求める
段階を4つに分けて考察を進める
(1)
補助定理1(2)によって、(E,F)=(E,Ω)⋂(Ω,F)
(E,Ω)は第一回目の結果aがEに属するような(a,b)の全体
(Ω,F)は第二回目の結果bがFに属するような(a,b)の全体
(2)
二重試行をm回繰り返して、その結果を
(1) (a1,b1),(a2,b2),…(am,bm)とすれば
(2) a1,a2,…,amは元の試行をm回繰り返した結果の列とみなされる
(1)における(E,Ω)に属するものの数をrとすれば、(2)におけるEに属するものの数もrである
よって、(1)における相対頻度r/mは、(2)におけるEの相対頻度に一致する
しかるにEの双対頻度はp(E)に密集する傾向を持つ
よって(E,Ω)の双対頻度も同じ傾向を持たなければならない
ゆえに、p((E,Ω))=p(E)
(3)
(2)と同様にしてp((Ω,F))=p(F)
(4)
P((E,Ω)⋂(Ω,F))=p((E,Ω))p((Ω,F))
原則(2) p((E,F))=p((E,Ω)⋂(Ω,F)) =p((E,Ω))p((Ω,F)) =p(E)p(F) すなわち、(E,F)の確率は、Eの確率とFの確率との積となる
一般の確率事象の確率の計算をどうすれば良いのか?
任意の確率事象Aをとり、その標準形を(E1,F1)⋃(E2,F2)⋃…⋃(Em,Fm)とする
仮に族{(E1,F1),(E2,F2),…,(Em,Fm)}が廃藩ならば
定理2(2) Ω(2)のいかなる確率事象も、有限個の方確立事象に分割することができる より詳しく言えば、その標準形のうちで、 族{(E1,F1),(E2,F2),…(Em,Fm)}が廃藩であるようなものが存在する
あらゆる確立事象に対して、その確率を計算することが可能になる
一般のΩ(n)に対する適用
原則(n)
p(E1,E2,…,En))=p(E1)p(E2)…p(En)が確かめられ、さらに次の定理が証明される
定理2(n)
Ω(n)のあらゆる確立事象は、方確率事象に分割することができる より詳しく言えば、 その標準形(E1,E2,…,En)⋃(F1,F2,…,Fn)⋃…⋃(G1,G2,…,Gn)のうちで 族{(E1,E2,…,En),(F1,F2,…,Fn),…,(G1,G2,…,Gn)}が廃藩であるようなものが存在する
こうしてΩ(n)は一つの確率空間となる
例3

5 多重確率空間

具体的な背景を持たない一般の確率空間に対しても、
n重確率空間を定義する
任意の確率空間Ωに対して
そのn個の元の組(a1,a2,…,an)の全体をΩ(n)と書く
その元を根元事象
その部分集合を事象と呼ぶ
E1,E2,…,EnをΩの事象とするとき
Ω(n)の事象{(a1,a2,…,an)|a1∈E1,a2∈E2,…,an∈En}のことを
Ei(I=1,2,…,n)が全て確率事象なら、これを方確率事象という
定義1 Ω(n)の事象のうち、有限個の方確率事象の和事象となるようなものを Ω(n)の確立事象と称する このとき、定理1(n),定理2(n)と全く同様にして、次の定理を証明できる
定理1 確率事象は、公理(1),(2),(3)を満足する
定理2 確率事象は、有限個の方確率事象に分割することができる すなわちそれは、 (E1(1),E2(1),…,En(1))⋃(E1(2),E2(2),..,En(2))⋃…⋃(E1(r),E2(r),…,En(r)) なる形に、しかも族 {(E1(1),E2(1),…,En(1)),(E1(2),E2(2),…,En(2)),…(E1(r),E2(r),…,En(r))} がはいんであるように表すことができる
定義2 確率事象Aを定理2におけるような形に著したとき p(A)=p(E1(1))p(E2(1))…p(En(1))+…+p(E1(r))p(E2(r))…p(En(r)) =∑p(E1(i)p(E2(i)…p(En(i)) をAの確率という
一つの事象Aを定理2のようにした表すとき、表し方は一通りではない
どちらから計算しても同じp(A)となるのか?
背景に具体的な思考がある場合には、答えは一つしかない
具体的な試行を背景としない場合は、そうはいかない
定理3
定義3 以上によって得られる確率空間Ω8n)を Ωのn重確率空間という

6 無限多重試行

一つの試行の無限回の繰り返しをひとまとめにしたときの「無限多重試行」の概念
一つの試行をとり、ある指標を固定したとする
その試行を限りなく繰り返した結果の列(a1,a2,…,an,…)を記録する
根元事象の全体をΩ(∞)で表す
指標は、元の試行におけるのと同じにとる
元の試行における指標をI,J,…とすると
注意:サイコロを無限大振ることは現実的には不可能
この試行には、どのような確率事象があるのか
N重試行の場合と同様に、Ωの事象E1,E2,…,En,…にたいして
an∈En(n=1,2,…)なるΩ(∞)の元(a1,a2,…,an,…)の全体からなる事象を考え
E1,E2,…En,..が確率事象であれば、上記は確率事象なるはず
そうはならない
Ω(n)と異なるポイント
Ω(∞)の確率事象はどのようなものになるのか
方事象(E1,E2,…,En,…)のうちで、ある番号から先のEiが全てΩと等しいようなもの
このとき、次の事柄が成立する
(1)
(E1,E2,…,En,Ω,Ω…)を筒事象とするとき
E1,E2,…,EnがΩの確立事象であれば
(E1,E2,..,En,Ω,Ω,…)はΩ(∞)の確率事象である
このようにして得られる確率事象を、 E1,E2,..絵nを辺とする「筒確率事象」という
筒確率場はΩ(n)における方確率事象の代用をする
(2)
Ω(∞)のあらゆる確立事象は
有限個の筒確率事象を三つの演算⋃,⋂,cで組み合わせて得られる
定義 有限個の筒確率事象の和事象となるようなものを U型の確率事象という
補助定理1(∞) (E1,E2,…,En,…)⋂(F1,F2,…,Fn,..)=(E1⋂F1,E2⋂F2,…,En⋂Fn,…)
補助定理2(∞) (E1,E2,…,En,Ω,Ω,…)c=(E1c,Ω,Ω,…)⋃(Ω,E1c,Ω,Ω,..)⋃…⋃(Ω,…,Ω,Enc,Ω,Ω,..)
定理1(∞) Ω(∞)の確率事象は全てU型である
定義1(∞) Ω(∞)の確率事象を有限個の筒確率事象の和事象として著した場合 それをその確率事象の「標準形」という
原則(∞) p((E1,E2,..,En,Ω,Ω,…))=p(E1)p(E2)…p(En)
定理2(∞) Ω(∞)の確率事象は、有限個の筒確立事象に分割される 金輪池、それば (E1(1),…,En(1)(1),Ω,…)⋃(E1(2),…,En(2)(2),Ω,..)⋃…⋃(E1(r),…,En(r)(r),Ω,…) なる形に、しかも、族 {(E1(1),…,En(1)(1),Ω,…),(E1(2),…,En(2)(2),Ω,..),…,(E1(r),…,En(r)(r),Ω,…)} が廃藩であるように表すことができる
そこで、Ω(∞)における任意の確率事象Aが与えられたとき それを定理2(∞)における形に表せば 原則(∞)を適用することにより上記が得られる
以上より、Ω(∞)は一つの確率空間となる
定理3

4 確率変数

1 確率変数

確率変数
一口に言えば、
試行における各根元事象に一つずつ値を与えるルールの一種

サイコロ投げの試行
偶数の目には1点、奇数の目には-1点
そのルールは一つの確率変数
次の条件が満たされるならば、その値の与え方のルールを
Ωを適当に有限個の確率事象に分割すれば
(1)
同じ確立事象に属する根元事象には、同じ値が与えられている
(2)
違う確立事象に属する根元事象には、互いに違う値が与えられている
別の言葉で言えば、
Ω上の確率変数とは
各根元事象に一つずつ値を与えるルール
次のような条件を満たすもののことに他ならない
(1)
相異なる値の総数は有限個である
(2)
どの値αをとっても、その値を与えられる根元事象の全体は、
一つの確率事象を構成する
確率変数は上記のような、ラテン大文字で表される
確率変数Xによって、根元事象aに与えられる値は
aにおけるXの値
X(a)=αならば、Xはaにおいてαなる値をとる
例1
マークを指標とするトランプ抜きの試行を考える
対応する確率空間をΩとする
上記のようなルールXを作れば、 これはΩ上の一つの確率変数である
上記のようなYは確率変数ではない
6以上のカードの全体、5以下のカードの全体は、この確率空間では、確率事象ではないため
例2
福引の中に、1等のくじが1本、2等のくじが2本、3等が4本、4等が8本入っている
「この箱の中をかき回して1-yのくじをひき、その等級を調べる」という試行を考える
根元事象は引かれたくじの等級
指標も等級とする
確率は
賞金:1等10,000円、2等5,000円、3等1,000円、4等500円とすると
例3
一定の人間の集団から出鱈目に一つの人間を選び出す
根元事象は集団のメンバー全て
指標を根元事象それ自身とする
各根元事象にその身長を割り当てることをXとする
例4
確率空間Ωのあらゆる根元事象に同じ人の値αを対応させることにすれば
このような確率変数を「定数値確率変数」という
例5
Eを確率空間Ω上の確率事象とし、上記とおく
こうして得られる確率変数Xを、事象Eの「定義確率変数」といい、「XE」で表す
Xを確率空間Ωの上の確率変数とする
このとき、任意の実数αに対して、
事象{a|X(a)=α}、{a|X(a)<α}、{a|X(a)>α}をそれぞれ
これに関して次の定理が成立する
定理1 {X=α}、{X<α}、{X>α}は全て確率事象である
注意3 Xのとりうる相異なる値をα1,α1..,αnとすれば 族{{X=α1},{X=α2},..,{X=αn}}はΩの分割である
定理2 Xを確率空間Ωの上の確率変数とし、 そのとりうる相異なる値をα1,α2,..,αnとする このとき p({X=αi})=pi (I=1,2,…,n) とおけば、次の二つの事柄が成立する (!) 0≤pi≤1 (I=1,2,…,n) (2) ∑pi=1
定義 Ωを確率空間とし Xをその上の確率変数とする このとき、Ωのn重確率空間Ω(n)の元(a1,a2,..,an)に AiにおけるXの値X(ai)を対応せしめるというルールを Ω(n)の上のXの「第i番目の複写」といい、Xiで表す Xi(n)(a1,a2,..,ai,…,an)=X(ai) (I=1,2,…,n) この概念に関しては、次の定理が成立する
定理3 Xの複写Xi(n)は確率変数である
定理4 Xi(n)の分布はXのそれと同じである
例9

2 確率変数の演算

すでに知られた確率変数から新しい確率変数を作り出すための方法について述べる
定理1 Ωを確率空間とし、 X,Yをその上の二つの確率変数とする このとき、Ωの各元aに対してX(a)+Y(a)なる値を与えるというルールを考えれば これは一つの確率変数である
定義1 確率変数X,Yから 定理1の方法によって得られる確率変数を XとYの和といいX+Yと書く、すなわち (X+Y)(a)=X(a)+Y(b)
例1
サイコロ投げの試行を考える
その根元事象の全体をΩとおく
根元事象それ自身を指標として採用する
X,Yをそれぞれ次ような確率変数とする
このときXとYの和X+Yは次のような確率変数である
例2
Eを任意の確率空間Ω上の確率事象とする
X=XEのΩ(n)の上の複写X1(n),X2(n),..,Xn(n)を考える
そのとき、上記によって(X1(n)+X2(n)+…+Xn(n))(a1,a2,…,an)は
a1,a2,..,anのうち、Eに属するものの個数に等しい
ゆえに
具体的な試行が背景にあれば、これはn重試行の結果(a1,a2,…,an)における、Eの起こった回数に一致する
例2の確率変数の分布S(n)=X1(n)+X2(n)+…+Xn(n) (X=XE)の分布について
S(n)の取りうる値は、0,1,2,…nの(n+1)個である
もし
S(n)(a1,a2,…,an)=k (0≤k≤n)ならば
aiのうちEに属するものの個数はkに等しい
このとき
(A1,a2,…,an)は明らかに次のような方確率事象(F1,F2,…,Fn)に属している
(1) Fi(1)=Fi(2)=…=Fi(k)=E
(2) j≠I(1), j≠I(2),…,j≠I(k)ならばFj=Ec
上記のような方確率事象の総数は
1,2,..,nなるn個の番号から
K番目の番号i(1),i(2),…,i(k)を選び出す組み合わせの総数日
この種類の方確率事象を上記のように集めると排反になる
例:n=3,k=2として
また
よって
p(E)=p、1-p=qとおけば、S(n)の分布は
このような実確率分布を(n,p)-二項分布という
例3
ある人間の集団において
左利きの人がちょうど1%だけいるとする
このとき、一人の人を出鱈目に抜き出して、その人が左利きであるか否かを調べるという試行を実施する
根元事象は、左利きと右利きの二つ
左利きを1、右利きを0とすると
ここでE={1}、X=XEとおく
今、上記のような試行を200回繰り返すとする
その結果a1,a2,…,a200のうち
左利き、すなわち1の数は、確率変数X1(200)+X2(200)+…+X200(200)の(a1,a2,..,a200)における値に等しい
これより本項の結果を用いて、 これがいろいろの値をとる確率を計算することができる
定理2 Ωを確率空間とし、X,Yをその上の二つの確率変数とする このとき、Ωの各元aに対して、X(a)-Y(a)、X(a)Y(a)なる値を 与えるルールを考えれば、これらはまたΩの上の確率変数である
定義2 確率変数X,Yから、 定理2の方法によって得られる確率変数を X,Yの差および積といい それぞれX-Y、XYで表す すなわち(X-Y)(a)=X(a)-Y(a)、(XY)(a)=X(a)Y(a)
例4
例1のX、Yに関しては
例5
例2の確率変数S(n)=X1(n)+X2(n)+…+Xn(n)と1/nとの積(上記)を考える
このとき、S0(n)(a1,a2,…,an)すなわち上記は
a1,a2,…,anのうちのEに属するものの個数rをnで割ったものに等しい
p(E)=p、1-p=qとするとS0(n)の分布は上記となる

3 確率変数の独立性

確率事象E,Fは、 試行の結果としてEの起こったことが通知されても、 Fの起こった可能性の程度に何らかの変化も生じないとき
確率変数X,Yは、 試行の結果起こった根元事象におけるXの値が知らされても、 Yのとりうる各値についての可能性の程度が変わらないとき
定義1 Ωを確率空間とし、 X,Yをその上の確率変数とする また、それらの取りうる値を、それぞれ αi(I=1,2,…,m)、βj(j=1,2,…,n)とおく このとき、族 {{X=αi}、{Y=βj}} がi,j(I=1,2,…,m;j=1,2,…,n)の遺憾にかかわらず独立となるならば X,Yは互いに独立であるという
定義2 Ωを確率空間とし、 X1,X2,…Xnをその上の確率変数とする また、それらの取りうる値を、それぞれ αi(1)(I=1,2,…,m(1))、αi(2)(I=1,2,…,m(2))、… 、αi(n)(I=1,2,…,m(n)) とおく、このとき、族 {{X1=αi(1)(1)}、{X2=αi(2)(2)}、…、{Xn=αi(n)(n)}} がI(1),I(2),…,I(n)の遺憾にかかわらず独立となるならば X1,X2,…,Xnは独立であるという
定理1  X1,X2,…,Xnが独立であるための必要かつ十分な条件は  I(1),I(2),…,I(n)の遺憾にかかわらず  p({X1=αi(1)(1)}⋂{X2=αi(2)(2)}⋂…⋂{Xn=αi(n)(n)}) =p({X1=αi(1)(1)})p({X2=αi(2)(2)})…p({Xn=αi(n)(n)})  が成立することである
例1
Xを確率空間Ωの上の確率変数とすれば
そのΩ(n)の上の複写X1(n)、X2(n)、…、Xn(n)は独立である
何となればαi(1),αi(2),…,αi(n)をXのとりうる任意の値とするとき
定理2 確率事象の族{E1,E2,..,En}が独立であるための 必要かつ十分条件は それらの定義確率変数XE1,XE2,…,XEnが独立になることである

4 平均値

一つの試行を考え、それに対応する確率空間をΩとする
そのΩ上に上記のような確率変数Xが定義されているとする
α1,α2,…,αsはXのとりうる相異なる値とする
Ei={X=αi}(I=1,2,…,s)は全て確率事象であり
かつ族{E1,E2,…,Es}はΩの分割である
その試行を何回も何回も繰り返し、 その結果として得られる根元事象の列を上記とする
これらは、確率変数XによってX(a1),X(a2),…,X(an)なる値が対応する
定義1 Xを任意の確率空間Ωの上の確率変数とし その定義を    X(a)=αi (a∈Ei) (I=1,2,…,s) とする。ただしα1,α2,…,αsは、Xのとりうる相異なる値である この時    ∑αip(Ei)=∑αip({X=αi}) なる数のことを「Xの平均値、期待値、または数学的希望値」なとどいい    M(X)またはE(X) と書く
例1
スペードの全体、クラブの全体、ダイヤの全体、ハートの全体をそれぞれE1,E2,E3,E4とおくと
p(E!)=p(E2)=p(E3)=p(E4)=1/4
よってM(X)=1・1/4+2・1/4+3・1/4+4・1/5=5/2=2.5
例2
例3
例4
例5
確率空間Ωの上に、二つの確率変数X、Yが与えられているとする。この時、次の定理が成立する
定理1 M(X+Y)=M(X)+M(Y)
定理2 Xを任意の確率変数、αを任意の定数とすると M(αX)=αM(X)
例6
定理3 確率変数X,Yが独立ならば M(XY)=M(X)M(Y)

5 分散、標準偏差、共分散

試行を何回も行えば、確率変数Xの値の算術平均は、大体M(X)に近いことが予測される
上記のような二つの例を区別する指標が必要
定義1 確率変数Xに対して、 確率変数(X-M(X))2の平均値M((X-M(X))2)を 「Xの分散」といいV(X)で表す
定義2 分散の正の平方根√(V(X)をσ(X)とかいて 「Xの標準偏差」と称する
分布の等しい確率分布の分散や標準偏差は、互いに相等しい
確率変数Xの分散や標準偏差を
例1
Eを確率事象とし、X=XEとおく、
このとき、M(X)=p(E)であるから
V(X)=M((X-M(X))2) =(1-p(E))2p(E)+(0-p(E))2p(Ec) =(1-p(E))2p(E)+p(E)2(1-p(E)) =p(E)(1-p(E))(1-p(E)+p(E)) =p(E)(1-p(E))
定理1 V(X)=M(X2)-M(X)2
定理2 α、βを定数(値確率変数)とすれば   V(αX+β)=α2V(X)
定義3 X、Yを確率空間Ωの上の確率変数とするとき   M((X-M(X))(Y-M(Y))) を、X、Yとの「共分散」といい、C(X,Y)で表す
これは次の性質を満足する
定理3 (1) C(X,Y)=C(Y,X) (2) C(X,X)=V(X) (3) C(X,Y)=M(XY)-M(X)M(Y)
定理4 X,Yを確立空間Ωの上の確率変数とすれば  V(X+Y)=V(X)+V(Y)+2C(X,Y) 特にX,Yが独立ならば  V(X+Y)=V(X)+V(Y) である
例2
定理5 Xを任意の確率変数、εを任意の正数とすれば p({|X-M(X)|<ε}≥1-V(X)/ε2 が成立する
この定理の式を「チェビシェフの不等式」という

6 大数の法則

確率変数Xの平均値M(X)の直感的な意味は
Xを、ある試行に対する確率空間Ωの上の確率変数とする
その試行をn回繰り返して行い、結果の列をa1,a2,..,anとおく
Nが十分大きければ、 X(a1),X(a2),…,X(an)の算術平均(X(a1)+X(a2)+…+X(an))/nは ある一定の値に密集する傾向を持つ
その値がM(X)である
右辺は常識に他ならない
定理1 Xを任意の確立空間Ωの上の確率変数、 Εを任意の正数とすれば 上記の式が成立する
これを「大数」の法則という
定理2 Eを確立空間Ωの確率事象とし、X=XEとおく このとき、上記の式が成立する
これをベルヌイ(Bernoulli)の定理という

7 ポアソンの少数法則

Eを確率空間Ωの確率事象とし、X=XE、p=p(E)とおけば
しかしながら上記の式はnが大きい場合かなり厄介
Pが十分小さい場合に用いられる近似
定理1 (N,p)-二項分布の平均値はnpであるが、 それが一定値αに等しいような二項分布ばかりを考えれば 上記の式が成立する
これをポアソンの少数法則という


ボルトキエビッチのプロシアの軍団の馬に蹴られて死ぬ兵士の数:r
一人の兵士が1年のうちに馬に蹴られて死ぬ確率p=p(E)、確率事象E={1}、X=XE
一つの軍団がn人の兵士からなる
N重試行を行う
数rは
いくつもいくつも軍団を調べると、rの算術平均は、X1(n)+X2(n)+…+Xn(n)の平均、すなわちnpに近いことが期待される
200個の軍団について調べたrの算術平均は
Np≒0.61
一つの軍団で、一年のうちにr人の兵士が馬に蹴られて死ぬ、という事象
そのn重試行を200回行えば
一人の兵士を取ったとき、それが一年のうちに馬に蹴られて死ぬことは、極めて稀
ゆえに
こり右辺を計算すると

8 ラプラスの定理

確率変数Xの標準偏差σ(X)(ないしは分散V(X))は
Xの値がM(X)からの食い違いが平均して大体どれくらいかを測る尺度
上記の確率変数は、 σ(X)を単位として測ったときの、 XのM(X)からの食い違いを表す
Ẋは、Xのいろいろの性質を調べるのに有用
確率事象Eの定義確率変数X=XEから
S(n)=X1(n)+X2(n)+….+Xn(n)を作り
上記を考えたとき、これらの分布が大きなnに対してどうなるのか?を考える
定理1 任意の実数α、β(α≤β)に対して、上記が成立する
これを「ラプラスの定理」という
スターリングの公式
ラプラスの定理の一般の確率変数への拡張

クロフトン(Krofton)による考察
我々が測定を行うとき
それが全く理想的に行われるなら
当然真の値mが測定値として得られるはず
実際問題としてそうはかないのは
測定に関して誤差が介入してくるから
測定というものは、非常に多くの誤差の”みなもと”がひそんでいる
それらは、測定が行われるたびにεか-ε(εは十分小)かのいずれかの、極めて微笑な誤差を生み出す
そのような各みなもとの生み出した微小な誤差a1,a2,..,anが真の値mに加わって
測定に際して
知らないうちに、ある種の付随的な試行が自動的に行われる
その根元事象は、ε、-εのn個(nは十分大)の組(a1,a2,…,an)である
以下省略..
区間[a,b]の確率

5 マルコフ連鎖

はじめに

一連の実験の系列があって、
核実験の結果、いろいろのことの起こる可能性の程度が
それ以前になされた実験の結果移管により変化を受ける

A,Bという2つの壺がある
同じ大きさの黒玉と白玉が何個かずつ入っている
各壺の中から、出鱈目に一つずつ玉を取り出し、AからBへ、またBからAへ入れて、Aの中の黒玉の数を勘定する

1 単純マルコフ連鎖

上記に述べた壺の実験の系列を考える
簡単のために、 黒玉の総数、白玉の総数、およびA、Bそれぞれにおける玉の総数を、 全て一定数α(>0)に等しいとおく
各𝔈nの結果は、壺Aの中の黒玉の数0,1,2,…,αである
これを系列(*)の状態といい、ω1,ω2,…,ωα+1で表す
このとき次のような分析を進められる
(1)
𝕰k-1(k>1)の結果がωi=i-1であれば
𝕰kにおいて、例えばAから白玉が抜かれ、Bから黒球が抜かれる確率は上記
よって𝕰kの結果としてAの中の黒玉の数がiとなる確率、すなわちωi+1が起きる確率は(**)に等しい
同様にして𝕰k-1の結果ωiが定まったとき、
いかなるωj(j=1,2,…,α+1)に対しても
それが𝕰kの結果として起こる確率を計算することができる
これをp(i→j)で表す
従って、各𝕰kは𝕰k-1の結果ωiが決まれば、次のような試行と考えることができる
(1) 根元事象はω1,ω2,…,ωα+1である
(2) 指標は、根元事象それ自身である
(3) p({ωj})=p(I→j)
(2)
𝕰2以下の実験は、直前の実験の行われた壺に対して直接行われる
𝕰1の前には実験はないので、𝕰1を始める前に、各ツボに対してどのようにして玉を入れるか決める必要がある

(A) Aに黒玉ばかり、Bに白玉ばかり
(2) 2α個の玉を出たらめに半部下に分けて、A,Bに入れる
(3) Aには黒玉を2個だけいれ、後のα-2個は白玉ばかりとする
𝕰1は、次のような条件を満たすような試行であると仮定して良い
(1) 根元事象はω1,ω2,…,ωα+1である
(2) 指標は、根元事象それ自身である
その核実験の結果として可能なものが全て共通で、 しかもそれが有限個とする
その各々のω1,ω2,…,ωNを(*)の状態という
状態の全体をΩで表す。Ω={ω1,ω2,…,ωN}
このような系列(*)に対して、 次の(A),(B)を満たすような数p(i),p(i→j)が存在するなら、 (*)は「単純マルコフ系列」であるという
(A)
𝕰1は次のような試行である
(1)根元事象はω1,ω2,…,ωNである
(2)指標は、根元事象それ自身である
(3) p({ωi})=p(i)
p(i)を系列(*)におけるωiの「初期試行」という
(B)
各𝕰k(k>1)は、直前の実験𝕰k-1の結果ωiが決まれば
次のような試行と考えることができる
(1)根元事象はω1,ω2,…,ωNである
(2)指標は、根元事象それ自身である
(3) p({ωj})=p(i→j)
p(I→j)を(*)におけるωiからωjへの「遷移確率」という
遷移行列
例1
前項1で述べた実験の系列は、単純マルコフ系列である
遷移確率は上記となる
例2
AとBとの2人があるゲームをする
A,Bが勝つ確率はそれぞれ1/2
2人ははじめに3点ずつ持っている
負けた方が勝った方に1点を支払う
持ち点が0の時は支払わなくて良い
2人がこのゲームを行なって、A点の点数を記録する
単純マルコフ系列
(1) 状態は0,1,2,…,6(これらをω1,ω2,…,ω7)とおく)
(2)p(3)=p(5)=1/2、p(1)=p(2)=p(4)=p(6)=p(7)=0
遷移確率は
例3
トランプを切る操作の系列
状態は、トランプの52米のカードのあらゆる可能な順列
一つの順列ωiのトランプが与えられると、それを一回切って各順列ωjが得られる可能性の程度は人によって大体一定
例4
例5

2 多重確率空間

上記を単純マルコフ系列とし
それに対応する単純マルコフ連鎖を上記とする
ただしΩ={ω1,ω2,…,ωN}とする
このとき𝕰1が次ような試行であることは明らか
(1) 根元事象はΩの元ω1,ω2,…,ωNである
(2) あらゆる事象が確率事象である
(3) p({ωi,ωj,…,ωk})=p(i)+p(j)+…+p(k)
従って、Ωは一つの確率空間と考えることができる
確率空間Ω(n)を、𝔐のn重確率空間という
定理1
定理2
定理3
定理4
単純マルコフ連鎖{Ω、p(i)、p(i→j)}に対して、 無限多重確率空間Ω(∞)を定義することができる

3 無限分布

例3にあげた”トランプ切り”の単純マルコフ系列を考える
この系列の目的
トランプを切る操作を繰り返し、それによって、カードの排列が特定のものに偏らないものにする
上記が期待される
単純マルコフ連鎖 𝔐={Ω、p(i)、p(i→j)} (Ω={ω1,ω2,…,ωN})に対して
I → p(r)(i) (I=1,2,…,N) なる実確率分布を
例1
例2
定理1
定理2
例3
例4

4 マルコフ連鎖

実毛面の系列𝕰1,𝕰2,…,𝕰n,..がもっと過去の結果に依存する
記憶の長さlのマルコフ系列
例1
一文字ずつ文字を読み取ってそれを何らかの形で記録する作業は
全てマルコフ系列
例2
音符を一つずつ読んでそれを引くことも、一つのマルコフ系列
記憶の長さlのマルコフ系列に対応した
記憶の長さlのマルコフ連鎖

5 エントロピー

トランプを切る実験の系列において
初期確率をp(1)=p(2)=…=p(N)=1/N (N=52!)とおくと
いかなるrに対しても、p(r)(j)=p(j)
記憶の長さlのマルコフ連鎖が、 rの遺憾にかかわらず p(r)(i1,i2,…,il)=p(i1,i2,…,il)なる条件を満たすとき
その連鎖は定常であると言われる
定理1
定理2
例1
例2
定理3
定義1
エントロピー
例3
例4
定義2
定理4
シャノンの定理
言語のエントロピー

6 述語に対する注意

均等なマルコフ系列
均等なマルコフ連鎖

7 確率過程

確率過程なる概念に触れる
定理1
定理2
定理3
定義1
定義2
マルコフ連鎖のエルゴード部分

6 ボレル型の確率空間

はじめに

前節までは”古典確率論”
本章では、現代の確率論の初めの部分を、できるだけ重点的に解説する

1 確率事象拡散の必要性

有限個の確率事象E1,E2,…,Enの和事象や積事象はまた、確率事象である
無限に多くの確率事象の列E1,E2,…,En,…の和事象や積事象は必ずしも確率事象ではない
例1
1章,8,例4の確率空間において上記は確率事象ではない
例2
任意の確率空間Ωにおいて、E≠∅、E≠Ωなる確率事象Eを撮れば
無限多重確率空間Ω(∞)における筒確率事象
の和事象や積事象は、確率事象ではない

どうかな下痢思考の無限多重試行においては
「少なくとも1回表が出る」や「永久に表がでる」という事柄に対応する事象はいずれも確率事象ではない
しかしながら
確率事象、すなわち確率を与えられる事象の範囲を拡張して その結果、新しい意味の確率事象の無限列{En}の和事象や積事象が、 全てまた確率事象であるようにしておくと、便利になる

上記のものが、その確率がどれくらいになるかが問題になることがある
{Xn}を一つの確率空間Ωの上の確率過程とするとき
極限値limXn(a)がある一定数αに等しいようなa全体の作る事象の確率を考えたいことがある
確率事象の無限列の和事象や積事象がまた確率事象となってほしい
上記の条件は次のように書き換えられる
(1)
いかなるε>0に対しても、
適当に自然数n0をとれば
n≥n0なる全てのnに対して|Xn(a)-α|<ε
(2)
(1)の言い換え
いかなる自然数mに対しても
適当に自然数n0をとれば
n≥n0なる全てのnに対して|Xn(a)-α|<1/m
Εとして1/m(mは自然数)と考える
n≥n0なる全てのnに対して|X(a)-a|<1/mとなるようなa全体の作る事象は上記である
よって
あるn0をとるとき、 n≥n0なる全てのnに対して |Xn(a)-α|<1/mとなるようなa全体の事象は上記に等しい
これより(2)を満足するa全体の事象、すなわち{limXn=α}は上記と表される
従って
{limXn=α}なる型の事象の確率を考えるためには、確率事象の無限列の和事象や積事象が、確率事象とならなくては困る

2 連続性の公理

確率を与えられるような事象の範囲をおしひろめる
その新しい範囲に入ってくる事象のことを「広義の確率事象」という
確率空間における本来の確率事象の全体を𝔄
広義の確率事象の全体を𝔅とおくとき
これらが次の条件を満足しなければならない
(1)
𝔄⊆𝔅
すなわち、本来の確率事象全て広義の確率事象である
(2)
En∈𝔅(n=1,2,…)ならば、上記は∈𝔅
(3)
E∈𝔅ならば、Ec∈𝔅
𝔄が与えられたとき(1),(2),(3)を満足するような範囲𝔅は、少なくとも一つ存在する

Ωにおけるあらゆる事象の全体𝔛は、(1)(2)(3)を満足する
できるだけ小さいα拡大をとるには
定理1 𝔄のあらゆるσ-拡大𝔅、𝔅’、𝔅”、,,の共通部分は また𝔄のσ-拡大である
𝔅0を「ボレル(Borel)拡大」という
B(𝔄)の元Eに与えられるべき確率が
(A)
E∈𝔄ならば、p(E)は元来の確率と等しい
(B)
1≥p(E)≥0を満たす
(C)
En∈B(𝔄)(n=1,2,…)で、かつこれらが互いに廃藩ならば
例1
次のような確率空間Ωを考える
(1) Ω=(1,2,3,…,n,…)
(2) 確率事象のリストは月の通りである
(イ) 有限集合(空集合を含む)
(ロ) {n|n≥n0}なる形の集合(n0は任意である)
(ハ) (イ)、(ロ)の形の事象の和集合
(3) 確率の定め方は次のとおりである
(イ) Eが有限集合ならばp(E)=0
(ロ) Eが無限集合ならばp(E)=1
Ωの任意の無限部分集合をA={n1,n2,…,ni,…)とすれば
以下省略
一般に、広義の確率事象、 すなわちB(𝔄)の元に(a)(b)(c)を満たすような確率を定義しうるには
(C)よりも、まず持って次の条件の満たされることが必要
En∈𝔄(n=1,2,…)で、かつこれらの事象が互いに排反であるとき
連続性の公理
定理2 確率空間Ωが連続性の公理を満たせば B(𝔄)の各元に(a),(b),(c)を満たすような確率を定義することができる しかもその仕方はただの一通りである
連続性の公理を満たす空間の例をあげる
例2
確率現象、すなわち𝔄の元が有限個しかないような確率空間Ωは連続性の公理を満足する
例3
例4

3 ポレル型の確率空間

今後は、連続性の公理を満足する確率空間のみを考える
確率事象といえば、広義の確率事象を指すものと約束する
これからは、確率空間は常に次の条件を満たすものとする
(1) En(n=1,2,…)が確立事象ならば
(2) 確率事象En(n=1,2,…)が互いに排反ならば
ボレル型の確率空間
ボレル型の確率空間に対して、 古い意味の確率空間をジョルダン(Jordan)型の各吊り空間という
定理1
定理2
定理3

4 大数の強法則

定理1
補助定理1
コルモゴロフの不等式
補助定理2
ボレル-カンテリの定理
定理2
ボレルの法則

5 確率変数の拡張

確率変数を有限個から無限個におしひろめる
定義
定理1
定理2
定理3
定理4
定理5

6 可測関数の理論から

一般の確率変数の理論を展開するために
可測関数およびそのルベグ積分の理論から、若干の知識を採用する
そのために、それらの理論から必要な事項を抜粋する
定理1
定理2
定理3
定理4
定理5
定理6

7 確率変数の性質

一般の確率変数X,Yの和、差、積:X+Y、X-Y、XYは
X,Yを可測関数とみなした場合の和、差、積として定義される
これは、有限個の値をとる確率変数の和、差、積の概念のそのままの拡張となる
定理1
定義1
定理2
例2
例3
例4
定義2
例6
例7
定理4
チェビシェフの不等式
定理5
大数の法則
定理6
ラプラスの定理、および大数の強法則
定理7
ガウス分布
例8

付録

1 ガウス分布とスターリングの公式
2 多重確率空間
3 カラテオドリの定理

コメント

  1. […] 確率論入門 読書メモ […]

  2. […] 確率論入門 読書メモ […]

タイトルとURLをコピーしました