20260612_3

20260522_3

---

後半戦

離散型確率分布から入る

ベルヌーイ試行と二項分布とポアソン分布が主に試験に出るらしい

確率分布を何に使う？

試験には出ない

• 数値を予測するモデルをデータから学習する場合
• データは様々な変数の集まり
• 予測するのが目的変数や従属変数
• 予測するために用いる変数が説明変数、共変量、独立変数など
• 1つの目的変数と1つ以上の説明変数で構成されて、件数が$n$のデータが定型データ

機械学習では目的変数から説明変数を学習し、説明変数から目的変数を学習するのが目的になる

損失関数を小さくするようなパラメーターを考える

最小二乗法とかも使える
CELossとか

---

ベルヌーイ試行

ベルヌーイさんが考えたらしい

ベルヌーイ家はバッハみたいなタイプの家系だった

ベルヌーイ試行は

$$p(x)=p^x(1-p{)}^{1-x},x\in X=\{0,1\}$$

コイン投げの結果とか、背反で二者択一なもの
→二律背反

成功の確率は$p=PR[X=1]$
失敗確率は$1-p=Pr[X=0]=1-Pr[X=1]$

つまり

$$p(x)=\{\begin{array}{ll}p& x=1\\ 1-p& x=0\end{array}$$

確率関数は

$p(x)=p^x(1-p{)}^{1-p},x\in X=\{0,1\}$

累積分布関数は

$$F(x)=\{\begin{array}{ll}0& x<0\\ 1-p& 0\le x<1\\ 1& 1\le x\end{array}$$

モーメント母関数

$$\begin{array}{rl}{M}_x(t)=E[e^{tX}]& =\sum _{x=0}^1{e}^{p}xtx\\ & =e^{t\cdot 0}\cdot p(0)+e^{t\cdot 1}\cdot p(1)\\ & =1-p+e^t\cdot p\end{array}$$

原点モーメント

$E[X]={\sum }_{x=-\infty }^{\infty }xp(x)=0\cdot (1-p)+1\cdot p=p$

$E[X^2]={\sum }_{x=-\infty }^{\infty }{x}^{2}p(x)=0^2\cdot (1-p)+1^2\cdot p=p$

$V[X]=E[X^2]-\{E[X^2]\}=p-p^2=p(1-p)$

モーメント母関数から$E[X]$や$E[X^2]$を求めることも可能

これ以降は

具体的な確率分布を見つつ、

• 確率分布の関数表現
• それに従う確率変数の平均や分散
• $X$の変換$G(X)$の分布や平均、分散
• 違いに独立にその分布に従う確率変数の総和
• 総和の平均

などを見ていく

単純な確率論のモデルを徐々に調べつつ徐々に複雑な事象を表現できるように拡張していく

---

離散分布の関係性

離散分布は