20260703_3

20260626_3

---

連続型確率分布に入るらしい

指数、正規、一様分布は最低限使いこなせるように

そもそも連続型確率分布とは

• 標本空間がユークリッド空間の連続部分集合としての実数集合と等価な分布

指数分布

• ベルヌーイ分布を連続分布にするようなイメージ

銀行の窓口に人が来る時間間隔の分布

Variables:

• $X$（確率変数）＝ 前のお客さんから次のお客さんが到着するまでの「時間間隔」
• $x$（具体的な時間）＝ すでに$x$分待ってまだ誰も来なかった、という条件
• $y$（さらに追加する時間）＝ その先、さらに$y$分待つ、という話

$x$分待って、その後$y$分待っても来なかったとき
$P(X>x+y|X>x)$
来る人同士に関連性はないから、この確率は
$P(X>x+y|X>x)=P(X>y)$
→「$x$分待ってまだ来なかったからといって、次の客が来やすくなるわけじゃない」＝無記憶性

このとき確率密度関数は
$f(x)=\lambda e^{-\lambda x}$の表現を必ず持つ

この確率密度関数を持つ確率分布が指数分布で、$XExp(\lambda )$で表現

---

1. 式変形
   $P(X>x+y)=P(X>x)P(X>y)$
2. これを満たす累積分布関数$F(x)$と確率密度関数$f(x)$を用意する
   $\{1-F(x+y)\}=\{1-F(x)\}\{1-F(y)\}$
3. 両辺を$x$で微分
   $-f(x+y)=-f(x)\{1-F(y)\}$
4. ここで$x=0$で
   $F(y)=1-e^{-f(0)y}$
5. $\lambda =f(0)$として$y$で両辺を微分する
   $f(y)=\lambda e^{-\lambda y}(y>0)$

---

ベルヌーイ分布やポアソン分布からも求められるらしい

---

平均

$E[X]={\int }_0^{\infty }xf(x)dx$ を計算する。部分積分（$u=x,dv=\lambda e^{-\lambda x}dx$）を使う。

$$\begin{array}{rl}E[X]& ={\int }_0^{\infty }x\cdot \lambda e^{-\lambda x}dx\\ & =[-x\cdot e^{-\lambda x}{]}_0^{\infty }+\frac{1}{\lambda }{\int }_0^{\infty }\lambda \cdot e^{-\lambda x}dx(\text{部分積分：境界項}+\text{残りの積分})\\ & =[0-0]+\frac{1}{\lambda }[-e^{-\lambda x}{]}_0^{\infty }\\ & =\frac{1}{\lambda }\end{array}$$

分散

$V[X]=E[X^2]-\{E[X]{\}}^2$ なので、まず $E[X^2]$ を求める。これも部分積分。

$$\begin{array}{rl}E[X^2]& ={\int }_0^{\infty }{x}^2\cdot \lambda e^{-\lambda x}dx\\ & =[-x^2\cdot e^{-\lambda x}{]}_0^{\infty }+{\int }_0^{\infty }2x\cdot e^{-\lambda x}dx(\text{部分積分：}u=x^2,dv=\lambda e^{-\lambda x}dx)\\ & =0+\frac{2}{\lambda }{\int }_0^{\infty }x\cdot \lambda e^{-\lambda x}dx=\frac{2}{\lambda }\cdot E[X]=\frac{2}{{\lambda }^2}\end{array}$$ $$\begin{array}{rl}V[X]& =E[X^2]-\{E[X]{\}}^2=\frac{2}{{\lambda }^2}-{\left(\frac{1}{\lambda }\right)}^2=\frac{1}{{\lambda }^2}\end{array}$$

モーメント母関数

定義：$M_X(t)=E[e^{tX}]$。指数をまとめると積分が簡単になる。

$$\begin{array}{rl}{M}_X(t)& =E[e^{tX}]={\int }_0^{\infty }{e}^{tx}\cdot \lambda e^{-\lambda x}dx\\ & ={\int }_0^{\infty }\lambda \cdot e^{-(\lambda -t)x}dx(\text{指数の足し算：}tx+(-\lambda x)=-(\lambda -t)x)\\ & =\frac{\lambda }{\lambda -t}(t<\lambda )\end{array}$$

${\int }_0^{\infty }(\lambda -t)e^{-(\lambda -t)x}dx=1$（パラメータ $\lambda -t$ の指数分布の全確率）を利用。

$M_X(t)=\frac{\lambda }{\lambda -t}$ は $t$ の関数になっている。$x$ は積分で消えた（ダミー変数）。よって $t$ で微分できて、各モーメントが得られる。

• 1回微分 → 平均：$E[X]=M_X^{\prime }(0)$
• 2回微分 → 2次モーメント：$E[X^2]=M_X^{\prime \prime }(0)$

$$\begin{array}{rl}{M}_X^{\prime }(t)& =\frac{d}{dt}\left(\frac{\lambda }{\lambda -t}\right)=\frac{\lambda }{(\lambda -t{)}^2}(\text{quotient rule})\\ E[X]& =M_X^{\prime }(0)=\frac{\lambda }{(\lambda -0{)}^2}=\frac{1}{\lambda }\end{array}$$ $$\begin{array}{rl}{M}_X^{\prime \prime }(t)& =\frac{d}{dt}\left(\frac{\lambda }{(\lambda -t{)}^2}\right)=\frac{2\lambda }{(\lambda -t{)}^3}\\ E[X^2]& =M_X^{\prime \prime }(0)=\frac{2\lambda }{(\lambda -0{)}^3}=\frac{2}{{\lambda }^2}\end{array}$$ $$\begin{array}{rl}V[X]& =E[X^2]-\{E[X]{\}}^2=\frac{2}{{\lambda }^2}-{\left(\frac{1}{\lambda }\right)}^2=\frac{1}{{\lambda }^2}\end{array}$$

（積分で直接求める方法と同じ結果になる）

---

指数分布の確率密度関数は単調減少

中央値は$F(x)=0.5$となる場所で$\frac{\log 2}{\lambda }$

これは平均より小さい

---

指数分布の無記憶性

幾何分布をもとに導出したため、幾何分布を受け継いで無記憶性を備える

→何度失敗しても次に成功する条件付き確率が変わらない

$$\begin{array}{rl}Pr[X>x+a|X>a]& =\frac{Pr[X>x+aandX>a]}{Pr[X>a]}\\ & =\frac{Pr[X>x+a]}{Pr[X>a]}(定義域が0以上であるため)\\ & =\frac{e^{-\lambda (x+a)}}{e^{-\lambda a}}\\ & =e^{-\lambda x}\end{array}$$

時間$a$経っても何も起きていないならそこからさらに時間$x$だけ経過しても未だに発生していない確率は最初から$x$だけ経過しても発生しない確率と同じ

時間が変わっても確率が変わらないのが無記憶性

---

詳細はスキップ

期待値$\frac{1}{\lambda }$を$\mu$とした表記もある

---

ガンマ分布

$X_1,\dots ,X_n$ が互いに独立、かつすべて指数分布（平均$\mu$）に従うとする。$X_i\sim Exp(1/\mu )$

このとき、最初の$n$項の和は

$$\begin{array}{rl}{Y}_n& =\sum _{i=1}^n{X}_i\sim f_n(x)=\frac{1}{(n-1)!{\mu }^n}{x}^{n-1}{e}^{-x/\mu }\end{array}$$

この分布をアーラン分布 $Erlang(n,\mu )$ と呼ぶ。ガンマ分布の特殊ケース。

---

■ ガンマ分布の導出（数学的帰納法）

$Y_1=X_1$ のとき、$f_1(x)=\frac{1}{\mu }{e}^{-x/\mu }$（指数分布そのもの）

$Y_k$ が $f_k(x)=\frac{1}{(k-1)!{\mu }^k}{x}^{k-1}{e}^{-x/\mu }$ に従うと仮定すると、$Y_{k+1}=Y_k+X_{k+1}$ のたたみ込みで：

$$\begin{array}{rl}{f}_{k+1}(x)& ={\int }_0^x{f}_k(t)f_1(x-t)dt\\ & ={\int }_0^x\frac{1}{(k-1)!{\mu }^k}{t}^{k-1}{e}^{-t/\mu }\cdot \frac{1}{\mu }{e}^{-(x-t)/\mu }dt\\ & =\frac{1}{k!{\mu }^{k+1}}{x}^k{e}^{-x/\mu }\end{array}$$

$\Rightarrow f_{k+1}(x)$ も同形 $\Rightarrow$ 数学的帰納法で示される

---

■ ガンマ関数とは？

階乗を実数に拡張したもの。$3.5!$ のような小数の「階乗」を定義する道具。

定義：

$\Gamma (\alpha )={\int }_0^{\infty }{x}^{\alpha -1}{e}^{-x}dx$

なぜこれが階乗と関係するのか → 部分積分で漸化式 $\Gamma (\alpha +1)=\alpha \Gamma (\alpha )$ が導ける。

整数のとき：

$$\begin{array}{ccc}n& \Gamma (n)& (n-1)!\\ 1& \Gamma (1)=1& 0!=1\\ 2& \Gamma (2)=1\cdot \Gamma (1)=1& 1!=1\\ 3& \Gamma (3)=2\cdot \Gamma (2)=2& 2!=2\\ 4& \Gamma (4)=3\cdot \Gamma (3)=6& 3!=6\\ 5& \Gamma (5)=4\cdot \Gamma (4)=24& 4!=24\end{array}$$

→ $\Gamma (n)=(n-1)!$ が成り立つ

ガンマ分布では全確率=1を満たす正規化定数として登場する。

---

■ ガンマ分布の定義

$n$ を $\alpha$、$\mu$ を $\beta$ と書き換える。形状母数 $\alpha$、尺度母数 $\beta$。

$$\begin{array}{rl}f(x)& =\frac{x^{\alpha -1}}{\Gamma (\alpha ){\beta }^{\alpha }}\exp \left(-\frac{x}{\beta }\right)(\alpha >0,\beta >0,x>0)\end{array}$$

$X\sim \Gamma (\alpha ,\beta )$ と表す。

• $\Gamma (1,\mu )=Exp(1/\mu )$（指数分布）
• $\Gamma (n,\mu )=Erlang(n,\mu )$（アーラン分布）
• $\Gamma \left(\frac{n}{2},2\right)={\chi }^2(n)$（カイ二乗分布）

---

■ ガンマ分布のモーメント（平均）

$$\begin{array}{rl}E[X]& ={\int }_0^{\infty }x\cdot \frac{x^{\alpha -1}}{\Gamma (\alpha ){\beta }^{\alpha }}{e}^{-x/\beta }dx\\ & =\frac{1}{\Gamma (\alpha ){\beta }^{\alpha }}{\int }_0^{\infty }{x}^{\alpha }{e}^{-x/\beta }dx\end{array}$$

ここで積分をガンマ関数の形に変形する。$u=x/\beta$（$x=\beta u$、$dx=\beta du$）とおいて：

$$\begin{array}{rl}{\int }_0^{\infty }{x}^{\alpha }{e}^{-x/\beta }dx& ={\int }_0^{\infty }(\beta u{)}^{\alpha }{e}^{-u}\beta du={\beta }^{\alpha +1}{\int }_0^{\infty }{u}^{\alpha }{e}^{-u}du\end{array}$$

${\int }_0^{\infty }{u}^{\alpha }{e}^{-u}du=\Gamma (\alpha +1)$ なので：

$$\begin{array}{rl}E[X]& =\frac{1}{\Gamma (\alpha ){\beta }^{\alpha }}\cdot {\beta }^{\alpha +1}\cdot \Gamma (\alpha +1)\\ & =\frac{\beta \Gamma (\alpha +1)}{\Gamma (\alpha )}\end{array}$$

ここで $\Gamma (\alpha +1)=\alpha \Gamma (\alpha )$ を使うと：

$$\begin{array}{rl}E[X]& =\frac{\beta \cdot \alpha \Gamma (\alpha )}{\Gamma (\alpha )}=\alpha \beta \end{array}$$

---

■ ガンマ分布のモーメント（分散）

平均と同じ要領で置換積分 → ガンマ関数の形に変形。$\Gamma (\alpha +2)=(\alpha +1)\alpha \Gamma (\alpha )$ を使う。

$$\begin{array}{rl}E[X^2]& ={\int }_0^{\infty }{x}^2\cdot \frac{x^{\alpha -1}}{\Gamma (\alpha ){\beta }^{\alpha }}{e}^{-x/\beta }dx\\ & =\frac{1}{\Gamma (\alpha ){\beta }^{\alpha }}{\int }_0^{\infty }{x}^{\alpha +1}{e}^{-x/\beta }dx(\text{平均と同様に }u=x/\beta \text{ で置換})\\ & =\frac{{\beta }^{\alpha +2}\Gamma (\alpha +2)}{\Gamma (\alpha ){\beta }^{\alpha }}=\frac{\Gamma (\alpha +2)}{\Gamma (\alpha )}{\beta }^2=\alpha (\alpha +1){\beta }^2\end{array}$$ $$\begin{array}{rl}V[X]& =E[X^2]-\{E[X]{\}}^2=\alpha (\alpha +1){\beta }^2-(\alpha \beta {)}^2=\alpha {\beta }^2\end{array}$$

---

■ ガンマ分布のモーメント母関数

$$\begin{array}{rl}{M}_X(t)& =E[e^{tX}]={\int }_0^{\infty }{e}^{tx}\cdot \frac{x^{\alpha -1}}{\Gamma (\alpha ){\beta }^{\alpha }}{e}^{-x/\beta }dx\\ & ={\int }_0^{\infty }\frac{x^{\alpha -1}}{\Gamma (\alpha ){\beta }^{\alpha }}{e}^{-x\left(\frac{1}{\beta }-t\right)}dx(\text{指数の足し算})\\ & =\frac{1}{(1-\beta t{)}^{\alpha }}(t<1/\beta )\end{array}$$

$\Gamma \left(\alpha ,\frac{1}{\beta -t}\right)$ の全確率=1 を利用。$1/(\beta -t)$ に置き換えたガンマ分布の密度関数の全確率が1であることから、積分が簡約される。

---

■ おまけ：$k$次モーメント

$$\begin{array}{rl}E[X^k]& =\frac{\Gamma (\alpha +k)}{\Gamma (\alpha )}{\beta }^k\end{array}$$

指数分布の和の確率関数の導出は毎年テストに出てるらしい

---

■ 畳み込みとは？

2つの独立な確率変数の和の分布を求める公式。
$X,Y$ が独立で、それぞれ密度関数 $f_X(x)$、$f_Y(y)$ を持つとき、$Z=X+Y$ の密度関数は：

$f_Z(z)={\int }_{-\infty }^{\infty }{f}_X(t)f_Y(z-t)dt$

直感：「$X=t$ になる確率密度 $\times$ そのとき $Y=z-t$ になる確率密度」を、全ての $t$ について足し合わせる（積分する）。

■ 指数分布2つの和 $Z=X_1+X_2$（$X_1,X_2\sim Exp(\lambda )$、独立）

$f_{X_1}(x)=\lambda e^{-\lambda x}(x>0)$

STEP 1：公式に当てはめる

$f_Z(z)={\int }_{-\infty }^{\infty }{f}_{X_1}(t)f_{X_2}(z-t)dt$

STEP 2：積分範囲を決める

$f_{X_1}(t)$ は $t>0$ でしか0でない。$f_{X_2}(z-t)$ は $z-t>0$（つまり $t<z$）でしか0でない。

→ 積分範囲は $0<t<z$ に限定される。

$f_Z(z)={\int }_0^z\lambda e^{-\lambda t}\cdot \lambda e^{-\lambda (z-t)}dt$

STEP 3：被積分関数を整理

$={\int }_0^z{\lambda }^2{e}^{-\lambda t}{e}^{-\lambda z+\lambda t}dt={\int }_0^z{\lambda }^2{e}^{-\lambda z}dt$

$e^{-\lambda t}$ と $e^{+\lambda t}$ が打ち消し合って、$t$ を含まない项だけが残る。

STEP 4：積分を実行

$f_Z(z)={\lambda }^2{e}^{-\lambda z}{\int }_0^{z}dt={\lambda }^{2}z{e}^{-\lambda z}(z>0)$

結論：$f_Z(z)={\lambda }^{2}z{e}^{-\lambda z}$ → これは $\Gamma (2,1/\lambda )$（アーラン分布）

---

■ まとめ：畳み込みの手順

1. 公式を書く：$f_Z(z)=\int f_X(t)f_Y(z-t)dt$
2. 積分範囲を決める（密度関数が0でない範囲の共通部分）
3. 被積分関数を整理（指数が打ち消し合うことが多い）
4. 積分を実行