参考要素の強い、いろいろな分布を見ていく
- カイ2乗分布
- コーシー分布
- 対数正規分布
- 分布
- 分布
- ベータ分布
区分的に単調な変換
のはそのまま変換できるが、は場合分けが必要
カイ2乗分布
分布、などとも
カイ2乗分布の解説
前提知識:区分的に単調な変換
の変換を考える。 を境に:
- :単調減少
- :単調増加
()は1価関数(1つのxに対し1つのy)だが、逆変換 は場合分けが必要:
- のとき:
- のとき:
カイ2乗分布の導出
が標準正規分布 に従うとき、 の分布を求める。
の累積分布関数:
が で対称なので、
ここで ()と変数変換すると、
よって、
を明記して計算すると、
これは ガンマ分布 の累積分布関数 となる。
この分布を (自由度1の)カイ2乗分布 と呼ぶ。
性質
ガンマ分布の性質から:
自由度 のカイ2乗分布
カイ2乗分布に従う確率変数が 個あるとき、 とし、互いに独立ならば:
ガンマ分布では、尺度母数 が共通なら、和の分布の は個々の分布の の和となる。
右辺は の確率密度関数。これを 自由度 のカイ2乗分布 と呼ぶ。
要約:カイ2乗分布とは
| 項目 | 内容 |
|---|---|
| 定義 | 標準正規分布 の2乗変数の分布 |
| 自由度1 | のとき |
| 自由度n | 独立な の和が |
| ガンマとの関係 | |
| 期待値 | (自由度に等しい) |
| 分散 | |
| 記号 | または |
コーシー分布の解説
なぜ比の分布を求めるのか
2つの確率変数 から の分布を直接求めるのは難しい。でも、 と の同時分布から周辺分布を引くより、変数変換で一気にやった方が見通しがいい。
2変数の変数変換:ヤコビアン
から への1対1の対応が:
ここで定義される3つの条件:
- 逆変換が存在する
- 偏導関数が存在し、連続である
- ヤコビアン が恒常的に0でない
ヤコビアンとは、変数変換がどのくらい「面積を拡大・縮小」するかを表す行列式だ。
この の逆数を掛けることで、確率密度を正しく変換できる。
比の分布への変換
から という変換を考える。これは:
- (比)
- (分母そのまま)
逆変換は:
ヤコビアンは:
恒常的に0ではない。この変換は使える。
標準正規分布からコーシー分布を導く
ともに で独立。同時確率密度関数は:
変数変換して の周辺分布を積分で求めると、最終的に:
これが コーシー分布 だ。
期待値が存在しない
原点対称なのに、期待値 を計算しようとすると:
この積分は発散する。 は対称だから とainenが、 が有限にならないため、期待値は定義できない。
モーメント母関数 も存在しない。
でも平均は取れる?
特性関数 を調べると、興味深い結果が出る。
独立な同一のコーシー分布に従う確率変数 の平均:
これも コーシー分布に従う。正規分布では中心極限定理で正規分布に収束するのに、コーシー分布ではそうならない。期待値すら定義されないのに、平均をとっても分布の形が変わらないという、ちょっと不気味な性質だ。
別の導出ルート
のとき、 の分布もコーシー分布になる。
「比の分布」として自然に現れるのと、「円周上の角をランダムに取ったときの正接の分布」として現れる。この二重性もコーシー分布の不思議なところだ。
まとめ:コーシー分布の特徴
| 項目 | 内容 |
|---|---|
| 定義 | |
| 由来 | (独立な標準正規変数の比) |
| 対称性 | 原点対称 |
| 期待値 | 存在しない(積分発散) |
| 分散 | 存在しない |
| モーメント母関数 | 存在しない |
| 平均の分布 | コーシー分布のまま(中心極限定理が働かない) |
| 別の由来 |
対数正規分布の解説
何が起きるか
が正規分布 に従うとき、 の分布を 対数正規分布 と呼ぶ。記号は 。
注意が必要なのは、この名前の読み方だ。「対数変換を施すと正規分布になる分布」であって、「正規分布の対数を取った分布」ではない。 そのものは正規分布に従わない。 という関係があるだけだ。
なぜ「指数変換」なのか
正規分布をそのまま扱うと、値域は になる。でも現実の很多の現象は負にならない。収入も、サービス時間も、物体のサイズも、0以下にはならない。
をかけることで、正規分布の持つ「対称性」と「中心極限定理との親和性」を保ったまま、値域を に押し込める。この変換が起きる確率分布が対数正規分布だ。
確率密度関数
変数変換 より、 を使って:
の二乗が分子にあるから、(すなわち )のあたりで峰值を持つ。分布は右に長い尻尾を引く。
どこに出てくるか
大部分はあまり大きくないが、たまに大きい値が生じるような現象のモデルだ。
- 収入の分布
- 店舗のサービス時間
- 物のサイズ(生物の個体差など)
右に歪んだ分布。中央値は だが、平均はそれより大きい。大きな値が稀にでも混ざると、平均を引き上げる効果が強い。
モーメントは計算できる
分散は を直接求めるより、 から攻める方が簡単になる。
よって、
平均も分散も有限。 が に比例する形で出てくる。
モーメント母関数は存在しない
正規分布にはモーメント母関数があった。でも対数正規分布には存在しない。
この積分は収束しない。分布の右尻尾が指数的に減衰するより速く重いためだ。
コーシー分布と似ている。コーシー分布は期待値が定義できなかったが、対数正規分布は期待値も分散もある。ただモーメント母関数だけは使えない。モーメントの計算は特性関数か、直接の積分に頼る必要がある。
まとめ:対数正規分布の特徴
| 項目 | 内容 |
|---|---|
| 定義 | のとき |
| 値域 | |
| 形 | 右に歪んだ分布 |
| 期待値 | |
| 分散 | |
| モーメント母関数 | 存在しない |
| 由来 | 正規分布に指数変換をしたもの |
F分布の解説
何が起きるか
2つの確率変数 が互いに独立に、それぞれ自由度 のカイ2乗分布 に従うとき、:
カイ2乗分布の比を정리したものがF分布。 は第1自由度、 は第2自由度と呼ぶ。
なぜ「自由度を割る」のか
カイ2乗分布 は 個の独立な標準正規変数の2乗和だから、平均的に 付近の値を取る。 にすることで、「1個あたりの平均的な2乗和」に正規化される。分子と分母の両方を割ることで、比としてのスケールを揃えている。
導出の流れ
の同時確率密度関数は、 と の積:
ここで変数変換:
逆変換は:
ヤコビアンは 。この変換で同時確率密度関数を書き直し、 の周辺分布を積分で求めると、最終的に:
はベータ関数。
期待値と分散
積分から直接求めるのではなく、カイ2乗分布の性質から間接的に計算する。
が大きいほど に近づく。分子と分母の「1個あたりの平均的な2乗和」の比なのだから、本来なら1付近に集中してほしい。 が小さいと分母の揺らぎが大きくて、平均からずれる。
逆にひっくり返すと
分子と分母を入れ替えると、自由度も入れ替わる。これはF分布の定義を正確に覚えておく必要がある箇所だ。
まとめ:F分布の特徴
| 項目 | 内容 |
|---|---|
| 定義 | (独立なカイ2乗変数の比) |
| パラメータ | 第1自由度 、第2自由度 |
| 期待値 | () |
| 分散 | 上記の式() |
| 用途 | 分散の比の検定、ANOVA |
t分布の解説
何が起きるか
、 で独立のとき、:
分子は標準正規、分母はカイ2乗分布を自由度で割ったものの平方根。正規分布の標本平均を、標本標準偏差で割ったときに現れる分布だ。
なぜこれが重要なのか
実際の統計では、母分散 を知らない。知らないのに を使うわけにはいかない。代わりに標本分散 で置き換えると:
この が従うのがt分布だ。母分散を知らないという「不確実性」が、分布の形に反映される。
確率密度関数と性質
| 項目 | 内容 |
|---|---|
| 期待値 | |
| 分散 | () |
| に収束 |
自由度 が大きくなると、標本分散が母分散に近づき、t分布は標準正規分布に近づく。 が小さいときは正規分布より「尻尾が厚い」。不確実性が大きい分、極端な値が起こりやすい。
カイ2乗分布 → F分布 → t分布のつながり
- カイ2乗分布:標準正規変数の2乗和
- F分布:カイ2乗分布の比
- t分布:正規分布をカイ2乗分布の平方根で割ったもの
F分布はカイ2乗を2つ使い、t分布は正規を1つとカイ2乗を1つ使う。すべての土台にはカイ2乗分布がある。
ベータ分布の解説
何が起きるか
、 で独立のとき、:
ガンマ分布2つの和の中の比。尺度母数 が共通だから消え、形状母数 だけが残る。値域は になる。
なぜ「和の中の比」なのか
F分布は と「比」だった。ベータ分布は と「和で割る」。この違いで、値域が から に変わる。
2つのガンマ変数のうち、全体の中でどれくらいの割合を占めるか。这就是ベータ分布が「割合」の分布と呼ばれる所以だ。
確率密度関数
はベータ関数:
なら左に偏り、 なら右に偏り、 なら対称。 なら一様分布 になる。
モーメント
が大きいほど分散が小さくなる。 は「事前確率の強さ」を表すと解釈できる。ベイズ統計では、事前分布としてよく使われる。
ガンマ分布からの導出
を持つ2つのガンマ変数から、ベータ分布を導くには変数変換:
逆変換:
ヤコビアンを計算して、 を積分で消すと、 の周辺分布がベータ分布になる。詳細な計算は省略されるが、思路はF分布と同じ——同時確率密度関数を書き直して、1つ积み消すだけだ。
まとめ:ベータ分布の特徴
| 項目 | 内容 |
|---|---|
| 定義 | (独立なガンマ変数の和の中の比) |
| パラメータ | 形状母数 |
| 値域 | |
| 期待値 | |
| 分散 | |
| 特殊ケース | → 一様分布 |
| 用途 | ベイズ統計の事前分布、確率の確率のモデル |
全体のつながり
- カイ2乗分布:標準正規の2乗。土台
- コーシー分布:正規の比。期待値なし
- 対数正規分布:正規に指数変換。右に歪む
- F分布:カイ2乗の比。分散の検定に
- t分布:正規 ÷ √(カイ2乗/自由度)。母分散未知の検定に
- ベータ分布:ガンマの和の中の比。割合のモデル
すべては正規分布とカイ2乗分布から始まっている。正規分布が2乗されたり、比にされたり、指数変換されたりして、いろいろな分布が生まれる。