投資のためのデータサイエンス

個人の投資活動に役立つデータ分析にまつわる話題を綴ります。

統計学の基本数式 (5) モーメント母関数

データサイエンス未分類

中心極限定理へ進む前に、モーメント母関数について記述しておく必要がある。

確率変数Xが与えられたとき、その確率密度関数をf(x)とする。以下の量（ここでは連続の確率変数とする）：

$E(X^k )=\int _{-\infty}^{\infty} x^k f(x)dx$

は、Xのk次モーメントと呼ばれる。

「モーメント母関数」は、確率変数Xの全てのモーメントを変数tの単一のべき級数にまとめるすぐれた方法である。これは以下のように定義される：

$M_X (t) = E(e^{Xt} ) = E\Big( \sum_{k=0}^\infty \frac{X^k t^k}{k!} \Big)$

期待値をとるという面からtを定数とみなせば、期待値の線形性より以下のようになる：

$E(e^{Xt} ) =\sum_{k=0}^\infty \frac{E(X^k) t^k}{k!}$

それゆえ、tのべき乗の係数はモーメントをkの階乗で割ったものとなる。

モーメント母関数をk回微分してt=0とおけば、k次のモーメントが得られる：

$\big( \frac{d}{dt} \big) ^k M_X (t)\biggm| _{t=0} = k\mathrm{th\ moment\ of\ } X$

（例１）パラメータpのベルヌイ分布のモーメント母関数は以下のようになる：

$M_X (t) = E(e^{Xt} ) = e^{0\cdot t} (1-p)+ e^{1\cdot t}p=pe^t + 1-p$

ベルヌイ分布の確率変数Xは0と1しかとらない。つまり $X^k =X$ なので、Xのk次のモーメント $(k\geq1)$ は最初のモーメント（すなわちp）に等しい。実際、モーメント母関数をk回微分すると $pe^t$ となり、t=0を代入するとpとなる。

（例２）分散 $\sigma ^2$ 、平均 $\mu =0$ の正規分布：

$f(x) = \frac{1}{\sqrt{2\pi} \sigma} e^{-x^2 /2\sigma ^2}$

のモーメント母関数は以下のようになる：

$M_X (t) = E(e^{Xt} ) = \int_{-\infty}^{\infty} e^{xt} \frac{1}{\sqrt{2\pi} \sigma} e^{-x^2 / 2\sigma ^2} dx$

$= \int_{-\infty}^{\infty} \frac{e^{-(1/2\sigma ^2)(x^2 -2\sigma ^2 tx)}}{\sqrt{2\pi} \sigma} dx$

上の式の最後の部分の分子の２番目のカッコの中の平方を完成させ、xと関係ない部分を積分の外に出すと以下のようになる：

$M_X(t) = \frac{1}{\sqrt{2 \pi} \sigma} \int_{-\infty}^{\infty} e^{-(1/2 \sigma ^2)((x-\sigma ^2 t)^2 -\sigma ^4 t^2)} dx$

$= e^{\sigma ^2 t^2 /2} \Big( \int _{-\infty}^{\infty} \frac{1}{\sqrt{2\pi }\sigma} e^{-(x-\sigma ^2 t)^2 /2\sigma ^2} dx \Big)$

上の最後の式のカッコの中は、正規分布 $N(\sigma ^2 t, \sigma^2)$ の全区間にわたる積分なので1になる。したがって：

$M_X (t) = e^{\sigma ^2 t^2 /2}$

となる。

（モーメント母関数の一意性） $X,Y$ が、変数tの区間 $[-\delta, \delta$ ]上に存在するモーメント母関数 $M_X (t), M_Y (t)$ （それぞれ）を持つ確率変数であるとする。もし、

$M_X (t)=M_Y (t), \mathrm{\ for\ all \ } t \in [-\delta, \delta\$ ]

ならば、XとYは同じ累積分布を持つ。つまり、全ての実数aについて、 $P(X\leq a)=P(Y\leq a)$ が成立つ。