最尤推定値の計算例は？具体的な求め方を解説！（正規分布の平均・分散・二項分布・指数分布・実際の計算など）

統計学を学んでいると、必ずといっていいほど出会うのが最尤推定という考え方です。

教科書を読んでも数式ばかりが並んでいて、結局何をしているのか分からないという声をよく耳にします。

特に最尤推定値の計算例を実際に手を動かして確認したことがないと、公式だけを暗記する形になってしまいがちです。

この記事では、最尤推定の基本的な考え方から、正規分布や二項分布、指数分布といった代表的な確率分布における具体的な計算例までを、順を追って解説していきます。

データサイエンスや機械学習の分野でも土台となる知識ですので、この機会にしっかりと理解を深めていただければと思います。

数式が苦手な方でも読み進められるよう、できるだけ丁寧に手順を追いながら説明していきます。

最尤推定値の計算例における結論、尤度関数を最大化するパラメータを求めることがすべての基本です

それではまず、最尤推定値の計算とは何を目指す作業なのかについて解説していきます。

結論からお伝えすると、最尤推定とは観測されたデータが最も起こりやすくなるようなパラメータを探し出す手法です。

つまり、得られたデータを説明するのに一番都合の良い母数、いわゆる母集団のパラメータを逆算する作業といえます。

この一番都合の良いパラメータを求めるために使われるのが尤度関数です。

尤度関数とは、あるパラメータのもとでそのデータが観測される確率、または確率密度を表す関数のことです。

対数を取る理由は、掛け算の形になっている尤度関数を足し算の形に変換できるため、微分の計算が格段に楽になるからです。

対数関数は単調増加関数ですので、尤度を最大化することと対数尤度を最大化することは数学的に同じ意味を持ちます。

この性質があるからこそ、複雑な同時確率の掛け算を、扱いやすい和の形に変形できるわけです。

最尤推定値を求める際には、微分してイコール0とする方程式を解くことになりますが、これを尤度方程式と呼びます。

この基本的な流れさえ押さえておけば、どの確率分布であっても同じ手順で計算を進められるでしょう。

次の見出し以降で、実際の分布ごとに具体的な計算例を確認していきます。

正規分布における最尤推定値の計算例

続いては、正規分布における最尤推定値の求め方を確認していきます。

正規分布は自然界や社会現象の多くに当てはまるとされる、非常に重要な確率分布です。

身長やテストの点数、測定誤差など、幅広い場面で正規分布が仮定されることをご存知の方も多いのではないでしょうか。

正規分布の確率密度関数と尤度関数の設定

正規分布の確率密度関数は、平均をμ、分散をσ二乗として表されます。

n個の独立な観測データが得られたとすると、その同時確率密度はそれぞれの確率密度関数の積になります。

この式のままでは掛け算が続いてしまい、微分計算がとても煩雑になってしまいます。

そこで対数を取り、対数尤度関数に変換する作業が必要になるわけです。

対数尤度関数を用いた平均の推定値の導出

対数尤度関数は、指数部分の掛け算が和の形になるため計算がぐっと簡単になります。

この式をμについて偏微分し、0と置くことで平均の最尤推定値を求めます。

計算を進めると、μの最尤推定値は観測データの標本平均と一致することが分かります。

つまり、直感的に求めていた平均値の計算方法が、実は最尤推定という理論的な裏付けを持っていたということです。

この結果は多くの方にとって意外に感じられるかもしれませんが、統計学における重要な事実の一つといえるでしょう。

分散の最尤推定値と不偏分散の違い

次にσ二乗について偏微分し、0と置くことで分散の最尤推定値を求めます。

ここで注意していただきたいのが、最尤推定によって求められた分散の推定値は、標本分散をnで割った形になるという点です。

統計学の授業で習う不偏分散はn－1で割る形をとりますが、最尤推定値はnで割るため、両者にはわずかな違いが生じます。

推定量	計算式	特徴
最尤推定量の分散	Σ（xi－平均）二乗／n	バイアスを持つ、n乗した分だけ小さめに出る
不偏分散	Σ（xi－平均）二乗／（n－1）	期待値が母分散と一致する

サンプルサイズが大きくなればなるほど、この2つの差はほとんど無視できる程度になっていきます。

この違いを理解しているかどうかで、統計処理の正確さが大きく変わってくるでしょう。

二項分布における最尤推定値の計算例

続いては、二項分布における最尤推定値の求め方を確認していきます。

二項分布はコイン投げや世論調査など、成功か失敗かの2択を繰り返す試行において登場する分布です。

二項分布の尤度関数の立て方

n回の試行のうちk回成功したとき、成功確率pを求める最尤推定を考えてみます。

nCkの部分はpに依存しない定数ですので、最尤推定値を求める際には無視しても結果に影響しません。

この点も計算をシンプルにするための重要なポイントです。

対数尤度の微分によるpの最尤推定値

尤度関数の対数を取ると、logL＝klogp＋（n－k）log（1－p）＋定数という形になります。

この式をpについて微分し、0と置いて解くと、pの最尤推定値はk／nとなります。

これはつまり、観測された成功回数の割合そのものが最尤推定値になるということです。

コインを10回投げて7回表が出た場合、成功確率pの最尤推定値は0.7になります。

直感的にも納得しやすい結果ではないでしょうか。

実際の数値を使った計算シミュレーション

具体例として、100人にアンケートを取り、60人が商品Aを支持したケースを考えてみます。

試行回数n	成功回数k	最尤推定値p
10	7	0.7
50	30	0.6
100	60	0.6

サンプルサイズが増えても支持率が変わらなければ、推定値そのものは同じ水準に収束していきます。

ただし、サンプルサイズが大きいほど推定値の信頼性、いわゆる分散の小ささは向上する点も押さえておきたいところです。

指数分布における最尤推定値の計算例

続いては、指数分布における最尤推定値の求め方を確認していきます。

指数分布は、機械の故障までの時間や、次の顧客が来店するまでの待ち時間など、連続的な時間の間隔をモデル化する際によく使われる分布です。

指数分布の確率密度関数と尤度関数

指数分布の確率密度関数はf（x）＝λexp（－λx）と表されます。

λは母数であり、平均的な発生率を表すパラメータです。

この式に対しても、これまでと同様に対数を取って計算を進めていきます。

対数尤度関数からλの最尤推定値を導く

対数尤度関数はlogL＝nlogλ－λΣxiという形になります。

この式をλについて微分し、0と置いて解くと、λの最尤推定値は1／xバー、つまり標本平均の逆数になります。

待ち時間の平均が長ければ長いほど、発生率λの推定値は小さくなるという直感とも一致する結果です。

この関係性は、実務でシステムの故障率を見積もる際などにそのまま応用できます。

具体的な数値例で理解する指数分布の推定

例えば、あるコールセンターで顧客からの問い合わせ間隔を5件測定したとします。

測定値がそれぞれ2分、3分、5分、4分、6分だったとしましょう。

この数値を使えば、次の問い合わせが来るまでの期待時間や、一定時間内に問い合わせが発生する確率なども計算可能になります。

指数分布の最尤推定は、待ち行列理論や信頼性工学の分野でも幅広く活用されている手法です。

最尤推定値の計算で押さえておきたい注意点とよくあるつまずき

続いては、最尤推定値を計算する際に注意しておきたいポイントを確認していきます。

最尤推定は非常に強力な手法ですが、いくつかの落とし穴も存在します。

尤度方程式が解析的に解けないケース

正規分布や二項分布、指数分布のように解析的に解ける分布ばかりではありません。

ガンマ分布やワイブル分布など、パラメータが複数絡み合う複雑な分布では、微分方程式を手計算で解くことが難しい場合があります。

そうしたケースでは、数値計算による近似解法を用いることが一般的です。

ニュートン法やEMアルゴリズムといった反復計算の手法が使われることも多いでしょう。

局所最適解と大域最適解の違いに注意

尤度関数が複雑な形をしている場合、微分が0になる点が複数存在することもあります。

その中には局所的な最大値であって、全体で見ると最大ではない点が紛れ込んでいる可能性があります。

数値計算で最尤推定値を求める際には、初期値の設定によって結果が変わってしまうリスクがある点に注意が必要です。

複数の初期値から計算を行い、結果を比較検討することが望ましいでしょう。

サンプルサイズと推定値の精度の関係

最尤推定値には、サンプルサイズが大きくなるにつれて真の値に近づいていくという一致性という性質があります。

しかし、サンプルサイズが小さいうちは、推定値にばらつきが生じやすくなる点も理解しておく必要があります。

性質	内容
一致性	サンプルサイズを増やすと真の値に収束する
漸近的な正規性	サンプルサイズが大きいとき推定値の分布が正規分布に近づく
有効性	他の推定量と比べて分散が最小になる傾向がある

これらの性質を理解しておくことで、限られたデータから得た推定値をどこまで信頼してよいのか、判断がしやすくなるはずです。

最尤推定値の計算例を実務やデータ分析にどう活かすか

続いては、最尤推定値の考え方を実際の業務や分析にどう応用できるかを確認していきます。

最尤推定は理論だけの話ではなく、機械学習やビジネス分析の現場で日常的に活用されている手法です。

機械学習モデルのパラメータ推定への応用

ロジスティック回帰やナイーブベイズ分類器など、多くの機械学習アルゴリズムの内部では最尤推定の考え方が使われています。

モデルの重みやバイアスといったパラメータを、学習データに対する尤度を最大化するように調整していく仕組みです。

この最適化には勾配降下法などの数値計算手法が組み合わされることが一般的です。

最尤推定の基礎を理解しておくと、こうした機械学習モデルの内部動作を深く理解する助けになるでしょう。

ビジネスデータ分析における活用シーン

マーケティングの分野では、顧客のコンバージョン率を二項分布で、購入までの時間間隔を指数分布でモデル化することがあります。

製造業では、部品の寸法のばらつきを正規分布で表現し、品質管理の基準値を最尤推定によって決定するケースも見られます。

このように、業種を問わず幅広い場面で最尤推定の考え方が根底に流れているのです。

統計ソフトやプログラミング言語での実装方法

実際の分析現場では、手計算で最尤推定値を求めることはあまり多くありません。

PythonやRといったプログラミング言語には、最尤推定を自動で行ってくれる便利な関数が用意されています。

ただし、ツールがどのような計算をしているのかという理論的な背景を理解しておくことは、結果を正しく解釈する上で欠かせません。

ブラックボックスとして使うのではなく、仕組みを知った上で活用することが理想的といえるでしょう。

まとめ

今回は、最尤推定値の計算例について、正規分布や二項分布、指数分布といった具体的な分布を通して解説してきました。

最尤推定とは、観測されたデータが最も起こりやすくなるようなパラメータを求める手法であり、尤度関数を対数変換して微分することで最尤推定値が導かれます。

正規分布では平均が標本平均に、分散が標本分散をnで割った値になり、二項分布では成功確率が観測された割合に、指数分布では母数が標本平均の逆数になるという結果を確認しました。

いずれの計算例にも共通しているのは、尤度関数を立て、対数を取り、微分して0と置くというシンプルな流れです。

複雑に見える最尤推定も、一つひとつの手順を丁寧に追っていけば決して難しいものではありません。

ぜひ今回ご紹介した計算例を参考に、実際の手を動かした学習に取り組んでみてください。

理論と実践の両方を積み重ねることで、統計学への理解はより一層深まっていくはずです。