機械学習モデルを学習させるとき、多くの現場で採用されているのが確率的勾配降下法です。
この手法は効率的にパラメータを更新できる一方で、条件を誤ると収束しなかったり、学習が不安定になったりすることがあります。
本記事では確率的勾配降下法の収束条件は？学習率の設定方法も、というテーマに沿って、収束性やステップサイズ、減衰の考え方まで丁寧に解説していきます。
数式だけを追うと難しく感じてしまう分野ですが、できるだけかみ砕いた表現でお伝えします。
学習率の決め方一つでモデルの精度が大きく変わるため、実務でSGDを扱う方にとって欠かせない内容です。
最後まで読んでいただければ、収束条件の本質と学習率設定の実践的なコツがつかめるはずです。
確率的勾配降下法の収束条件を先に結論としてお伝えします
それではまず確率的勾配降下法の収束条件について解説していきます。
結論から言うと、確率的勾配降下法が収束するためには学習率の合計が発散し、かつ学習率の二乗和が有限であるという条件を満たす必要があります。
これはロビンス モンロー条件と呼ばれるもので、SGDの理論的な収束性を支える土台です。
学習率を適切に減衰させながら小さくしていくことが、安定した収束への近道といえるでしょう。
収束条件の基本的な考え方
確率的勾配降下法は、真の勾配ではなくサンプルごとに推定した勾配を使ってパラメータを更新します。
そのため更新のたびにノイズが混ざり、通常の勾配降下法よりも不安定になりやすい性質を持っています。
それでも学習率を適切にコントロールすれば、期待値としては最適解へと近づいていきます。
この「期待値として収束する」という考え方こそが、SGDの収束条件を理解するうえでの出発点です。
学習率とステップサイズの関係
学習率とステップサイズは、ほぼ同じ意味で使われることが多い用語です。
どちらもパラメータをどれだけ大きく動かすかを決める係数を指しています。
ステップサイズが大きすぎれば最適解を飛び越えてしまい、小さすぎれば学習が遅すぎて実用的な時間内に収束しません。
ちょうど良い塩梅を見つけることが、SGD運用における永遠のテーマともいえます。
減衰スケジューリングとの関わり
収束条件を満たすためには、学習率を固定するのではなく徐々に減衰させる設計が推奨されます。
学習の初期は大きく動いて探索し、終盤は小さく動いて微調整するというイメージです。
この減衰の設計方法については、後ほど詳しく取り上げます。
確率的勾配降下法の収束条件は、学習率の総和が無限大に発散すること、そして学習率の二乗の総和が有限であることの二つです。
この二条件を同時に満たすためには、学習率を回数に応じて緩やかに減衰させる設計が欠かせません。
そもそも確率的勾配降下法とは何かを整理します
続いては確率的勾配降下法そのものの仕組みを確認していきます。
収束条件を理解するためには、まずSGDがどのような手順で最適化を行っているかを押さえておく必要があるでしょう。
勾配降下法との違い
通常の勾配降下法は、全データを使って計算した勾配でパラメータを更新します。
一方の確率的勾配降下法は、ランダムに選んだ一部のデータだけで勾配を近似します。
計算コストが大幅に下がる代わりに、勾配の推定にノイズが乗ってしまう点が大きな違いです。
データ量が膨大な現代の機械学習では、この計算効率の高さが重宝されています。
ミニバッチ学習とオンライン学習
実務でよく使われるのは、一件ずつ処理するオンライン学習ではなく、少数のサンプルをまとめて処理するミニバッチ学習です。
ミニバッチ化することで、ノイズを抑えつつ計算の並列化もしやすくなります。
バッチサイズの選び方も、実は収束性に影響を与える重要な要素なのです。
SGDが使われる代表的な場面
深層学習モデルの学習では、ほとんどの場合SGDまたはその派生手法が使われています。
画像認識、自然言語処理、レコメンドシステムなど、応用範囲は非常に広いです。
大規模データセットを扱う場面ほど、SGDの計算効率の恩恵を受けやすいといえるでしょう。
勾配降下法の更新式は次のように表されます。
θ(t+1) = θ(t) − η × ∇L(θ(t))
ここでηが学習率、∇L(θ)が損失関数の勾配です。
確率的勾配降下法では、この∇L(θ)を全データではなく一部のサンプルから推定した値に置き換えます。
確率的勾配降下法の収束条件を数式で理解します
続いては収束条件をもう少し数式レベルで確認していきます。
専門的な内容ですが、要点だけを押さえれば十分理解できる範囲です。
目的関数の凸性と収束性
損失関数が凸関数である場合、SGDは適切な条件下で大域最適解に収束することが理論的に保証されています。
一方、深層学習で扱う損失関数の多くは非凸関数です。
非凸関数の場合は大域最適解ではなく、局所解や鞍点に落ち着く可能性がある点に注意が必要でしょう。
それでも実用上は十分な性能を発揮できるケースが多い
ステップサイズの条件(ロビンス モンロー条件)
先ほど結論部分で触れた収束条件を、もう少し詳しく整理します。
一つ目は、各ステップの学習率η(t)を無限に足し合わせると発散するという条件です。
二つ目は、η(t)の二乗を無限に足し合わせると有限の値に収まるという条件です。
この二つを同時に満たす代表例が、η(t) = 1/t のような減衰型の学習率設計です。
収束条件を数式で表すと以下の通りです。
条件1 Σ η(t) = ∞（tは1から無限大まで）
条件2 Σ η(t)^2 < ∞（tは1から無限大まで）
この両方を満たすことで、確率的な揺らぎを抑えながら最適解に近づいていくことができます。
収束性を左右する分散とノイズ
SGDの更新には、サンプリングに由来する分散が常に含まれています。
この分散が大きいほど、パラメータの動きは不安定になりやすいです。
バッチサイズを大きくすればノイズは減りますが、計算コストとのトレードオフが生じます。
どこまでノイズを許容するかは、モデルの性質やデータの特性によって変わってくるでしょう。
学習率の設定方法とステップサイズの決め方
続いては本題である学習率の設定方法について確認していきます。
理論的な収束条件を踏まえつつ、実務でどう設定すればよいかを見ていきましょう。
固定学習率のメリットとデメリット
学習率を固定する方法は、実装がシンプルで扱いやすい点が魅力です。
ただし固定学習率だけでは、先述の収束条件のうち二つ目の条件を満たせません。
そのため理論上は最適解の周辺で振動し続け、完全には収束しない可能性があります。
実務では学習の初期段階のみ固定学習率を使い、途中から減衰させる運用が一般的です。
学習率減衰のパターン
学習率を減衰させる方法にはいくつかの代表的なパターンがあります。
以下の表に主な手法とその特徴をまとめました。
| 減衰方式 | 更新の考え方 | 特徴 | 向いている場面 |
|---|---|---|---|
| ステップ減衰 | 一定エポックごとに学習率を掛け算で下げる | 実装が簡単で挙動が分かりやすい | 学習曲線を見ながら手動調整したい場合 |
| 指数減衰 | エポック数に応じて指数関数的に減らす | 滑らかに減衰し急激な変化が少ない | 長時間の学習を安定させたい場合 |
| 逆数減衰 | 1/tのように反比例させて減らす | 収束条件を満たしやすい理論的な方式 | 理論的な収束保証を重視する場合 |
| コサインアニーリング | コサイン曲線に沿って滑らかに減衰させる | 終盤で緩やかに小さくなり微調整しやすい | 深層学習の学習後半を安定させたい場合 |
| ウォームアップ併用型 | 序盤に学習率を上げてから減衰させる | 初期の発散を防ぎやすい | 大規模モデルや大きなバッチサイズを使う場合 |
どの減衰方式が最適かは、モデルの規模やデータの特性によって異なります。
迷った場合は、まずステップ減衰かコサインアニーリングから試してみるのがおすすめです。
適応的な学習率調整手法
近年はAdamやRMSprop、Adagradといった、パラメータごとに学習率を自動調整する手法も広く使われています。
これらは過去の勾配情報を利用して、学習率を動的に変化させる仕組みを持っています。
手動でのチューニングの手間が減る一方、収束条件の解釈がやや複雑になる点には注意が必要でしょう。
実務ではまずAdamを試し、うまくいかない場合にSGDと減衰の組み合わせを検討する、という流れも多く見られます。
学習率の設定に迷ったら、固定値ではなく減衰スケジュールを前提に設計することをおすすめします。
初期は大きめ、終盤は小さめという流れを意識するだけで、収束の安定性は大きく向上します。
収束しない、不安定になる原因と対処法
続いては学習がうまく収束しない場合の原因と対処法を確認していきます。
理論だけでなく、実際のトラブルシューティングに役立つ視点をまとめました。
学習率が大きすぎる場合の発散
学習率が大きすぎると、パラメータの更新幅が過剰になり、損失関数の値がかえって増加してしまうことがあります。
このような状態を発散と呼びます。
損失が学習の途中でNaNになったり、急激に跳ね上がったりする場合は、学習率を疑ってみるべきでしょう。
対処法としては、学習率を一桁小さくする、あるいはウォームアップを導入するといった方法が有効です。
学習率が小さすぎる場合の停滞
逆に学習率が小さすぎると、パラメータがほとんど動かず、学習が停滞してしまいます。
損失がなかなか下がらない、あるいは下がるスピードが極端に遅い場合はこのケースが疑われます。
局所的な停滞なのか、それとも学習率設定そのものの問題なのかを切り分けることが重要です。
学習率を少しずつ大きくしながら様子を見る、という地道な調整が求められます。
バッチサイズやノイズの影響
バッチサイズが小さいと勾配のノイズが大きくなり、収束が不安定になりやすいです。
反対にバッチサイズを大きくしすぎると、汎化性能が下がってしまうという指摘もあります。
学習率とバッチサイズは密接に関係しており、バッチサイズを大きくする場合は学習率も比例して大きくするという経験則が知られています。
この関係性を意識しながら調整すると、収束条件を満たしやすい設定にたどり着けるでしょう。
目安となる経験則の一つに、線形スケーリングルールがあります。
バッチサイズをk倍にする場合、学習率もおおよそk倍にするという考え方です。
ただし急激な学習率の上昇は発散のリスクを高めるため、ウォームアップと組み合わせるのが一般的です。
まとめ
今回は確率的勾配降下法の収束条件は？学習率の設定方法も、というテーマで解説してきました。
SGDが収束するためには、学習率の総和が発散し、かつ学習率の二乗和が有限であるという条件を満たす必要があります。
実務ではこの理論を踏まえつつ、ステップ減衰や指数減衰、コサインアニーリングといった具体的な学習率スケジュールを活用することが大切です。
学習率が大きすぎれば発散し、小さすぎれば停滞するというバランス感覚も欠かせません。
バッチサイズとの関係性も含めて総合的に調整することで、より安定した学習が実現できるはずです。
理論と実践の両面から学習率を見直すことが、確率的勾配降下法を使いこなす一番の近道といえるでしょう。
