過学習

過学習（Overfitting）とは、機械学習モデルが訓練データに対して過剰に適合してしまい、未知のデータに対する予測性能が低下する現象です。このページでは、原因、見分け方、対策、よくある誤解を解説します。

過学習とは（意味・定義）

過学習とは、機械学習モデルが訓練データに対して過剰に適合してしまい、未知のデータに対する予測性能が低下する現象を指します。モデルが訓練データに含まれるノイズや異常値まで学習してしまうことが原因で、汎化能力が失われることが問題となります。

主な原因

データの量や質が関わる問題については学習用データ、モデル側の複雑さはハイパーパラメータの記事もあわせてご覧ください。

見分け方

訓練データに対する性能は高いのに、検証データに対する性能が低い場合は、過学習が発生している可能性が高いと判断できます。交差検証では、データを複数のグループに分割し、一部を訓練データ、残りを検証データとして使用します。このプロセスを繰り返すことで、モデルの汎化性能をより正確に評価できます。また、学習の進行を学習曲線で観察することも有効です。

対策

• モデルの複雑さを適切に調整する：ニューラルネットワークであれば層の数を減らし、決定木であれば分岐の深さを制限する
• 訓練データを増やす：データ量を増やすことで、より一般的なパターンを学習し、ノイズに影響されにくくなる
• 正則化を行う：モデルのパラメーターに制約を加えて複雑さを抑え、汎化性能を高める
• ドロップアウトを使う：学習時に一部のニューロンを無効化し、特定の経路への依存を減らす

関連する手法としてドロップアウトやデータ拡張も広く用いられます。詳しい内容はドロップアウトの記事もあわせてご覧ください。

正則化の考え方

正則化は、モデルのパラメーターに制約を加えることで、複雑なモデルを抑制し、汎化性能を高める効果があります。

なぜ「汎化」が重要なのか

機械学習の目的は、学習に使ったデータだけでなく、未知のデータに対しても正しく予測できることです。この能力を汎化性能と呼びます。過学習はこの汎化性能を損なうため、モデルの見た目の精度が高くても、実運用では役に立たないという事態につながります。

訓練と検証のギャップをみる

過学習かどうかは、訓練データと検証データの性能差で判断するのが基本です。訓練では高精度なのに検証で精度が伸びないなら、モデルが訓練データの細部を覚えてしまっている可能性があります。

アンダーフィッティングとの違い

過学習とは逆に、モデルが単純すぎて訓練データにさえ十分に適合できない状態をアンダーフィッティングと呼びます。両者は表裏の関係にあり、モデルの複雑さを適切な水準に保つことが求められます。

よくある誤解

誤解：訓練データでの精度が高ければよいモデルである

実際は：訓練データでの精度が高くても、未知のデータで性能が低ければ過学習です。検証データでの評価が重要です。

誤解：データを増やせば必ず解決する

実際は：データ量の確保は有効ですが、モデルの複雑さの調整や正則化など、あわせた対策が必要な場合があります。

誤解：過学習はモデルが学習しすぎたときだけ起きる

実際は：モデルの複雑さ、データの量や偏りなど、複数の要因が重なって起こります。

FAQ（よくある質問）

Q. 過学習とアンダーフィッティングの違いは？

A. 過学習は訓練データに適合しすぎる状態、アンダーフィッティングは訓練データにも十分適合できていない状態です。

Q. 過学習を早く見つける方法は？

A. 学習曲線を観察し、訓練データと検証データの性能差を継続的に確認します。

Q. 手軽に試せる対策は？

A. 正則化やドロップアウトの導入、データ量の確保、モデルの複雑さの抑制が代表的です。

関連用語

• アンダーフィッティング — 過学習の反対に位置する状態
• 学習曲線 — 過学習を判断する手がかり
• ドロップアウト — 過学習を抑える代表的な手法

用語の一覧はAI用語辞典トップからたどれます。実際のツール比較はAIツール一覧をご覧ください。

参考出典

• Google Cloud「生成 AI の用語集」: docs.cloud.google.com
• Salesforce「AI用語虎の巻」: salesforce.com