バギングとブースティングの違い｜並列か逐次か、減らす誤差の違い

結論

バギングは、ブートストラップサンプリングで作った複数のデータセットでモデルを独立に並列で学習させ、予測を多数決や平均でまとめて、主にバリアンスを減らします。ブースティングは、前のモデルの誤りを次のモデルが補うように弱学習器を順番に学習させ、主にバイアスを減らします。

比較表

バギングとブースティングの違いの比較表
観点	バギング	ブースティング
学習の進め方	並列（各モデルは互いに独立）	逐次（前のモデルの結果を受けて次を学習）
学習データの作り方	ブートストラップサンプリング（重複を許して抽出）	誤ったデータの重みを大きくする（AdaBoost）、それまでの誤差を学習する（勾配ブースティング）
予測のまとめ方	多数決（分類）、平均（回帰）	学習器ごとに重みを付けた多数決や、予測の足し合わせ
主に減らす誤差	バリアンス（学習データによる予測のばらつき）	バイアス（モデルが単純すぎることによる誤差）
組み合わせるモデル	深く育てた決定木など、ばらつきの大きいモデル	浅い決定木など、単独では精度の低い弱学習器
代表的な手法	ランダムフォレスト	AdaBoost、勾配ブースティング（XGBoost、LightGBMなど）
過学習との関係	モデルの数を増やしても、過学習は進みにくい	学習器を増やしすぎると、ノイズに合わせて過学習しやすい
シラバス項目	技術分野項目7 教師あり学習	技術分野項目7 教師あり学習

最終確認日：2026年10月30日

それぞれの説明

バギング

バギングは、bootstrap aggregatingの略で、1996年にブレイマンが提案しました。元の学習データから重複を許してランダムに抜き出すブートストラップサンプリングで、中身が少しずつ違うデータセットを複数作ります。それぞれで同じ種類のモデルを独立に学習させ、分類なら多数決、回帰なら平均で予測をまとめます。

深く育てた決定木のように、学習データが少し変わるだけで予測が大きく変わるモデルと組み合わせると効果が出ます。個々の予測のばらつきが平均で打ち消し合い、全体の予測が安定するからです。各モデルは独立しているので、並列に学習できます。ランダムフォレストは、分岐ごとに使う特徴量の候補も無作為に絞り込み、決定木どうしが似るのを防いだ発展形です。

ブースティング

ブースティングは、単独では精度の低い弱学習器を1つずつ追加し、前のモデルが苦手としたデータを次のモデルが重点的に学ぶ手法です。AdaBoostは、誤って予測したデータの重みを大きくして次の学習器を学習させ、最後は精度の高い学習器ほど重く数える多数決で予測します。勾配ブースティングは、それまでの予測の誤差を減らす方向を、次の決定木に学習させます。

単純なモデルを積み重ねて表現力を補うので、主にバイアスを減らします。一方、前の誤りに合わせ続けるため、ノイズの多いデータでは過学習しやすくなります。学習率や学習器の数は、検証データでの性能を見ながら調整します。

学習器を順に追加するので、学習器単位では並列化できません。XGBoostやLightGBMは、勾配ブースティングを高速に計算できるよう工夫した実装で、表形式のデータの予測で広く使われています。

見分けるコツ

「並列のバギング、逐次のブースティング」で覚えます。前のモデルの誤りを次のモデルが補う、という説明があればブースティングです。
手法名だけが示される選択肢では、系統で判断します。ランダムフォレストはバギング系、XGBoostやLightGBMなどの勾配ブースティングはブースティング系です。
減らす誤差で整理します。予測のばらつき（バリアンス）を平均で打ち消すのがバギング、単純さによる誤差（バイアス）を積み重ねで補うのがブースティングです。

◯×チェック

3問

次の文が正しいか、誤りかを選んでください。

ブースティングでは、各弱学習器を互いに独立に学習できるため、バギングと同じように、学習器どうしを同時に並列で学習しやすい。

答えを見る

答え × 誤り

ブースティングは、前の学習器の誤りをもとに次の学習器を学習するため、学習器の追加は順番に行う必要があります。学習器どうしを並列に学習しやすいのは、各モデルが独立したバギングです。
AdaBoostでは、前の弱学習器が正しく予測できたデータほど、次の弱学習器の学習で大きな重みを付ける。

答えを見る

答え × 誤り

大きな重みを付けるのは、誤って予測したデータです。苦手なデータを次の学習器に重点的に学ばせることで、誤りを順に減らしていきます。
バギングでまとめるモデルどうしの予測が互いに似ているほど、平均によって予測のばらつきを減らす効果は小さくなる。

答えを見る

答え ◯ 正しい

同じような予測を平均しても、ばらつきはあまり打ち消し合いません。ランダムフォレストが分岐ごとに特徴量の候補を絞るのは、木どうしを似せないためです。

出典

G検定試験出題範囲（シラバス2024）第1.4版（技術分野項目7 教師あり学習） 2026年10月30日閲覧
Leo Breiman, Bagging Predictors, Machine Learning 24(2), 123–140 (1996) 2026年10月30日閲覧
Yoav Freund, Robert E. Schapire, A Decision-Theoretic Generalization of On-Line Learning and an Application to Boosting, Journal of Computer and System Sciences 55(1), 119–139 (1997) 2026年10月30日閲覧
Jerome H. Friedman, Greedy Function Approximation: A Gradient Boosting Machine, The Annals of Statistics 29(5), 1189–1232 (2001) 2026年10月30日閲覧
scikit-learn User Guide, Ensembles: Gradient boosting, random forests, bagging, voting, stacking 2026年10月30日閲覧

作成：ウカトレ編集部（AIで作成し、別のAIが一次資料と照合）人による確認：未最終確認日：2026年10月30日対応シラバス：シラバス第1.4版技術7

誤りを報告

ほかの違い比較

違い比較の一覧