1行定義
ディープラーニングとは、多数の層を重ねたニューラルネットワークを使い、予測や判断に役立つ特徴をデータから自動で学習する機械学習の手法のことです。
試験範囲としての全体像はシラバス項目『ディープラーニング』の要点まとめで整理しています。
くわしく
ディープラーニング(深層学習)は、ニューラルネットワークの層を何層にも深く重ねた機械学習の手法です。画像認識、音声認識、機械翻訳、生成AIなど、現在のAIの多くを支えています。
何が新しいのか
従来の機械学習では、データのどこに注目するか(特徴量)を人が設計し、その良しあしが精度を左右していました。ディープラーニングでは、特徴量そのものもデータから学びます。画像の例では、入力に近い層が線や色の変化のような単純な特徴をとらえ、深い層ほどそれらを組み合わせて、目や車輪のような複雑な特徴を表すようになります。学習には、出力の誤差を各層にさかのぼって伝え、重みを調整する誤差逆伝播法を使います。
発展の経緯
ニューラルネットワークの研究は、1940年代の形式ニューロンや、1958年に提案されたパーセプトロンにさかのぼります。しかし層を深くすると、勾配消失問題などで学習がうまく進みませんでした。2006年にヒントンらが、層ごとに事前学習してから全体を調整する方法を示し、深いネットワークを学習させる道を開きました。
大きな転機は2012年です。画像認識の競技会ILSVRCで、ヒントンの研究室のチームが開発したAlexNetが、2位に大差をつけて優勝しました。AlexNetでも使われたReLU関数やドロップアウト、その後のバッチ正規化などの工夫に、GPUによる計算の高速化と大規模なデータセットが加わり、急速に広まりました。
課題
性能を引き出すには、大量のデータと計算資源が必要です。また、内部の計算が複雑で、判断の根拠を人が理解しにくいブラックボックスの問題があります。
位置づけ
ディープラーニングは機械学習の一部で、機械学習は人工知能の一部です。ディープラーニングを使わないAIも数多くあります。
覚え方
「深い層が、特徴まで自分で学ぶ」と覚えます。
G検定での出題
- シラバス項目『人工知能の定義』の要点まとめ練習問題 7問技術1大項目:人工知能とは
- シラバス項目『ディープラーニング』の要点まとめ練習問題 8問技術6大項目:人工知能をめぐる動向
- シラバス項目『ニューラルネットワークとディープラーニング』の要点まとめ練習問題 7問技術11大項目:ディープラーニングの概要
出題のされ方
機械学習との包含関係、特徴量を人が設計せずに学習できる点、2012年のILSVRCでの躍進などの発展の経緯、大量のデータと計算資源が必要な点や判断の根拠を説明しにくいという課題が問われます。
混同しやすい用語
| 用語 | 意味 |
|---|---|
| ディープラーニングこのページの用語 | 多数の層を重ねたニューラルネットワークを使い、予測や判断に役立つ特徴をデータから自動で学習する機械学習の手法 |
| 機械学習 | 人がルールを1つずつ書く代わりに、コンピュータがデータから規則性やパターンを学び、予測や判断に使えるようにする技術 |
違いを表で比べる
◯×チェック
次の文が正しいか、誤りかを選んでください。
-
2012年のILSVRCでは、ディープラーニングを使ったチームが、従来の手法を使ったチームに比べて誤り率を大きく下げて優勝した。
答えを見る
答え ◯ 正しい
トロント大学のチームのAlexNetが、上位5位までに正解が入らない誤り率で約15%を記録し、2位の約26%を大きく引き離しました。
-
ディープラーニングは、層の数が多いほど、少ないデータでも過学習を起こさずに高い精度が得られる。
答えを見る
答え × 誤り
層を深くするとパラメータが増え、データが少ないと過学習しやすくなります。大量のデータに加え、正則化やデータ拡張、事前学習済みモデルの利用が重要です。
-
ディープラーニングのモデルは内部の計算が複雑なため、なぜその予測になったのかを人が理解しにくいという課題がある。
答えを見る
答え ◯ 正しい
ブラックボックス問題と呼ばれます。Grad-CAMやSHAPなど、判断の根拠を可視化・説明する説明可能AI(XAI)の手法が研究されています。
この用語の練習問題
出典
- G検定 試験出題範囲(シラバス2024)第1.4版 (技術分野 項目1 人工知能の定義)
- G検定 試験出題範囲(シラバス2024)第1.4版 (技術分野 項目6 ディープラーニング)
- G検定 試験出題範囲(シラバス2024)第1.4版 (技術分野 項目11 ニューラルネットワークとディープラーニング)
- Yann LeCun, Yoshua Bengio, Geoffrey Hinton, Deep learning, Nature 521, 436–444 (2015)
- G. E. Hinton, R. R. Salakhutdinov, Reducing the Dimensionality of Data with Neural Networks, Science 313(5786), 504–507 (2006)
- Alex Krizhevsky, Ilya Sutskever, Geoffrey E. Hinton, ImageNet Classification with Deep Convolutional Neural Networks, Communications of the ACM 60(6), 84–90 (2017; 初出はNIPS 2012)