G検定 機械学習の概要 一問一答（222問）

◯ 正しい 各モデルは別々のブートストラップ標本で学習し、ほかのモデルの結果を必要としません。ブースティングは前のモデルの結果を使うため、順番に学習します。 アンサンブル学習

× 誤り 同じ誤り方をするモデルを集めても、誤りは打ち消し合いません。誤り方がばらばらな、多様なモデルを組み合わせるほど効果が大きくなります。 アンサンブル学習

◯ 正しい 多数決や平均の代わりに、予測の組み合わせ方そのものを学習します。メタモデルが学習データに過剰に合わないよう、交差検証で作った予測値を入力に使うのが一般的です。 アンサンブル学習

◯ 正しい 写像先の座標を求めずに内積の値だけを得られる点が、カーネルトリックの利点です。 カーネルトリック

× 誤り SVMではデータ間の内積を表す関数、CNNでは画像に当てるフィルタの重みを指します。名前は同じでも別物です。 カーネルトリック

◯ 正しい 円の内側と外側に分かれたデータに、中心からの距離の2乗を新しい座標として加えると、平面で分けられるのが例です。 カーネルトリック

◯ 正しい 回帰の出力は数値なので、当たりか外れかではなく、どれだけずれたかで評価します。MSEのほか、RMSEや平均絶対値誤差(MAE)も使われます。 回帰問題

× 誤り 葉ごとに数値を割り当てれば、回帰に使えます（回帰木）。ランダムフォレストや勾配ブースティングも、分類と回帰の両方に使えます。 回帰問題

◯ 正しい 恒等関数は値をそのまま出すため、範囲が限られない数値を出力できます。多クラス分類では、ソフトマックス関数と交差エントロピーの組み合わせが一般的です。 回帰問題

× 誤り 「教師」は、学習データに付いた正解（ラベル）を指します。モデルは、予測と正解のずれが小さくなるように、自動でパラメータを調整します。 教師あり学習

◯ 正しい 学習データの細かな特徴まで覚え込む過学習が起きると、新しいデータでの性能が下がります。そのため、学習に使っていないデータで性能を確かめます。 教師あり学習

◯ 正しい 医療画像のように専門家でないと正解を付けられない分野では、特に負担が大きくなります。半教師あり学習や自己教師あり学習は、この負担を減らす工夫です。 教師あり学習

◯ 正しい 分け方は値の大小の順序だけで決まるので、単位をそろえても分岐の結果は基本的に変わりません。SVMやk-means法とは異なる点です。 決定木

× 誤り 深くしすぎると学習データの細かい違いまで覚え込み、過学習します。深さの制限や剪定で対策します。 決定木

× 誤り 葉に数値（その葉に入った学習データの平均など）を持たせる回帰木があり、回帰問題にも使えます。 決定木

◯ 正しい 各木を独立に作るランダムフォレストとの大きな違いです。木の単位では並列に学習できません。 勾配ブースティング

× 誤り 本数を増やすと学習データへの誤差は下がり続けますが、増やしすぎると過学習します。検証用データの成績を見て止めます。 勾配ブースティング

◯ 正しい どちらも決定木を使う勾配ブースティングの実装で、表形式のデータの予測によく使われます。 勾配ブースティング

◯ 正しい 完全には分けられないデータに対応するための考え方です。ペナルティの重さはパラメータCで調整します。 サポートベクターマシン

× 誤り マージンの考え方を回帰に応用したサポートベクター回帰（SVR）があります。 サポートベクターマシン

◯ 正しい 1つのクラスとそれ以外を分ける一対他や、2クラスずつ分ける一対一といった組み合わせ方があります。 サポートベクターマシン

× 誤り 一定の平均のまわりで安定して変動する（定常である）ためには、−1 < φ1 < 1が必要です。φ1が1より大きいと、過去の値の影響が時間とともに増幅され、系列は発散します。 自己回帰モデル（ARモデル）

◯ 正しい AR(p)のpは次数で、何時点前までの値を使うかを表します。説明変数が自分の過去の値になった重回帰分析とみなせます。 自己回帰モデル（ARモデル）

◯ 正しい 平均をmとすると、m = c + φ1 × mが成り立つので、m = c ÷ (1 − φ1)です。3 ÷ (1 − 0.8) = 3 ÷ 0.2 = 15になります。 自己回帰モデル（ARモデル）

× 誤り 追加した変数の係数を0にすれば元のモデルと同じ当てはまりになるため、最小二乗法で求めた決定係数は下がりません。役に立たない変数を加えても上がりうる点に注意します。 重回帰分析

◯ 正しい 当てはまりの改善が、変数を1つ増やしたことによる補正を下回ると、値が下がります。説明変数を選ぶときの目安の1つです。 重回帰分析

◯ 正しい 同じ広告費でも千円単位では数値が10倍になるため、予測値が変わらないように係数は10分の1になります。係数の大きさだけでは影響の大小を比べられない理由です。 重回帰分析

◯ 正しい 残差を2乗して足し合わせるため、ずれの大きい点ほど影響が強くなります。散布図などで外れ値を確かめてから当てはめます。 線形回帰

◯ 正しい w1は、x1が1増えたときの予測値の変化量です。負であれば、x1が増えるほど予測値は下がります。 線形回帰

× 誤り 当てはまれば1、当てはまらなければ0とするダミー変数にすれば、区分の情報も使えます。その係数は、当てはまる場合に予測値がどれだけ変わるかを表します。 線形回帰

◯ 正しい マージンの境目の上にあるデータに加えて、はみ出したデータも境界の位置に影響します。マージンの外側で正しく分類されたデータは影響しません。 ソフトマージン

× 誤り 実際に使われるSVMの多くは、カーネルトリックとソフトマージンを組み合わせています。RBFカーネルのSVMでも、パラメータCで罰の強さを調整します。 ソフトマージン

◯ 正しい ハードマージンでは、外れ値も含めて正しく分けなければなりません。外れ値が相手のクラスの近くにあると、マージンが極端に狭くなります。 ソフトマージン

◯ 正しい 傾きも相関係数も、分子は同じ「偏差の積の和」で、分母は正の値です。そのため、傾きと相関係数の符号は必ず一致します。 単回帰分析

× 誤り 傾きは変数の単位やばらつきで変わります。たとえばyの単位を円から千円に変えると、傾きは1000分の1になりますが、相関係数は変わりません。 単回帰分析

× 誤り 回帰直線が示すのは、2つの変数がそろって変化する傾向だけです。両方に影響する別の要因がある場合もあるので、因果関係は別の根拠で確かめます。 単回帰分析

◯ 正しい ある1件がn回の抽出で一度も選ばれない確率は(1-1/n)^nで、nが大きいと1/e、つまり約0.37に近づきます。選ばれなかったデータは、OOB（out-of-bag）データとして検証に使えます。 バギング

◯ 正しい ばらつきの大きいモデルどうしの予測を平均すると、ばらつきが打ち消し合います。もともと安定したモデルでは、改善の余地が小さくなります。 バギング

× 誤り バギングが主に減らすのはバリアンス（学習データによる予測のばらつき）です。バイアスの大きい弱いモデルを順に補強していくのは、ブースティングの考え方です。 バギング

× 誤り 誤り率の低かった弱学習器ほど大きな重みを与え、重み付きの多数決で予測します。精度の高いモデルの判断ほど重視する仕組みです。 ブースティング

◯ 正しい 1つ1つは当てずっぽうよりわずかに良い程度でも、互いの誤りを補うように多数組み合わせることで、高い精度に到達できます。 ブースティング

◯ 正しい 単純な弱学習器を積み重ね、表現力の足りない部分を少しずつ補います。主にバリアンスを減らすバギングと対比して覚えます。 ブースティング

◯ 正しい 統計学者エフロンが1979年に提案しました。機械学習では、バギングやランダムフォレストで、少しずつ違う学習データを作るのにも使われます。 ブートストラップサンプリング

◯ 正しい 1回の抽出で選ばれない確率は3/4で、これが4回続くので(3/4)^4 = 81/256 ≈ 0.316です。件数が増えると、この確率は約36.8%に近づきます。 ブートストラップサンプリング

× 誤り 元のデータの中から選び直すだけで、新しい値は作りません。各標本の件数も、通常は元のデータと同じです。画像を回転・反転させて新しいデータを作るのはデータ拡張です。 ブートストラップサンプリング

◯ 正しい たとえば2クラス分類では、陽性の確率が0.5以上なら陽性とする、のように決めます。しきい値を変えれば、同じモデルでも判定の結果が変わります。 分類問題

× 誤り 通常の分類モデルは、学習時に決めたクラスのどれかを必ず答えます。未知の種類のデータも既存のクラスに割り当ててしまうため、新しいクラスを扱うにはラベルを付けて学習し直します。 分類問題

× 誤り 金額は大小の順序と連続的な幅をもつ数値なので、回帰問題です。出力が数値か、決められたカテゴリかで区別します。 分類問題

◯ 正しい VARモデルは、ARモデルを複数の系列に広げたものです。変数が1つなら、自分の過去の値だけで表す式1本になり、ARモデルと一致します。 ベクトル自己回帰モデル（VARモデル）

◯ 正しい 各式に定数項1個と、3変数×2時点の6個の係数があり、計7個です。式が3本あるので7 × 3 = 21個です。 ベクトル自己回帰モデル（VARモデル）

× 誤り ラグを1つ増やすと、各式の右辺に、すべての変数の値が1時点分ずつ加わります。変数がK個なら各式でK個、全体ではK × K個増えます。 ベクトル自己回帰モデル（VARモデル）

◯ 正しい 境界の位置を決めるのは、境界に最も近いサポートベクターだけです。遠くのデータは影響しません。 マージン最大化

× 誤り はみ出しを許すのはソフトマージンです。ハードマージンは、すべての訓練データを誤りなく分けることを前提にします。 マージン最大化

× 誤り カーネルトリックを使うSVMも、写像した高次元の空間でマージンを最大化します。その境界を元の空間で見ると、曲がった境界になります。 マージン最大化

◯ 正しい 木どうしが似すぎるのを防ぐための工夫です。データを変えるだけのバギングとの違いになります。 ランダムフォレスト

× 誤り 木ごとにブートストラップサンプリングで別の学習データを作ります。これがバギングにあたる部分です。 ランダムフォレスト

◯ 正しい その木の学習に使っていないデータなので、別に検証用データを用意しなくても性能の目安になります。 ランダムフォレスト

◯ 正しい 重み付き和をシグモイド関数に通す計算も、交差エントロピーを最小にする学習も同じだからです。ロジスティック回帰は、最も単純なニューラルネットワークとみなせます。 ロジスティック回帰

× 誤り 0.5は基本の値にすぎません。病気の見逃しを減らしたい検査では下げるなど、適合率と再現率の兼ね合いを見て用途に合わせて調整します。 ロジスティック回帰

◯ 正しい 対数オッズが重み付き和に等しいためです。係数がwなら、オッズはeのw乗倍になります。結果を説明しやすい理由の1つです。 ロジスティック回帰

× 誤り ブースティングは、前の学習器の誤りをもとに次の学習器を学習するため、学習器の追加は順番に行う必要があります。学習器どうしを並列に学習しやすいのは、各モデルが独立したバギングです。 バギングとブースティングの違い

× 誤り 大きな重みを付けるのは、誤って予測したデータです。苦手なデータを次の学習器に重点的に学ばせることで、誤りを順に減らしていきます。 バギングとブースティングの違い

◯ 正しい 同じような予測を平均しても、ばらつきはあまり打ち消し合いません。ランダムフォレストが分岐ごとに特徴量の候補を絞るのは、木どうしを似せないためです。 バギングとブースティングの違い

◯ 正しい 分類か回帰かは、データではなく何を予測するかで決まります。人数そのものは数値の予測、「超える・超えない」は2クラスの予測です。 分類問題と回帰問題の違い

× 誤り 確率は途中の出力で、最終的に予測したいのはクラスです。最も確率の高いクラスを答えにするので、分類問題です。 分類問題と回帰問題の違い

◯ 正しい 数値の予測では、ぴったり一致することはまれで、どれだけ近いかが大切です。そのため回帰問題では、ずれの大きさを測るMSE、RMSE、MAEなどで評価します。 分類問題と回帰問題の違い

× 誤り ブレイマンの方法では、各木を剪定せずに大きく育てます。1本ずつは過学習ぎみでも、多数の木の予測を平均することで、ばらつきが打ち消されるためです。 決定木とランダムフォレストの違い

◯ 正しい 残る無作為さは、木ごとのブートストラップサンプリングだけになるためです。scikit-learnの解説も、この設定はバギングした決定木と同じだと説明しています。候補を絞るほど木どうしが似にくくなり、平均の効果が大きくなります。 決定木とランダムフォレストの違い

× 誤り ばらつきを抑えるのは、性質の異なる多数の木の予測を平均する仕組みです。1本の木では、抽出したデータが変わるたびに予測がぶれるため、この効果は得られません。 決定木とランダムフォレストの違い

× 誤り クラスタリングが出力するのは、似たデータのまとまりだけです。各まとまりが何を意味するかは、人がその特徴を見て解釈します。 教師あり学習・教師なし学習と強化学習の違い

◯ 正しい 売上金額のように数値を予測するのが回帰、迷惑メールかどうかのようにカテゴリを予測するのが分類です。ロジスティック回帰は名前に「回帰」とつきますが、分類に使います。 教師あり学習・教師なし学習と強化学習の違い

× 誤り PCAは、正解（目的変数）を使わず、データのばらつきが大きい方向を見つけて次元を減らす手法です。教師なし学習の代表例です。 教師あり学習・教師なし学習と強化学習の違い

× 誤り それは最短距離法（単連結法）の基準です。ウォード法は、併合したときにクラスタ内の平方和がどれだけ増えるかで、併合する組を選びます。 ウォード法

◯ 正しい ばらつきの増え方が小さい組から併合するため、1つのクラスタだけが極端に大きくなりにくいとされます。最短距離法とは対照的です。 ウォード法

◯ 正しい k-means法はkを決めて割り当てと重心の更新を繰り返す非階層的な手法です。ウォード法は階層的に併合し、1回の実行ですべての段階の結果が得られます。 ウォード法

◯ 正しい 全体が1つのクラスタになるまで併合を繰り返します。逆に、全体を1つのクラスタとして、順に分けていく方法を分割型と呼びます。 階層的クラスタリング

× 誤り 最短距離法、最長距離法、群平均法、ウォード法など、クラスタ間の距離の定義によって併合の順番が変わり、結果も変わります。 階層的クラスタリング

◯ 正しい この性質は鎖効果と呼ばれます。ノイズに弱い反面、丸くない形のクラスタを見つけられることもあります。 階層的クラスタリング

× 誤り 報酬を手がかりにするのは強化学習です。教師なし学習は、正解も報酬も使わず、データそのもののまとまりや構造を見つけます。 教師なし学習

× 誤り 正解との比較はできませんが、グループ内のまとまりやグループ間の離れ具合を測る指標や、分析の目的に照らして結果を解釈・活用できるかどうかで評価します。 教師なし学習

◯ 正しい 次元削減は、予測モデルの前処理としてもよく使われます。変数を減らすと計算が軽くなり、次元の呪いや過学習の影響も抑えやすくなります。 教師なし学習

× 誤り 商品どうしの類似度も、どの利用者に一緒に評価や購入をされたかという履歴から計算します。属性で類似度を測るのは、コンテンツベースフィルタリングの考え方です。 協調フィルタリング

◯ 正しい 似た利用者を探すときは、評価の表の行どうし（利用者どうし）を、コサイン類似度や相関係数などで比べます。 協調フィルタリング

◯ 正しい スパース性と呼ばれる弱点です。共通して評価した商品が少ないと、類似度を測りにくくなります。表を少数の潜在的な要因に分解する行列分解などで補います。 協調フィルタリング

× 誤り アルゴリズムは似たものをまとめるだけです。「価格を重視する層」のような意味づけは、各クラスタの特徴を見て人が行います。 クラスタリング

◯ 正しい クラスタ内のまとまりやクラスタ間の離れ具合を表す指標や、分析の目的に役立つかどうかで評価します。評価の難しさは、クラスタリングの課題の1つです。 クラスタリング

× 誤り k-means法のように所属を1つに決める方法をハードクラスタリングといいます。混合ガウスモデルのように、各クラスタに属する確率で表すソフトクラスタリングもあります。 クラスタリング

◯ 正しい 割り当てが変わらなくなる（重心がほとんど動かなくなる）まで繰り返して終了します。 k-means法

◯ 正しい 年収（円）と年齢（歳）をそのまま使うと、ほぼ年収だけで分かれてしまいます。事前の標準化が一般的です。 k-means法

× 誤り 重心からの距離で割り当てるため、丸くまとまったクラスタを想定しています。複雑な形のクラスタは苦手です。 k-means法

◯ 正しい どの場面でも、推薦の手がかりになる履歴が足りないことが原因です。場面によって有効な対策が変わります。 コールドスタート問題

◯ 正しい 行動の履歴がたまる前でも、最初の好みの手がかりが得られます。年代や地域などの属性を使う方法もあります。 コールドスタート問題

× 誤り それは規模の拡大に伴うスケーラビリティの問題です。コールドスタート問題は、データが多すぎるのではなく、特定の利用者や商品の履歴が少なすぎることで起きます。 コールドスタート問題

◯ 正しい 記事の中身（コンテンツ）を数値で表し、本人の好みと照らし合わせているからです。類似度にはコサイン類似度がよく使われます。 コンテンツベースフィルタリング

◯ 正しい 本人が好んだ商品と属性が一致することを根拠に推薦するためです。理由を説明しやすいこと（透明性）は、この方式の長所の1つです。 コンテンツベースフィルタリング

× 誤り 商品を属性で表すことが、この方式の出発点です。属性を整える手間がかかり、属性で表しにくい特徴は扱いにくいという弱点があります。 コンテンツベースフィルタリング

◯ 正しい 復元を学習させると、中間層に情報を凝縮した表現が得られます。活性化関数によって、非線形な関係も表せます。 次元削減

× 誤り 主成分分析はラベルを使わない教師なしの手法で、分散が最大になる方向を求めます。ラベルを使って見分けやすい方向を探すのは、線形判別分析です。 次元削減

× 誤り 次元削減で減らすのは、特徴量の数（列の数）です。データの件数を減らすのはサンプリングで、似たデータどうしをグループに分けるのはクラスタリングです。 次元削減

◯ 正しい 主成分の方向は共分散行列の固有ベクトルで、分散の大きい順に互いに直交します。各主成分の値どうしは無相関になります。 主成分分析

× 誤り 身長をmmで表すと分散が大きくなり、第1主成分が身長に引っ張られます。通常は標準化してから行います。 主成分分析

◯ 正しい 非線形の構造を可視化したいときは、t-SNEなどの手法が使われます。 主成分分析

◯ 正しい たとえば「ボール」は、野球の話題でもサッカーの話題でも出やすい単語になりえます。1つの単語を1つの話題に固定するわけではありません。 潜在的ディリクレ配分法（LDA）

× 誤り LDAは教師なし学習です。正解ラベルのない文書の単語の現れ方だけから、話題とその割合を推定します。 潜在的ディリクレ配分法（LDA）

◯ 正しい どちらも略すとLDAになります。トピックや文書の話題の文脈なら潜在的ディリクレ配分法、クラスの分類の文脈なら線形判別分析です。 潜在的ディリクレ配分法（LDA）

◯ 正しい アンケートで答えてもらった似ている度合いのように、値の大きさより順序に意味があるデータに向いています。1964年のクラスカルの論文で、ずれを表すストレスという指標を小さくする方法が示されました。 多次元尺度構成法（MDS）

× 誤り MDSが保つのは点どうしの距離です。図を回転させても距離は変わらないため、軸の意味づけは分析者が点の並びを見て行います。 多次元尺度構成法（MDS）

× 誤り 低い次元に収めると、元の距離を完全には再現できないのが普通です。どれだけずれているかは、ストレスなどの指標で確かめます。 多次元尺度構成法（MDS）

◯ 正しい 裾の重いt分布を使うと、少し離れたデータどうしが図の上でより遠くに置かれます。点が中央に詰まる混雑問題を和らげる工夫です。 t-SNE

× 誤り t-SNEは、与えられたデータ点の配置そのものを最適化する手法です。新しいデータを加えるには、基本的に計算をやり直します。 t-SNE

× 誤り t-SNEは非線形の手法です。線形の主成分分析では表しにくい、曲がった構造やまとまりを図に表すのに向いています。 t-SNE

◯ 正しい 低い位置ではまだ併合が進んでいないため、細かく分かれています。高い位置ほど、多くのデータが1つのクラスタにまとまっています。 デンドログラム(樹形図)

× 誤り 似ている度合いは、2つの葉を結ぶ枝が合流する高さで読み取ります。合流点を軸に枝の左右を入れ替えても同じ図なので、横の並び順だけでは判断できません。 デンドログラム(樹形図)

◯ 正しい 長い縦の枝は、併合するまでに大きな距離が必要だったことを表します。その間の高さで切ると、まとまりのよい分け方を得やすくなります。 デンドログラム(樹形図)

◯ 正しい A = UΣVᵀの形です。UとVが直交行列、Σが特異値を大きい順に対角に並べた行列です。 特異値分解

◯ 正しい LSAは、同じ文書によく一緒に現れる単語を1つの軸にまとめます。のちのトピックモデルにつながる考え方です。 特異値分解

× 誤り kを小さくするほどデータは小さくなりますが、捨てる成分が増えるので再現の精度は下がります。圧縮率と精度はトレードオフです。 特異値分解

◯ 正しい どの文書がどの話題かという正解は与えません。単語の現れ方だけから、話題のまとまりを推定します。 トピックモデル

× 誤り トピックモデルは、同じ文書に一緒に現れやすい単語をまとめることで、話題を見つけます。単語の意味を人が教える必要はありません。 トピックモデル

◯ 正しい LSAは行列を分解する手法です。これを確率モデルとして組み立て直したのがpLSAで、さらに話題の割合にディリクレ分布を置いたのがLDAです。 トピックモデル

◯ 正しい 記事の中身ではなく、ほかの利用者の閲覧履歴の重なりを手がかりにしているからです。アイテムベースの協調フィルタリングの例です。本文の単語から記事どうしの近さを測るなら、コンテンツベースフィルタリングになります。 協調フィルタリングとコンテンツベースフィルタリングの違い

× 誤り 本の属性（著者やジャンル）と本人の好みを照らし合わせているので、コンテンツベースフィルタリングです。ほかの会員の履歴は使っていません。 協調フィルタリングとコンテンツベースフィルタリングの違い

× 誤り 商品の属性と照らし合わせる好みのプロフィールは、本人の過去の評価から利用者ごとに作ります。そのため、扱う商品が同じでも、推薦される商品は利用者ごとに変わります。 協調フィルタリングとコンテンツベースフィルタリングの違い

◯ 正しい 凝集型は、近い組を順に併合していくだけで、前の併合を取り消しません。重心が動くたびに各データの所属を割り当て直すk-means法とは、この点が異なります。 k-means法と階層的クラスタリングの違い

◯ 正しい 併合の過程はデンドログラムにすべて残っています。低い位置で切ればクラスタ数が増え、高い位置で切れば減ります。 k-means法と階層的クラスタリングの違い

× 誤り k-means法はkごとに独立に計算するので、kを変えるとクラスタの境界がまったく別の位置に引かれることがあります。必ず入れ子になるのは、階層的クラスタリングを異なる高さで切った場合です。 k-means法と階層的クラスタリングの違い

× 誤り LSAでは、平均を引かずに行列をそのまま分解するのが一般的です。平均を引くと0の多い疎な行列が密な行列になり、計算の負担が増えます。scikit-learnのTruncatedSVDも中心化せずに分解します。 主成分分析（PCA）と特異値分解（SVD）の違い

× 誤り 通常の特異値分解は、すべての要素が埋まった行列を前提にしています。推薦システムでは、観測された評価だけから低ランクの因子を学ぶ行列分解の手法がよく使われます。 主成分分析（PCA）と特異値分解（SVD）の違い

◯ 正しい 各主成分の分散は、特異値の2乗を「データ数−1」で割った値です。寄与率は分散の比なので、各特異値の2乗を、すべての特異値の2乗の和で割って求めます。 主成分分析（PCA）と特異値分解（SVD）の違い

× 誤り t-SNEの図の軸には特定の意味がなく、図を回転させても同じ結果とみなせます。ばらつきが最も大きい方向を軸にとるのは、主成分分析です。 主成分分析（PCA）とt-SNEの違い

◯ 正しい t-SNEの提案論文でも、先に主成分分析で30次元まで減らしてから適用しています。データ間の距離の計算を軽くし、ノイズを抑えるためです。 主成分分析（PCA）とt-SNEの違い

◯ 正しい すべての主成分を残せば、元のデータを復元できます。次元削減になるのは、寄与率の小さい主成分を捨てて、残す軸の数を減らしたときです。 主成分分析（PCA）とt-SNEの違い

× 誤り TD誤差が正なら、その行動は見込みより良い結果につながったことを意味します。Actorは、その行動を選ぶ確率を上げる方向に更新されます。 Actor-Critic

◯ 正しい Criticの見積もりは、最初から正しいわけではありません。受け取った報酬と次の状態の見積もりに近づくよう、CriticもTD誤差を使って更新されます。 Actor-Critic

◯ 正しい Actorは、Criticの評価を手がかりに方策を更新します。評価そのものが誤っていれば、更新の向きも偏ります。これはCriticを使うことの代償です。 Actor-Critic

× 誤り εはランダムに選ぶ確率です。εを大きくするほど探索が増え、価値が最大の行動を選ぶ割合は減ります。 ε-greedy方策

◯ 正しい 貪欲に選ぶ0.8に、ランダムに選んで偶然その行動が当たる0.2×1/4=0.05を足して0.85です。 ε-greedy方策

× 誤り ε-greedy方策のランダムな選択は、価値の推定値と関係なく行います。価値に応じて確率を変えるのは、ソフトマックス方策などの考え方です。 ε-greedy方策

× 誤り Q学習は、実際に行動して得た報酬と次の状態だけから学ぶ、モデルフリーの手法です。 Q学習

◯ 正しい DQNはゲーム画面の画素を入力とし、各操作のQ値を出力するネットワークを学習しました。 Q学習

× 誤り Q値は、その行動のあとに受け取る報酬を割り引いて足し合わせた、将来にわたる報酬の見込みを表します。 Q学習

× 誤り 遅れて得られる報酬を扱えることが強化学習の特徴です。将来の報酬まで含めた合計を大きくするように学ぶため、囲碁のように最後に勝敗が決まる課題にも使われます。 強化学習

◯ 正しい 教師あり学習では学習データが先に決まっていますが、強化学習では自分の行動がデータを作ります。そのため、まだ試していない行動をどれだけ試すかが重要になります。 強化学習

◯ 正しい Q学習は、ワトキンスが1989年の博士論文で提案した手法です。価値や方策をニューラルネットワークで近似する深層強化学習は、こうした手法の発展形です。 強化学習

◯ 正しい 行動価値は「最初の行動のあとは方策に従う」という前提で計算する期待値です。2手目以降の選び方が変われば、得られる報酬の見込みも変わります。 行動価値関数

× 誤り 次の状態へ移る確率は、環境の性質を表す状態遷移確率です。行動価値関数は、その行動のあとに得られる収益の期待値を表します。 行動価値関数

◯ 正しい 状態価値は、方策が選ぶ行動の行動価値を選択確率で平均したものです。それを上回るQ値をもつ行動は、平均よりよい行動と評価できます。 行動価値関数

◯ 正しい State、Action、Reward、State、Actionの頭文字です。次の行動まで使う点が、Q学習との違いを表しています。 SARSA

◯ 正しい SARSAは、次に実際に選んだ行動の行動価値で更新します。そのため、探索を含めた、いま従っている方策の価値を学びます。 SARSA

× 誤り これは方策オフ型であるQ学習の説明です。SARSAは、行動を選ぶ方策そのものの価値を学ぶ方策オン型です。 SARSA

◯ 正しい 状態価値は「その後この方策に従ったら」という前提で計算する期待値です。その後の行動の仕方が変われば、得られる報酬も変わります。 状態価値関数

◯ 正しい どの行動を選ぶかは方策の確率で決まります。そのため、状態の価値は各行動の価値の加重平均になります。 状態価値関数

× 誤り γが1に近いほど、遠い将来の報酬も割り引かれにくくなり、長い目で見た価値になります。直後の報酬を重視するのはγが0に近いときです。 状態価値関数

◯ 正しい A/Bテストでは、成績の悪い案も期間中は同じ割合で表示し続けます。バンディットアルゴリズムは、比較と活用を同時に進めることで、その間に失う報酬を減らします。 バンディットアルゴリズム

× 誤り 期待値が最初からわかっていれば、最大のものを選び続けるだけで済みます。期待値が未知で、試しながら見積もる必要があるからこそ、探索が必要になります。 バンディットアルゴリズム

◯ 正しい リグレットは「後悔」という意味です。最良でない選択肢を試すほどリグレットは増えるため、少ない損失で最良の選択肢を見つけることが目標になります。 バンディットアルゴリズム

◯ 正しい 誤差を小さくする勾配降下法とは向きが逆で、目的関数を大きくする勾配上昇の形になります。よい結果につながった行動ほど選ばれやすくなります。 方策勾配法

× 誤り 方策が一度に大きく変わると、それまでの学習が崩れて性能が急に落ちることがあります。PPOやTRPOは、更新の幅を抑えて学習を安定させる手法です。 方策勾配法

◯ 正しい 方策勾配定理により、勾配は、方策の確率の微分と行動の評価（収益など）を掛けたものの期待値で表せます。状態の移り方を微分する必要がないため、試行で集めたデータから見積もれます。 方策勾配法

◯ 正しい この性質を仮定することで、現在の状態だけをもとに価値や方策を考えられるようになります。 マルコフ決定過程

× 誤り 状態遷移確率を使うので、同じ状態で同じ行動をとっても、次の状態が確率的に変わる環境を表せます。 マルコフ決定過程

◯ 正しい これに割引率を加えて表すことも多いです。エージェントは方策に従って行動を選びます。 マルコフ決定過程

◯ 正しい 試した回数が0回の行動は、見積もりの不確かさが最大とみなされます。そのため、最初にすべての行動を一通り試してから、補正を加えた値で比べ始めます。 UCB方策

× 誤り UCB方策は、平均と補正項の合計で行動を決めます。確率εで無作為に選ぶ仕組みはなく、不確かな行動を優先して試すことで探索します。 UCB方策

◯ 正しい 補正項の分子には全体の試行回数の対数が入り、分母のその行動の試行回数は増えません。そのため、選ばれずにいた行動も、いずれ再び試されます。 UCB方策

◯ 正しい 同じ方策でも、エピソードごとに収益は大きく変わります。この分散の大きさが学習を遅くする主な原因で、ベースラインやActor-Criticはその対策です。 REINFORCE

× 誤り 行動によらないベースラインを引いても、勾配の期待値は変わりません。偏りを生まずにばらつきだけを小さくできるため、よく使われる工夫です。 REINFORCE

× 誤り REINFORCEは、いまの方策で集めたエピソードで更新する方策オン型の手法です。経験をためて使い回す経験再生は、DQNなどの方策オフ型の手法で使われる工夫です。 REINFORCE

× 誤り 0に近いほど将来の報酬は小さく割り引かれ、目先の報酬だけを重視します。将来を重視するのは1に近いときです。 割引率

◯ 正しい 1回の報酬の上限をRとすると、割引累積報酬は等比級数の和 R ÷ (1 − γ) 以下に収まります。 割引率

× 誤り 終わりがある課題では受け取る報酬の数が有限なので、γ = 1でも合計は有限です。発散が問題になるのは、終わりのない課題の場合です。 割引率

◯ 正しい 次に選ぶ行動a'がQ値の最大の行動になるので、Q(s', a')がmax Q(s', a')と一致します。2つの違いは、探索で最善でない行動を選んだときに表れます。 Q学習とSARSAの違い

× 誤り Q学習の目標は、次の状態のQ値の最大値で決まり、次に実際に選ぶ行動には左右されません。次の行動a'を選んでからでないと更新できないのはSARSAです。 Q学習とSARSAの違い

◯ 正しい SARSAは、探索による失敗も含めた、いまの方策の価値を学ぶからです。Q学習は最短経路の価値を学びますが、学習中は探索でときどき崖へ落ちます。 Q学習とSARSAの違い

◯ 正しい AUCは、スコアによる順位づけがどれだけ正しいかを表します。1なら必ず陽性が上位に来ます。 ROC曲線・AUC

◯ 正しい スコアに対する閾値を動かして曲線上の点を得ます。判定結果しか出さないモデルでは、点が1つ得られるだけです。 ROC曲線・AUC

× 誤り 真陽性率は実際の陽性の中、偽陽性率は実際の陰性の中での割合なので、クラスの比率が変わっても曲線の形は変わりにくい性質があります。 ROC曲線・AUC

◯ 正しい AICの値は、使ったデータの件数や中身によって変わります。別々のデータに当てはめたモデルのAICを並べても、大小に意味はありません。 赤池情報量規準（AIC）

× 誤り AICは候補どうしを比べるための相対的な物差しです。値の絶対的な大きさだけでは、良し悪しは判断できません。 赤池情報量規準（AIC）

◯ 正しい 第1項は−2×0.5=−1で1だけ下がりますが、罰則は2×1=2増えます。差し引きでAICは1増えるため、パラメータを増やさないほうが良いと判断します。 赤池情報量規準（AIC）

× 誤り 考え方の指針であり、定理ではありません。Domingosは1999年の論文で、単純さがそのまま精度の高さにつながるという解釈は、普遍的な原則としては成り立たないと論じています。 オッカムの剃刀

◯ 正しい 1287年ごろにイングランドで生まれ、1347年に没したフランシスコ会の修道士です。不要な仮定を剃刀でそり落とすというイメージから、この名で呼ばれます。 オッカムの剃刀

◯ 正しい 当てはまりが同程度なら、罰則の小さい、つまりパラメータの少ないモデルが選ばれます。Schwarzも1978年の論文で、両方の規準を節約の原理を数式にしたものと位置づけています。 オッカムの剃刀

◯ 正しい データが多いほど、偶然のばらつきに合わせ込みにくくなります。画像では、回転や反転で水増しするデータ拡張もよく使われます。 過学習

× 誤り 過学習が起きても、学習データの誤差は下がり続けます。検証データの誤差と比べ、差が開いていくかどうかで判断します。 過学習

◯ 正しい 未学習はモデルが単純すぎて傾向をとらえきれていない状態です。過学習とは逆の方向の失敗です。 過学習

◯ 正しい k個のグループが順番に1回ずつ検証役を務め、それ以外の回では学習に使われます。 交差検証

× 誤り 無作為に分けると、未来のデータで学習して過去を予測することになり、評価が甘くなります。過去で学習し、後の期間で検証します。 交差検証

× 誤り 学習と評価をk回繰り返すので、計算量はおよそk倍になります。その代わり、評価の結果が安定します。 交差検証

◯ 正しい たとえばscikit-learnでは行が実際のクラス、列が予測したクラスですが、逆の配置の資料もあります。 混同行列

× 誤り それは偽陽性（FP）です。偽陰性は、実際には陽性のデータを陰性と予測した見逃しを指します。 混同行列

◯ 正しい 対角線以外のマスを見ると、どのクラスとどのクラスを取り違えやすいかがわかります。 混同行列

◯ 正しい 閾値を上げて慎重に陽性と判定すると誤検知が減って適合率は上がりやすい一方、見逃しが増えて再現率は下がりやすくなります。 正解率・適合率・再現率・F値

× 誤り F値は調和平均です。適合率1.0、再現率0.1なら算術平均は0.55ですが、F値は約0.18と低くなります。 正解率・適合率・再現率・F値

◯ 正しい 見逃し（偽陰性）が減るほど再現率は上がります。誤検知を避けたい場面では、逆に適合率を重視します。 正解率・適合率・再現率・F値

× 誤り それは学習誤差（訓練誤差）です。汎化誤差は未知の新しいデータに対する誤差の期待値で、学習に使わなかったテストデータでの誤差で見積もります。 汎化性能

◯ 正しい 評価用データの成績が本番の目安になるのは、学習・評価・本番のデータが同じ性質（分布）をもつという前提があるからです。この前提が崩れると、事前の評価は当てはまらなくなります。 汎化性能

× 誤り パラメータを増やすと学習データへの当てはまりは良くなりますが、雑音まで覚えて過学習し、未知のデータでの成績が下がることがあります。汎化性能は検証用データで確かめます。 汎化性能

◯ 正しい MAEはずれの大きさだけを平均します。予測の偏りの向きを知るには、絶対値をとらずに誤差を平均した値などを別に確かめます。 平均絶対値誤差（MAE）

× 誤り どちらも絶対値の合計は8で、MAEは8÷4=2で同じです。RMSEで比べると前者は2、後者は√(64÷4)=4となり、大きな誤差を含む後者のほうが大きくなります。 平均絶対値誤差（MAE）

◯ 正しい 誤差の絶対値の合計を最小にする定数は中央値です。一方、MSEを最小にする定数は平均値です。MAEが外れ値に強いことは、中央値が外れ値に引きずられにくいことと対応しています。 平均絶対値誤差（MAE）

× 誤り 二乗するので、単位も二乗になります（円なら円²）。元の単位で読みたいときは、平方根をとったRMSEを使います。 平均二乗誤差

× 誤り 逆です。二乗するので、大きく外れたデータの影響が強く出ます。外れ値の影響を抑えたいならMAEのほうが向いています。 平均二乗誤差

◯ 正しい RMSEはMSEの平方根です。MSEが同じなら、平方根をとったRMSEも同じ値になります。 平均二乗誤差

◯ 正しい Schwarzは、ベイズの考え方でモデルを選ぶ手順を、データが多いときの近似として導きました。近似の主要な項は事前分布によらないため、事前分布を決めずに計算できます。 ベイズ情報量規準（BIC）

◯ 正しい 罰則項はパラメータ数×log(データ数)です。log 100≒4.61なので、3×4.61≒13.8になります。 ベイズ情報量規準（BIC）

× 誤り BICはAICと同じく、学習に使ったデータでの最大対数尤度と、パラメータ数、データ数から計算します。検証用データを別に用意するホールドアウト検証や交差検証とは、この点が異なります。 ベイズ情報量規準（BIC）

◯ 正しい どのデータが評価用に入るかは、分割の偶然で決まります。評価用データが少ないほど、この揺れは大きくなります。 ホールドアウト検証

× 誤り ホールドアウト検証では、学習用に回したデータは評価に使われません。すべてのデータが一度ずつ評価役になるのは、評価役を入れ替えながら繰り返すk-分割交差検証の特徴です。 ホールドアウト検証

◯ 正しい 無作為に分けると、評価用に解約者がほとんど入らないことがあります。クラスの割合を保って分ける方法を層化抽出といい、scikit-learnのtrain_test_split関数ではstratify引数で指定できます。 ホールドアウト検証

◯ 正しい 罰則項はどの候補でも同じ値になり、差がつくのは第1項の−2×最大対数尤度だけです。どちらの規準でも、最大対数尤度が最も大きいモデルが選ばれます。 赤池情報量規準（AIC）とベイズ情報量規準（BIC）の違い

× 誤り 罰則はデータ数の自然対数です。log 100≒4.61、log 200≒5.30なので、増えるのはlog 2≒0.69の分だけです。データ数に比例して増えるわけではありません。 赤池情報量規準（AIC）とベイズ情報量規準（BIC）の違い

◯ 正しい 第1項は−2×1.5で3下がります。罰則の増え方はAICが2、BICがlog 100≒4.61なので、AICは差し引き1下がり、BICは約1.61上がります。 赤池情報量規準（AIC）とベイズ情報量規準（BIC）の違い

◯ 正しい 1グループは200件です。検証用の1グループを除いた4グループ、800件で学習し、これを5回繰り返します。学習に使う件数は、8対2に分けたホールドアウト検証と同じです。 ホールドアウト検証と交差検証の違い

× 誤り 学習に使う割合は(k−1)/kで、k=5なら80%、k=10なら90%です。kを大きくすると学習に使えるデータは増えますが、学習の回数も増えて計算に時間がかかります。 ホールドアウト検証と交差検証の違い

× 誤り 報告するのはk回の評価値の平均です。最も良い1回だけを選ぶと、たまたま有利な分け方だった結果を拾うことになり、性能を楽観的に見積もります。 ホールドアウト検証と交差検証の違い

◯ 正しい 誤差はすべて100倍になります。MAEは誤差の大きさに比例するので100倍、MSEは誤差を二乗して平均するので100²＝10,000倍です。MSEの単位が対象の単位の二乗になることの表れです。 平均絶対値誤差（MAE）と平均二乗誤差（MSE）の違い

× 誤り 4件の誤差がすべて3のモデルは、MAEが3、MSEが9です。誤差が0、0、0、10のモデルは、MAEが2.5、MSEが25です。MAEでは後者、MSEでは前者が良いと判定され、指標によって順位が入れ替わります。 平均絶対値誤差（MAE）と平均二乗誤差（MSE）の違い

× 誤り MAEの1件ごとの勾配は誤差の符号だけで決まり、大きさは誤差によらず一定です（誤差が0の点では微分できません）。誤差に比例して勾配が大きくなるのはMSEです。 平均絶対値誤差（MAE）と平均二乗誤差（MSE）の違い

◯ 正しい 見逃し（FN）が0になるので、再現率はTP / (TP + 0) = 1です。一方、適合率はデータ全体に占める陽性の割合まで下がります。 適合率と再現率の違い

× 誤り 適合率の分母は、陽性と予測した件数（TP + FP）です。実際に陽性である件数（TP + FN）を分母にするのは再現率です。 適合率と再現率の違い

◯ 正しい 再現率はTPとFNだけで決まり、陰性のデータは計算に入りません。陰性が増えて誤検知（FP）が増えたときに下がるのは、適合率のほうです。 適合率と再現率の違い