1行定義
CRISP-MLとは、CRISP-DMを土台に、運用後の監視と保守や品質保証の考え方を加えた、機械学習システム開発のプロセスモデルのことです。
くわしく
CRISP-MLは、機械学習を使ったシステムを作り、運用し続けるまでの進め方を示したプロセスモデルです。データマイニングの標準的な手順であるCRISP-DMを、機械学習向けに広げたものです。Studerらが提案し、論文ではCRISP-ML(Q)と呼ばれています。
CRISP-DMとの違い
CRISP-DMでは、運用後のことは「展開」フェーズの一部として扱うだけでした。データから知見を得る分析なら、それでも足ります。しかし機械学習のモデルは、本番で長く使われます。その間にデータの傾向が変わると、精度が下がっていきます。
CRISP-MLは、次の6つのフェーズで構成されます。
- ビジネスとデータの理解
- データの準備
- モデリング
- 評価
- 展開
- モニタリングと保守
ビジネスの理解とデータの理解を1つにまとめたのは、使えるデータがあるかどうかで、プロジェクトが実現できるかが決まることが多いためです。そして、運用中のモデルを見張り、更新するフェーズを独立させました。各フェーズは一方通行ではなく、問題が見つかれば前のフェーズに戻ります。
品質保証の考え方
名前の(Q)は品質保証(Quality assurance)を表します。フェーズごとに満たすべき要件と制約を決め、作業ごとに成功や効率を損なうリスクを洗い出して、そのリスクを抑える品質保証の方法を選びます。たとえば保守では、入力データの統計を学習データと比べて変化を検知し、必要ならモデルを更新します。更新したモデルも、評価を経てから展開します。
MLOpsとの関係
CRISP-MLは「何を、どの順に行うか」を示す手順のモデルです。監視や再学習を自動化して回し続ける仕組みは、MLOpsの領域です。両者は対立するものではなく、組み合わせて使います。
覚え方
「CRISP-DMの最後に『見張りと手入れ』の1段を足したもの」と覚えます。
G検定での出題
出題のされ方
CRISP-DMとのフェーズ構成の違い(ビジネスとデータの理解の統合、モニタリングと保守の追加)、運用中のモデルの劣化への備え、MLOpsとの関係が問われます。
混同しやすい用語
| 用語 | 意味 |
|---|---|
| CRISP-MLこのページの用語 | CRISP-DMを土台に、運用後の監視と保守や品質保証の考え方を加えた、機械学習システム開発のプロセスモデル |
| CRISP-DM | ビジネスの理解から展開(デプロイ)までの6つのフェーズで、データ分析プロジェクトの進め方を示した業種横断の標準プロセスモデル |
◯×チェック
次の文が正しいか、誤りかを選んでください。
-
CRISP-ML(Q)の(Q)は、各作業で成功を妨げるリスクを洗い出し、それを抑える品質保証の方法を組み込んでいることを表している。
答えを見る
答え ◯ 正しい
Qは品質保証(Quality assurance)の頭文字です。フェーズごとに要件と制約を決め、作業ごとにリスクを洗い出して、それを抑える方法を選びます。
-
CRISP-MLでビジネスの理解とデータの理解が1つのフェーズにまとめられたのは、使えるデータによってビジネスの目標が決まったり変わったりするなど、2つの作業が強く結び付いているためである。
答えを見る
答え ◯ 正しい
提案論文は、データがあるかどうかでプロジェクトの実現可能性が左右されることが多いと述べています。CRISP-DMでは、この2つは別のフェーズでした。
-
CRISP-MLのモニタリングと保守のフェーズで再学習したモデルは、評価済みのモデルを新しいデータで更新しただけなので、改めて評価せずに本番へ展開してよい。
答えを見る
答え × 誤り
提案論文は、更新のたびに評価のフェーズと同じ評価を行ってから展開するよう求めています。以前のモデルと性能を比べれば、劣化の速さもわかります。
この用語の練習問題
出典
- G検定 試験出題範囲(シラバス2024)第1.4版 (技術分野 項目35 AIプロジェクトの進め方)
- Stefan Studer et al., Towards CRISP-ML(Q): A Machine Learning Process Model with Quality Assurance Methodology, Machine Learning and Knowledge Extraction 3(2), 392–413 (2021) (Table 1, Section 3.6 Monitoring and Maintenance)