Professional Machine Learning Engineer 合格記
🌸 合格:2025年4月18日|☔️ 不合格:2025年3月30日
受験情報
試験名: Professional Machine Learning Engineer
- Date: 18 April 2025
- Time: 01:30 PM
受験後回想メモ_2025/04/19
試験情報/感想など:
- 問題数50、120分、英語
- 試験の難易度は2回目なのか1回目よりも簡単に感じたが、それでも、MLの基礎知識+Google Cloud のMLサービスのユースケースを複合的に問うような高難易度の試験の部類に入る印象
- 少なくとも、Professional試験の中で最難関であることは間違いない
- 1周目を110分程度ギリギリで解き終わり、見直しは数問しかできなかった
- 後回しにした問題は1問程度だったため、なんとか、1周目の回答で合格できてよかったという感じ
- 得点率の感覚としては、70%ギリギリだったと思う。
出題傾向:
基礎知識:
- Interpretability-Explainability-AI に関する問題 が複数
- Integrated gradients
- Shapley Explanation
- 回帰、分類問題 の使い分けの理解を問う複合問題多数
- 画像認識/異常検知に関するツールの選定に関する問題多数
- 混合行列に関する問題多数
- 正解ではない選択肢に Matrix Factorization(リコメンド) の記述が複数
サービス知識:
- BQML全般
- VertexAI全般
- Model Garden
- Vertex AI Workbench
- Vertex AI Vizier
- TensorFlow Lite(複数)
- TensorFlow の AIアクセサレータ(TPU/GPU/CPU)の選定に関する問題
- データパイプライン/CI・CDの技術選定/設計に関する問題
- Scikit-learn から google cloud への移行?移植?に関する問題
- Request-Response Logging /サンプリングレートの調整に関する問題
補足:
- 強化学習に関する問題はあんまり出なかった印象
受験当日のTODO(PSE / PNE / PDE / PCA 受験時の成功事例) ⭐️
前日
- しっかり寝る
- アイマスク、耳栓、枕のセッティング
当日
- 9時までに起きる(疲労が回復していることが重要)
- 受験メールを印刷する
- アプリにメールを転送
- コンビニで印刷
- カフェで試験前の確認を実施
- 会場到着前に仮眠を10分程度取り、十分に脳をリフレッシュさせる
- 糖分も十分にとる
- テスト開始の30分前には会場に到着して受付を完了させる
- 選択肢から読むことを意識する
- 見直しの時間を確保するよう意識する
- 英語の翻訳ができない場合や、難問の場合には勇気を持って飛ばす
🔥受験に向けた戦略🔥
- 認定試験一覧
- 公式の参考資料を読む
- 公式:MLコース(基礎/上級/用語)|必読
- 一般動画|英語かつ短時間まとめの有料教材
- 参考になった図書(図書館で読書)
- 本質を捉えたデータ分析のための分析モデル入門
- 結構網羅的にMLの基礎モデルを紹介し、数学レベルでの解釈性が高い
- Google Colaboratoryで学ぶ! あたらしい人工知能技術の教科書
- MLの基礎をある程度の網羅性で簡単なコードで概要を理解できる
- 本質を捉えたデータ分析のための分析モデル入門
学習戦略:
- 参考資料
- 公式: Professional Cloud DevOps Engineer (※ML Engineer の資料と重複している可能性があるため確認推奨)
- 一般学習資料
- 日本のオンラインAI学習動画
- MLの短時間整理
- elastic search|AI学習の基礎
- 旧問題集|間違った問題の復習に費やす(2025/04/07〜)
- Google Cloud Certified Professional Machine Learning Engineer Practice Tests
- 1周目:
- Freeテスト|85%|2025/03/12
- Practice Test I|40%|2025/03/10
- Practice Test 2|40%|2025/03/12
- SectionTest|50%程度|2025/03/17
- 復習:
- Freeテスト
- Practice Test I|2025/03/11
- Practice Test 2
- SectionTest|問題を解く形式で復習|70~80%平均で解けている
- 2周目:
- Freeテスト|2025/03/21|95%
- Practice Test I|2025/03/21|65%
- Practice Test 2|2025/03/21|75%
- SectionTest|
- 3周目:ー不合格後の学習ー
- Freeテスト|2025/04/05|90%
- Practice Test I|2025/04/04|76% ⤴︎
- Practice Test 2|2025/04/04|73%|⤵️
- SectionTest|2025/04/03|平均80% Over
- 苦手項目の復習:適宜整理
- 2025/03/17
- 2025/03/22
- 模擬試験
- Google Cloud Professional Machine Learning Engineer Practice Exam
- 2025/03/17|🔥 26.67%
- 2025/03/22|60%
- 2025/03/31|45%|恐らく問題が更新された
- 復習|2025/04/01
- 新問題集(2025/04/07〜)
- Google GCP ML Engineer Certification Practice Updated Exam
- 最新傾向の強い、No5から逆に実施
- 1周目:テストの順番がおかしくなったのでざっくり
- Practice Test I|2025/04/15|50%
- Practice Test 2||40%
- Practice Test 3||30%
- Practice Test 4|2025/04/09|37%........
- Practice Test 5|2025/04/08|55% ...
- 2周目:
- Practice Test I||
- Practice Test 2|2025/04/16|30%...
- Practice Test 3||
- Practice Test 4||
- Practice Test 5||
- 復習:
- Practice Test I|2025/04/15|PerplexityAIを使うと便利Z
- Practice Test 2|2025/04/16|2週目を復習とみなす
- Practice Test 3|2025/04/17|いい感じの復習ができている
- Practice Test 4|2025/04/17|いい感じの復習ができている
- Practice Test 5|2025/04/17|いい感じか。間違いの問題も多くてめんどい
- Google GCP ML Engineer Certification Practice Updated Exam
苦手項目
機械学習用語の画像検索リンク
公式参考:
- 機械学習の用語集
- Machine Learning
- Auto ML
- Vertex AI
- サービスの各コンポーネントの役割などドキュメントを網羅的に一読
有益サイト:
MLパイプライン設計図
- Building a scalable MLOps system with Vertex AI, AutoML, and Pipeline
- Model training CI/CD system: Part I - with TFX and Vertex AI Pipelines
- MLOps: ML における継続的デリバリーと自動化のパイプライン
- 🔥👀 必読
重要英単語
Anomaly
「アノマリー」(Anomaly)には、英語と機械学習(ML)で異なる意味がありますが、基本的には「異常」や「例外」といった意味を持つ。
Annotation
英語では「注釈」や「説明」を指し、機械学習の文脈では「ラベル付け」や「データへの追加情報」の意味で使われる。
skew
英語的な意味: 「傾き」や「歪み」。物が真っ直ぐでなく、斜めになっている状態。 ML的な意味: データの分布が偏っていること。特に、正規分布が歪んでいる場合などに使われる。
drift
英語的な意味:移動、傾向、偏り ML的な意味:モデルやデータ分布が時間とともに変化し、予測精度が低下する現象。特に、トレーニングデータと実際のデータの分布がずれること
Curation
英語での意味: 「Curation」は、主に情報やアイテムを整理、選定、管理する行為 機械学習(ML)の意味: 「キュレーション」は、学習データセットの選定、整理、品質管理のプロセスを指す
Pickle
英語での意味: 「Pickle」は、食べ物(特に野菜や果物)を酢や塩などで漬けて保存すること 機械学習(ML)の意味: 「Pickled model」は、学習したモデルをPythonの
pickle
ライブラリでシリアライズし、後で再利用するために保存したもの
Heuristic
英語の意味: 「ヒューリスティック」は、問題解決や意思決定を行う際に、直感や経験則に基づいて迅速に解を得る方法 機械学習(ML)の意味: 「ヒューリスティック」は、最適解を求めるための近似的な手法や戦略で、計算資源を節約しつつ効率的に解決策を導く手法
Oscillations
英語的な意味: 「振動」や「揺れ」。物がある点を中心に前後に繰り返し動く現象。 ML的な意味: モデルの予測や学習過程において、誤差や値が安定せず、繰り返し上下に揺れ動く現象。特に学習率が高すぎる場合や過学習に関連して使われる。 対策:学習率を小さくすることで、予測の揺れを抑える。
Holdout data Holdout data - Machine Learning Glossary
英語的な意味(Holdout):協調や妥協を拒む人、抵抗・拒否行為 ML的な意味:トレーニング中に意図的に使用されない(「ホールドアウト」)サンプル。 例)検証データセットとテストデータセット(トレーニングにあえて含めないデータ)
model-interpretability-Explainability-AI
- 注意機構の可視化 (Attention Mechanisms): モデルが入力のどの部分に注目しているかを示すことで、特に自然言語処理(NLP)や画像認識での解釈性を向上。 ※ 機械翻訳や画像キャプション生成における、単語や画像領域への重み付けの可視化による判断根拠特定。
- SHAP値(シャープレイ値): 各特徴量が予測に与える影響をゲーム理論に基づいて定量化し、予測の説明を提供。 ※ 個別予測に対する各特徴量の寄与度(シャープレイ値)の定量化と、ブラックボックスモデルの説明。
- 線形回帰 (Linear Regression): 特徴量と予測値が線形関係にあるため、特徴量の係数から予測の根拠を解釈しやすい。 ※ 特徴量の係数を用いた、結果への直接的な影響度の解釈と予測モデリング。
- 決定木 (Decision Tree): 分岐条件が明示的で、予測過程をツリー構造で追跡できるため、意思決定プロセスを理解しやすい。 ※ 分岐ルールが明示的なツリー構造に基づく分類・回帰、および意思決定プロセスの可視化。
- ロジスティック回帰 (Logistic Regression): 二項分類において、特徴量の重みがクラス予測に与える影響を解釈可能。 ※ 二値分類問題における、各特徴量のオッズ比を用いたクラス予測への影響度評価。
- k近傍法 (k-NN): 新しいデータの予測を最も近い訓練データに基づいて行うため、予測に寄与した具体的な事例を示せる。 ※ 近傍データ点に基づく分類・回帰、および予測根拠となる類似インスタンスの提示。
- 一般化加法モデル (GAM): 各特徴量が予測に与える影響を独立して評価できるため、複雑な関係でも解釈が容易。 ※ 平滑化関数等を用いた各特徴量の非線形な効果の解釈と、加法性を仮定した予測モデリング。
- ランダムフォレスト (Random Forest): 複数の決定木を組み合わせたモデルで、特徴量の重要度を評価し、予測の理解を助ける。 ※ 高精度なアンサンブル予測と、特徴量重要度(例: 平均不純度減少量)による予測要因の特定。
- Grad-CAM(グラディエント重み付きクラス活性化マッピング): CNNが特定のクラスを予測する際に注目している画像領域をヒートマップで可視化し、画像認識モデルの判断根拠を示す。 ※ CNNによる画像分類における、勾配情報を用いた判断根拠領域のヒートマップ可視化。
- LIME(局所解釈可能なモデル不変説明): 複雑なモデルの予測を局所的に解釈可能なモデルで近似し、ブラックボックスモデルの決定を説明する。 ※ ブラックボックスモデルの個別予測に対する、局所的な代理モデル(例: 線形モデル)を用いた解釈。
- 特徴量可視化 (Feature Visualization): ニューラルネットワークの各層やニューロンが反応する入力パターンを生成し、ネットワークの内部表現を視覚的に理解できる。 ※ ニューラルネットワーク内部の特定ニューロンや層を最大活性化させる入力パターンの生成による、学習済み特徴の視覚的理解。
- 顕著性マップ (Saliency Maps): 入力画像の各ピクセルが分類結果に与える影響度を可視化し、重要な視覚的特徴を特定する。 ※ 画像分類における、出力に対する入力の勾配を用いたピクセルレベルでの重要度可視化。
- X線画像のクラス活性化マッピング (Grad-CAM for X-ray Images): X線画像の異常検出において、モデルが注目している解剖学的領域を可視化し、医師が診断根拠を確認できるようにする。 ※ 医療画像AIにおける、Grad-CAMを用いた診断根拠となる特定解剖学的領域の可視化による医師の判断支援。
- 不確実性推定 (Uncertainty Estimation): 予測の不確実性を定量化・可視化し、モデルの信頼度を評価することで信頼性の高い意思決定をサポートする。 ※ ベイズ推定やアンサンブル法、モンテカルロ・ドロップアウトなどを用いたモデル予測の信頼度評価と、高リスク予測の特定による意思決定支援。
- 反事実的説明 (Counterfactual Explanations): 「この予測結果を変えるためには入力をどう変更すべきか」を示し、実用的な洞察を提供する。 ※ 最適化アルゴリズムを用いた、予測結果を変更するための最小限の入力摂動の探索と、具体的なアクション示唆。
関連: BigQuery Explainable AI の概要
Explainable AI (XAI とも呼ばれる)は、データ行の各特徴がどのように予測結果に影響を与えるかを定義することで、予測 ML モデルが分類タスクと回帰タスクに対して生成する結果の理解を容易にする。 👀 一覧表を要確認
教師あり学習 (Supervised Learning)
- サポートベクターマシン(support-vector machine, SVM) ※機械学習のアルゴリズムで、データの分類や回帰に用いられます。特に、2つのクラスを区別する境界線(超平面)を最大のマージンで決定することで、高い汎用性を実現する手法
- Naive Bayes (ナイーブベイズ) ※ 主にカテゴリ分類に用いられる確率論的手法
- KNN (K-nearest neighbor) (K近傍法) ※ クラス分類が一般的な用途
- Logistic Regression (ロジスティック回帰) ※ 名前に「回帰」とありますが、確率的なクラス分類を目的
- Feedforward Neural Network (フィードフォワードニューラルネットワーク) ※ 入力層から出力層へ情報を順番に伝播させるニューラルネットワーク。層ごとの計算を行い、最終的に出力を生成する。 ※ 主に分類問題や回帰問題で使用。例えば、顧客の購買予測や、株価予測モデルなどのタスクで活用される。
- CNN (Convolutional Neural Network) (畳み込みニューラルネットワーク) ※ 画像認識をはじめとした分類タスクで多用されます
- Ensemble (アンサンブル) ※ 複数の分類器を組み合わせて予測精度を向上させる手法(バギング、ブースティング、スタッキングなど)
- XGBoost (Extreme Gradient Boosting) ※ 勾配ブースティングの手法で、分類問題でもよく使われます
- ROC-AUC ※ 分類モデルの評価指標(ROC曲線下面積)
- attention based models ※ 特にテキストや画像の分類タスクで利用例が多い
- 混合行列(Confusion Matrix)
- Classification Metrics (分類指標)
教師なし学習 (Unsupervised Learning)
- K-means (K-平均法|クラスタリング) ※ 与えられたデータをK個のクラスタに自動的に分類する手法。各クラスタの中心点(セントロイド)を計算し、データを最も近い中心点に割り当てることでクラスタリングを行う。主に無監督学習で用いられる。
- PCA (Principal Component Analysis) (主成分分析) ※ 多次元データの特徴を保持しつつ、次元を削減する手法。データの分散を最大化する新しい基底を見つけ、最も重要な特徴を抽出することで、データの可視化や処理の効率化に役立つ。
- N-gram (N-グラム) ※ 連続するN個の単語や文字を一つの単位として捉える手法。自然言語処理において、テキストの文脈を解析するためによく用いられ、テキスト生成や感情分析などで活用される。
- Feature Clipping (特徴量クリッピング|Gradient Clipping|勾配クリッピング) ※ 特徴量や勾配が一定の閾値を超えた場合に、過度な値を制限する手法。これにより、学習の安定性が向上し、勾配消失や爆発といった問題を防ぐことができる。
- Log Scaling Normalization (対数スケーリング正規化) ※ 特に右に偏った分布を持つデータに対して、対数変換を行い、スケールを調整する手法。広範囲の数値を均等に扱うことで、モデルの学習を効率化する。
- Feature Crosses (特徴量クロス) ※ 複数の特徴量を掛け合わせて新たな特徴量を生成する手法。モデルに非線形の関係を取り入れることで、予測精度を向上させることができる。
- SMOTE (Synthetic Minority Over-sampling Technique)|オーバーサンプリング手法 ※ 不正利用のデータが少ない場合、SMOTEで不正利用のサンプルを増やし、モデルが不正利用を正確に検出できるようにする。二値分類、多クラス分類(クレジットカード不正検出など)
強化学習 (Reinforcement Learning)
-
Q learning (Q学習)
この式はQ学習の更新式で、「経験から学ぶ」プロセスを表しています。左辺は更新後のQ値、右辺は「現在の知識を保持する部分」と「新しい情報を取り入れる部分」の重み付き平均です。 は学習率(0〜1)で、値が大きいほど新しい経験を重視します。 は即時報酬、 は将来の報酬の重要度(割引率)、 は次の状態での最適行動の価値を表します。この更新を繰り返すことで、エージェントは最適な行動戦略を学習します。
-
SARSA (State-Action-Reward-State-Action): ※ オンポリシー型の強化学習アルゴリズム。選択した行動に基づいて価値関数を更新するため、より安全な探索が可能。Q学習とは異なり、次の行動を実際に選んだ結果を使用して更新する点が特徴。
SARSAアルゴリズムでは、行動価値関数
Q(s_t, a_t)
を更新する際、現在の状態s_t
と行動a_t
に対する価値を、次の状態s_{t+1}
とその行動a_{t+1}
に基づいて調整します。更新式は、現在の価値と次の状態での価値との差を反映させ、学習率α
と割引率γ
を使って次の状態の影響を調整します。これにより、エージェントは報酬を得るたびに価値関数を改善していきます。 -
モンテカルロ法 (Monte Carlo Methods): ※ 完全なエピソードの結果に基づいて行動価値関数を更新する手法。エピソード全体の報酬を平均化し、各行動の評価を行うことで学習を進める。モンテカルロ法とはシミュレーションや数値計算を乱数を用いて行う手法の総称。元々は、中性子が物質中を動き回る様子を探るためにスタニスワフ・ウラムが考案しジョン・フォン・ノイマンにより命名された手法
-
深層強化学習 (Deep Reinforcement Learning): ※ 深層学習と強化学習を組み合わせることで、高次元データを直接処理できる手法。複雑な環境における学習を実現し、自動運転やゲームなどの分野で注目されている。
-
Actor-Critic法: ※ 強化学習における重要な手法で、ポリシーと価値関数を同時に学習するアプローチ。 方策(Actor)と価値関数(Critic)を同時に学習する手法。方策改善と価値評価を並行して行うことで、学習の安定性と効率性を向上させる。 方策勾配法などの方策ベースの RL アルゴリズムと、値反復、Q 学習、SARSA、TD 学習などの値ベースの RL アルゴリズムを組み合わせた強化学習 (RL) アルゴリズムのファミリー。
-
DQN (Deep Q-Network): ※ Q学習と深層学習を融合した手法。高次元の入力データから直接Q値を推定し、Atariゲームなどで人間を超えるプレイを実現。
ニューラルネットワーク(NN)関連
- DNN training (ディープニューラルネットワークのトレーニング) ※ 多層のニューラルネットワークを用いてモデルを学習させるプロセス。データを前向きに伝播させて誤差を逆伝播し、重みを最適化することでモデルの予測精度を向上させる。
- Neural Networks (ニューラルネットワーク) ※ 生物の神経回路に触発された計算モデルで、入力層から出力層へと情報を伝達し、隠れ層で処理を行う。複雑な関数を近似する能力があり、画像認識や音声認識などに広く使われる。
- RNN (Recurrent Neural Network) (再帰型ニューラルネットワーク) ※ 時系列データや順序を持つデータの処理に特化したニューラルネットワーク。隠れ層の出力が次の時間ステップの入力にも利用され、時間的依存性を学習することができる。
- LSTM (Long Short Term Memory) (長短期記憶ネットワーク、RNNの一種) ※ RNNの一種で、長期的な依存関係を学習する能力を持つ。通常のRNNでは学習が難しい長期間の情報を保持するため、ゲート機構を用いて重要な情報を選別して保持する。
活性化関数:
-
Sigmoid in Machine Learning (シグモイド関数)
- 入力 の値を0から1の範囲に変換するS字型の活性化関数です。ニューラルネットワークでは、出力が確率として解釈される場合に使用されます(特に分類タスクで活用)。ロジスティック回帰で使用される確率的解釈に由来。
- 二項分類問題(例: ロジスティック回帰、スパムフィルタリングなど)での使用。
-
ReLU (Rectified Linear Unit) (整流線形単位)
- ReLU(Rectified Linear Unit)は、入力が0より大きければそのまま出力し、0以下なら0を出力するニューラルネットワークの活性化関数。シグモイド関数やTanh関数は勾配消失問題に悩まされた。ReLUはこの問題を解決するために登場。
- CNNや深層学習(隠れ層に強み)のモデルで広く使用され、高速な学習と勾配消失問題の軽減に寄与。
-
Tanh (Hyperbolic Tangent) (双曲線正接)
- 入力値を-1から1の範囲に変換する関数です。シグモイド関数と似ていますが、出力の範囲が0から1ではなく、-1から1の範囲に収束する。シグモイド関数に似た挙動を持ちながら、よりバランスの取れた範囲(-1から1)を提供し、特にRNNで使われることが多い。
- RNN(時系列データを処理する)での使用、特に隠れ層の活性化関数としての利用。
-
Softmax (ソフトマックス関数)
- ソフトマックス関数や正規化指数関数は、シグモイド関数を多次元に拡張した関数。多クラス分類問題において、ニューラルネットワークの出力を確率分布に変換することができるので、最後の活性化関数としてよく用いられる。
- 各出力値は 0から1 の間に収束し、全ての出力の合計は 1 になります。
-
NLP Transformers (自然言語処理用トランスフォーマーモデル)
- 自然言語処理(NLP)タスクに特化したアーキテクチャ。自己注意機構(Self-Attention)を利用して文脈を捉える。従来のRNNやLSTMに代わる強力なモデルとして並列計算に優れ、長文処理に対応可能。
- 機械翻訳、文章要約、質問応答、BERT、GPTシリーズなど、最新NLPモデルで使用。
-
GAN (Generative Adversarial Network) (生成的敵対ネットワーク)|教師なし学習
- GANは、二つのニューラルネットワーク(生成器と識別器)を対抗的に訓練し、データを生成するモデル。生成器が新しいデータを作り、識別器が本物か偽物かを判断。損失関数を最小化することを目指す。
- 画像生成(DeepFake、Art Generation)、データ拡張、画像修復や変換(画像のノイズ除去、スタイル転送など)。
-
- 言語データや画像データ、音声データなどをコンピュータが理解しやすい数値形式に変換する手法。言語データを数値で表現し、語彙の意味的な関係をモデルが学習。
- 単語の類似度計算(Word2Vec, GloVe)、テキスト分類、推薦システム。
-
One-hot Encoding (ワンホットエンコーディング)
- カテゴリカルデータを数値ベクトルに変換する手法。各カテゴリをベクトルの中で1つだけ1にし、残りは全て0にする。
- カテゴリカルな特徴量をニューラルネットワークに入力する際に使用。機械学習の分類問題で、ラベルを数値化する際に利用。
-
Original Encoding (オリジナルエンコーディング)
- 入力データの特徴量を元の状態で数値に変換する方法。データの本来の意味や値を損なわずに数値化し、必要最小限の変換を行う。
- 数値データのままで機械学習モデルに入力する場合や、標準化や正規化が必要な場合に使用。
-
word2vec|自然言語処理
- Word2Vecは、単語の意味を数値ベクトル(埋め込み)で表現するための自然言語処理手法の一つ。
- この手法では、単語がどのような文脈で使われるかに基づいて、各単語に対して密なベクトル(多次元空間の座標)を割り当てる。これにより、言語の意味的な関係を数値で捉えることができる。
モデル評価
- Cosine Similarity (コサイン類似度) ※ ベクトル空間内の2つのベクトル間の角度を測定し、類似度を計算する手法。テキストデータや推薦システムにおいて、アイテム間の類似性を評価する際に用いられる。
- Precision and Recall (適合率と再現率) ※ 不均衡データにおいて重要な評価指標。Precisionは正確性を、Recallはカバー範囲を示し、両者のバランスが評価される。
- F1 Score (F1スコア) ※ 精度(Precision)と再現率(Recall)の調和平均。特に不均衡なデータセットでのモデル評価に有効。
- ROC Curve (ROC曲線) ※ 真陽性率と偽陽性率をプロットした曲線。モデルの性能を直感的に評価するために使用される。
- AUC (Area Under the Curve) (AUC:曲線下面積) ※ ROC曲線の下の面積。AUCが高いほど、モデルは異常を正しく識別できる能力が高い。
損失関数:
- Mean Absolute Error (MAE) (平均絶対誤差) ※ 回帰モデルの評価指標で、予測値と実測値の絶対誤差の平均を示す。モデルの精度を直感的に理解しやすい。
- Mean Squared Error (MSE) (平均二乗誤差) ※ 回帰モデルにおける誤差評価指標。誤差を二乗して平均を求め、誤差の大きさを強調する。
- Logarithmic Loss (Log Loss) (対数損失) ※ 確率的な出力を持つ分類モデルの性能を測る指標。確率的に正しいクラスに近いほど低い値を取る。
- Hinge Loss (ヒンジ損失) ※ 主にサポートベクターマシン(SVM)で使用される分類問題の損失関数。クラス間のマージンを最大化するように最適化される。
- Lift and Gain Charts (リフトチャートとゲインチャート) ※ モデルのパフォーマンスを評価するためのツール。特にマーケティングや営業の予測で、ターゲットの抽出の有効性を確認するために使われる。モデルがターゲットクラスを効果的に予測しているか、またランダム予測と比較してどれくらい改善されているかを視覚化するために使用。
- Calibration Curve (キャリブレーション曲線) ※ モデルの確率的出力がどれほど信頼できるかを評価するための手法。予測確率が実際の発生確率に一致しているかを示す。
モデル解釈/説明
→ model interpretability|Explainability AI
- Cross-validation (交差検証) ※ モデルの汎用性を確認するための手法。データを複数のサブセットに分けて学習・検証を繰り返し、過学習を防ぎ、モデルの性能を安定的に評価する。
- nested cross-validation(ネストされた交差検証)は、ハイパーパラメータの最適化を行う際に、データリーケージ(データ漏洩)を防ぎ、より信頼性の高い性能評価を行いたい場合に適する。2重の交差検証ループ(インナー/アウター)を実施。
- What-If Tool (What-Ifツール) ※ モデルの性能をさまざまな入力に対してテストし、データの特徴の重要性を分析し、複数のモデルやデータセットにおけるモデルの挙動を視覚化。GoolgeのOSS。
- Learning Interpretability Tool (LIT) (学習解釈ツール) ※ モデルの予測や学習過程を視覚的に解釈するためのツール。特徴量の重要度やモデルの挙動を説明可能にする。
- Integrated gradients(統合勾配方式|Google cloud ) ※ モデルの予測に対する各特徴量の寄与度を定量化する手法で、入力特徴量と基準値(通常はゼロ)との間を直線的に変化させ、その間の勾配を積分することで特徴量の重要度を評価。大規模なネットワークや画像などの特徴空間への拡張を可能にする代替アプローチと比較した場合に、あらゆる微分可能モデル(画像、テキスト、構造化データなど)への用途性の高さ、実装しやすさ、理論的正当性、および計算効率性により、利用者の多い解釈可能性テクニックとなった。特徴量重要度の理解、データの歪みの識別、およびモデル性能のデバッグなど、多様なユースケースがある。
- Shapley Explanation (シャープリー値による説明|Google Cloud ) ※ 各特徴量がモデルの予測にどれほど貢献しているかを定量的に示す手法。ゲーム理論に基づき、予測の公平な分配を行う。Shapley 値サンプリング方式は、ツリーとニューラル ネットワークを使用したメタ アンサンブル学習を行うこのモデルでよく機能。
- XRAI in Machine Learning (機械学習におけるXRAI|Google Cloud ) ※ 深層学習モデルにおける予測結果の解釈を提供する技術。特に画像やテキストデータに対して、どの部分が予測に影響を与えたのかを視覚的に説明する。
その他の技術
方法 | 正則化タイプ | 特徴選択 | 係数の挙動 | 主な利点 | 主な欠点 |
---|---|---|---|---|---|
Lasso回帰 | L1 | 可能 | ゼロに縮小 | 特徴選択を自動で行う。重要な特徴だけ残る | 相関の強い特徴が選ばれない可能性がある |
Ridge回帰 | L2 | 不可 | 小さくなる | 特徴量の縮小。全特徴量を使う | 特徴選択は行わず、すべての特徴量を使う |
Elastic Net | L1 + L2 | 可能 | ゼロに縮小/小さくなる | LassoとRidgeの良いとこ取り。相関の強い特徴量に対応 | ハイパーパラメータの調整が難しいことがある |
- Federated Learning (フェデレート学習) ※ 分散型機械学習手法。データを中央集約せず、各デバイスでローカルにモデルを学習し、その結果を集約することでプライバシーを保護しつつ学習を行う。
- Collaborative Filtering using Matrix Factorization (行列分解を用いた協調フィルタリング) ※ ユーザーとアイテムの相互作用に基づいて、未知のアイテムを予測する手法。行列分解を使って、ユーザーとアイテムの潜在的な特徴を抽出し、推薦システムに利用される。
- tf.distribute.Strategy (TensorFlow 分散戦略) ※ TensorFlowで分散学習を行うためのAPI。複数のGPUやTPU、分散環境を利用して、大規模なデータセットの学習を効率的に行うための手法。
- Maximum Likelihood (最尤推定|さいゆうすいてい) ※ 統計学における推定方法の一つ。観測データが最も高い確率で発生するパラメータを推定する手法。確率モデルのパラメータ推定に広く使用される。観測されたデータからそれを生んだ母集団を説明しようとする際に広く使用。 観測データ は実際に観測されたデータの集合です。確率分布 はデータが従うと仮定する確率分布で、パラメータ によって特徴付けられます。尤度関数 は、与えられたデータ がパラメータ の下で観測される確率を示す関数です。積の記号 は、データポイントごとの確率をすべて掛け合わせることを示します。尤度関数は、観測データが最も「尤もらしく」得られるパラメータ を推定する際に使用されます。
Parametric and Nonparametric|MLモデルの分類
パラメトリック機械学習アルゴリズム
- 特徴: 学習する関数の形を事前に仮定し、その仮定に基づいてパラメータを学習するアルゴリズム。パラメータの数は固定されており、データの量には関係なく変わらない。
- 学習: 少ないデータで高速に学習、柔軟性: 仮定した関数形に制約があり、複雑な問題には不向き
- 代表例:
- 線形回帰 (Linear Regression)
- ロジスティック回帰 (Logistic Regression)
- ナイーブベイズ (Naive Bayes)
- 単純なニューラルネットワーク (Simple Neural Networks)
非パラメトリック機械学習アルゴリズム
- 特徴: 関数の形を仮定せず、データからその関数を柔軟に学習するアルゴリズム。パラメータ数はデータ量に依存し、データが多いほど複雑な関数を学習できる。
- 学習: 大量のデータと計算リソースが必要、学習速度が遅い 、柔軟性: 複雑な関数形にも適応可能
- 代表的例:
- k近傍法 (k-Nearest Neighbors)
- 決定木 (Decision Trees)
- SVM (Support Vector Machines)
Lazy learning(遅延学習)|モデルの分類
Lazy learning(遅延学習)は、モデルが訓練データを事前に学習するのではなく、予測の際にデータをその都度利用して推論を行う手法です。特徴的なのは、モデルの構築に時間がかからず、訓練データの保持と参照のみを行う点です。そのため、学習の段階ではほとんど処理を行わず、予測時に計算量が増加することがあります。 代表例:
- k-近傍法(k-NN)
- 局所回帰(Local Regression)
- 遅延ナイーブベイズ(Lazy Naive Bayes)
- Lazy Decision Trees
Google AI サービス関連
Vertex AI の概要|まずはここから
- AutoML を使用すると、コードの記述やデータ分割の準備を行わずに、表形式、画像、テキスト、動画のデータをトレーニングできます。これらのモデルは、オンライン予測用にデプロイするか、バッチ予測用に直接クエリを実行できます。
- カスタム トレーニングでは、任意の ML フレームワークの使用、独自のトレーニング コードの記述、ハイパーパラメータ チューニング オプションの選択など、トレーニング プロセスを完全に制御できます。カスタム トレーニング モデルを Model Registry にインポートし、ビルド済みまたはカスタム コンテナを使用してオンライン予測用にエンドポイントにデプロイできます。または、バッチ予測を直接クエリすることもできます。
- Model Garden を使用すると、Vertex AI と厳選されたオープンソース モデルとアセットを調査、テスト、カスタマイズ、デプロイできます。...
Model Garden|Vertex AI|Model一覧必読👀
Google 独自の評価基準を満たす世界最高水準の Google 製(Gemini)、サードパーティ製(Meta の Llama 3.1)、およびオープンソース製(Anthropic の Claude Model Family)のモデルの中からお選びいただけます。厳選した 160 以上のモデルはいずれも各カテゴリでクラス最高性能を達成しており、お客様はビジネスニーズに最もよく合う高パフォーマンスの基盤モデルを利用できます。
Vertex Explainable AI|説明可能なAI
サポートされているモデルタイプ: 入力のエンベディング(潜在表現)を提供できる TensorFlow モデルであれば、すべてサポートされます。ディシジョン ツリーなどのツリーベース モデルはサポートされていません(本質的に説明可能性の高いモデルのため)。PyTorch や XGBoost など、他のフレームワークのモデルはまだサポートされていません。 DNNの場合、上位レイヤ(出力レイヤに近い)は「意味のある」ことを学習済みであると通常は想定されるため、埋め込みには最後から 2 番目のレイヤが選択されることがよくあります。いくつかの異なるレイヤでテストし、得られる例を調査して、定量的(クラスマッチ)な尺度または定性的(合理的に見える)な尺度に基づいてレイヤを選択できます。
テスト データセットに対して、トレーニングの実行中に、モデルの集約のパフォーマンスを追跡および評価できます。この機能によって、モデルのパフォーマンス特性(特定のモデルが全体的にどの程度機能しているか、どこがうまく機能しないか、モデルのどこが優れているか)を把握できます。
Vertex AI Workbench は Jupyter ノートブックをベースとした開発環境であり、データ サイエンス ワークフロー全体に対応しています。Vertex AI Workbench インスタンスの Jupyter ノートブックから Vertex AI や他の Google Cloud サービスを操作できます。 Vertex AI Workbench のインテグレーションと機能を使用すると、データへのアクセス、データ処理の高速化、ノートブックの実行スケジュールの設定などを簡単に行える
- BigQuery と Cloud Storage のインテグレーションを使用して、Jupyter ノートブックのデータにアクセスし、探索する。
- Vertex AI 上で実行されるノートブックのコード実行スケジュールを使用して、モデルへの定期的な更新を自動化する。
- Dataproc クラスタでノートブックを実行してデータを迅速に処理する。
Vertex AI Model Monitoring を使用すると、必要に応じて、または定期的にモニタリング ジョブを実行して、表形式モデルの品質を追跡できます。アラートを設定している場合、指標が指定されたしきい値を超えると、Vertex AI Model Monitoring から通知が届きます。 たとえば、顧客のライフタイム バリューを予測するモデルがあるとします。顧客の習慣が変化すると、顧客の支出を予測する要因も変化します。そのため、モデルのトレーニングに以前使用した特徴と特徴値は、現在の予測には関連がない可能性があります。データのこの偏差はドリフトと呼ばれます。
Vertex AI Vizier は、複雑な機械学習(ML)モデルでのハイパーパラメータのチューニングを支援するブラックボックス最適化サービス。ML モデルに異なるハイパーパラメータが多数ある場合、手動でのチューニングは難しく時間がかかる。Vertex AI Vizier を使用すると、ハイパーパラメータが調整されてモデルの出力が最適化されます。デフォルトのアルゴリズムでは、ベイズ最適化により、パラメータ空間の検索をより効率的に行い、最適な解を導出 ブラックボックス最適化とは、次のいずれかの条件を満たすシステムの最適化です。
- 評価する既知の目的関数がない。
- 目的関数を使用して評価するにはコストがかかりすぎる(システムが複雑なことが多いため)。Vizier(英:助言者)
Occupancy analytics|Vertex AI
占有率アナリティクス モデルを使用すると、動画フレームに追加した特定の入力に基づいて、人や車両の数をカウントできます。人物と車両検出モデルと比較して、占有状況分析モデルには高度な機能が用意されています。これらの機能は、アクティブ ゾーン カウント、ラインクロス カウント、滞在検出です。
Vertex AI Agent Builder を使用すると、ML のスキルがまだ十分ではないデベロッパーでも、Google の基盤モデル、検索技術(セマンティック検索)、会話型 AI テクノロジーの力を活用して、エンタープライズ グレードの生成 AI アプリケーションを作成できます。
記述統計の確認、スキーマの推測、異常のチェックと修正、データセットのドリフトとスキューのチェックが含まれます。データセットの特性を理解することが重要です。これには、本番パイプラインで時間の経過とともにどのように変化する可能性があるかなどが含まれます。また、データの異常を探し、トレーニング、評価、および提供データセットを比較して、それらが一貫していることを確認する
TensorFlow I/O は、TensorFlow の拡張機能パッケージで、TensorFlow のビルトインサポートで提供されていない一連のファイルシステムとファイル形式の IO サポート(例:フォーマット変換)が含まれます。多数のシステムやクラウドベンダーに統合することができます。
TensorFlow Model Analysis|TFMA
TensorFlow モデル分析の目標は、TFX でモデル評価のメカニズムを提供することです。 TensorFlow モデル分析を使用すると、TFX パイプラインでモデル評価を実行し、結果のメトリクスとプロットを Jupyter ノートブックで表示できます。具体的には、以下を提供できます。
TensorFlow Lite (TFLite)
LiteRT(Lite ランタイムの略)は、以前は TensorFlow Lite と呼ばれていた、デバイス上の AI 向けの Google の高性能ランタイムです。幅広い ML/AI タスクに対応するすぐに実行可能な LiteRT モデルを見つけることができます。また、AI Edge 変換ツールと最適化ツールを使用して、TensorFlow、PyTorch、JAX モデルを TFLite 形式に変換して実行することもできます。 マルチプラットフォーム サポート: Android デバイス、iOS デバイス、組み込み Linux、マイクロコントローラに対応。
予測モデルを使用して予測を行う|Vertex AI|predictions for a forecast model
バッチ予測リクエストを行うには、Google Cloud コンソールまたは Vertex AI API を使用します。入力データソースは、Cloud Storage バケットまたは BigQuery テーブルに格納された CSV オブジェクトです。 AutoML による予測(predictions for a forecast model)は、エンドポイントのデプロイ、オンライン予測に対応していません。予測モデルからオンライン予測をリクエストするには、予測用の表形式ワークフローを使用します。
予測にカスタム コンテナを使用する|Vertex AI|custom container for prediction
Vertex AI がカスタム トレーニング モデルからオンライン予測を提供する方法をカスタマイズするには、Model リソースを作成するときに、事前にビルドされたコンテナではなくカスタム コンテナを指定します。カスタム コンテナを使用すると、Vertex AI は各予測ノードで任意の Docker コンテナを実行します。
Hello image data: Train an AutoML image classification model
増分トレーニング(incremental learning)により、通常はトレーニングが迅速に行われ、トレーニング時間が短縮されます。
Vertex AI で BigQuery ML モデルを管理する
BigQuery ML モデルを Vertex AI Model Registry に登録すると、これらのモデルをエクスポートすることなく、Vertex AI モデルと一緒に管理できます。Model Registry にモデルを登録すると、1 つのインターフェースを使用して、サービング コンテナなしでモデルのバージョン管理、評価、デプロイを行い、オンライン予測を実行できるようになります。
CREATE MODEL ステートメント
のMODEL_REGISTRY
オプションを使用して、モデルを Model Registry に登録できます。
メモリ使用量を減らすためのヒント|TensorFlow - TPU のトラブルシューティング
- 過剰なテンソル パディングを確認する
- テンソルパディングは、モデルがデータを適切に処理できるように、入力データのサイズを調整するために行う操作。主に畳み込み層やRNNなどで使用され、ゼロパディングが最も一般的
- bfloat16 形式を使用する
- 入力サイズ(モデル)が大きすぎる場合は、TensorFlow の試験運用版モデルの並列処理を使用すると、モデルのサイズに対応できる可能性があります。
Vertex AI Feature Store は、Vertex AI に不可欠なクラウドネイティブのマネージド Feature Store サービスです。このサービスでは、ML の特徴管理とオンライン サービング プロセスが合理化されます。特徴データを BigQuery のテーブルまたはビューで管理し、BigQuery データソースから直接オンラインで提供することができます。 Vertex AI Feature Store は、特徴データソースを指定してオンライン サービングを設定できるリソースをプロビジョニングします。その後、BigQuery データソースとやり取りするメタデータ レイヤとして機能します。最新の特徴値を BigQuery から直接提供し、低レイテンシでオンライン予測を実現します。
Custom-Prediction-Routines (カスタム予測ルーチン)|Vertex AI
カスタム予測ルーチン(CPR)を使用すると、HTTP サーバーの設定やコンテナのゼロからのビルドを行うことなく、前処理コードと後処理コードを使用してカスタム コンテナを簡単にビルドできます。前処理を使用して入力を正規化または変換する、外部サービスを呼び出して追加データを取得する、後処理を使用してモデル予測の形式を設定する、あるいはビジネス ロジックを実行する、などの処理が可能です。
- モデルサーバーや Dockerfile を記述する必要はありません。モデルサーバー(モデルをホストする HTTP サーバー)が用意されています。
- モデルをローカルでデプロイしてデバッグできるため、開発中のイテレーション サイクルを高速化できます。
Vertex AI マネージド データセットを使用してカスタムモデルをトレーニングする方法について説明します。 マネージド データセットを使用すると、次のことができます。
- データセットを一元的に管理する。
- ラベルと複数のアノテーション セットを簡単に作成する。
- 統合データのラベル付けを使用して、ヒューマン ラベリングのタスクを作成する。
- ガバナンスと反復型開発のため、モデルのリネージをトラッキングする。
- 同じデータセットを使用して AutoML モデルとカスタムモデルをトレーニングし、モデルのパフォーマンスを比較する。
- データの統計情報を生成して可視化する。
- データをトレーニング セット、テストセット、検証セットに自動的に分割する。
独自の検索拡張生成を構築する|Vertex AI Agent Builder
構成図DAGが参考になる
ExampleGen TFX|TensorFlow
TFX パイプラインコンポーネントの1つである ExampleGen コンポーネントはデータを TFX のパイプラインに投入します。 これは外部のファイルやサービスからデータを読み取り、ほかの TFX のコンポーネントが読み取る Examples を生成します。 また、一貫性のある方法でデータセットを分割します。分割は設定により変更可能です。 同時に機械学習のベストプラクティスに従い、データセットの並び替えを行います。 入力: CSV や TFRecord、BigQuery といった外部のデータソースからのデータ 出力: tf.Example レコード
AIアクセラレータは、AI処理の高速化を目的とした専用のハードウェアやソフトウェア。主にディープラーニングや機械学習のトレーニングと推論を効率化します。
- TPU(Tensor Processing Unit)
- Googleが開発したDeepLearning高速化の専用ハードウェア。
- 行列計算が多くを占めるモデル
- TPU は高精度の演算を必要とするワークロードには推奨されず、数週間または数か月のトレーニングを行うモデルに推奨(模擬試験より)
- GPU と比較して、大規模なトレーニングのパフォーマンスとコスト効率が大幅に向上
- GPU(Graphics Processing Unit)
- 高並列計算能力を持つ、AIモデルのトレーニング/NVIDIA製が主流。
- GPUは高精度のトレーニングを伴う深層学習トレーニングに適したハードウェアであり、複数のインスタンスでトレーニングを分散することで、アクセラレータ選択の微調整に最大限の柔軟性を持たせて実行時間を最小限に抑えることができる(模擬試験より)
- CPU
- 最大限の柔軟性を必要とする迅速なプロトタイピング
- トレーニングに時間がかからない単純なモデル
- 実際のバッチサイズが小さい小規模なモデル
- C++ で記述されたカスタムの TensorFlow オペレーションが多く含まれるモデル
Vertex AIのスケジューラ API の状態|Vertex AI
ACTIVE
PAUSED
COMPLETED
ConditionalParameter(条件付きハイパーパラメータ)|Vertex AI|コスト削減
ConditionalParameterSpec オブジェクトを使用すると、親ハイパーパラメータの値が指定された条件と一致したときに、トライアルにハイパーパラメータを追加できます。 たとえば、線形回帰またはディープ ニューラル ネットワーク(DNN)を使用して最適なモデルを見つけるハイパーパラメータ調整ジョブを定義できます。調整ジョブでトレーニング メソッドを指定するには、LINEAR_REGRESSION と DNN を指定して training_method という名前のカテゴリ ハイパーパラメータを定義します。training_method が LINEAR_REGRESSION の場合、調整ジョブでは学習率のハイパーパラメータを指定する必要があります。training_method が DNN の場合、調整ジョブでは学習率と隠れレイヤの数を指定する必要があります。
サイドカー モードとESP|Cloud Endpoints
- サイドカー モード: API管理機能を提供するプロキシ(Extensible Service Proxy (ESP))を各アプリケーションインスタンスと同じコンテナ内で実行する方式。
- ESP: APIリクエストの認証、トラフィック管理、モニタリング、ロギングなどを提供するプロキシ。(GPT整理)
API管理システム(サイドカー モード構成例)
│
├── アプリケーションサービス
│ ├── アプリケーションロジック(API)
│ └── データストレージ、外部サービス等
│
├── ESP(API管理プロキシ)
│ ├── 認証機能
│ ├── トラフィック制御
│ ├── モニタリング機能
│ ├── ロギング機能
│ └── レート制限
│
└── その他のコンポーネント
├── リクエストゲートウェイ(APIリクエストの受け付け)
└── APIゲートウェイ(プロキシとアプリケーションサービスの連携)
BigQuery ML モデルをトレーニングする際の注意点は、過学習です。過学習は、モデルがトレーニング データとあまりに一致する場合に発生し、新しいデータに対するパフォーマンスが低下します。BigQuery ML は、早期停止と正則化という 2 つの方法で過学習を防止します。
ハイパーパラメータを調整|過学習
ドロップアウト率: ドロップアウト レイヤは、モデルで正則化に使用されます。過学習の対策として、破棄する入力の割合を定義します。推奨範囲: 0.2 ~ 0.5。 学習率: イテレーション間でニューラル ネットワークの重みが変化する頻度です。学習率が高いと重みが大きく変動し、最適な値を見つけられないことがあります。学習率は低くても問題ありませんが、収束にさらに反復処理が必要になります。最初は 1e-4 から始めることをおすすめします。トレーニングが非常に遅い場合は、この値を増やします。モデルが学習していない場合は、学習率を下げてみてください。
予測ログの種類|VertexAI|オンライン予測ロギング(Online prediction logging)
コンテナ ロギング 予測ノードから Cloud Logging に stdout ストリームと stderr ストリームが記録されます。これらのログはデバッグに必要です。 v1 サービス エンドポイントでは、コンテナ ロギングがデフォルトで有効になっています。モデルをデプロイするときに無効にできます。また、デプロイしたモデルを変更するときに、ロギングを無効または有効にすることもできます。 アクセス ロギング Cloud Logging に各リクエストのタイムスタンプやレイテンシなどの情報が記録されます。 v1 と v1beta1 のサービス エンドポイントの両方で、アクセス ロギングはデフォルトで無効になっています。エンドポイントにモデルをデプロイするときに、アクセス ロギングを有効にできます。 リクエスト / レスポンス ロギング オンライン予測リクエストとレスポンスのサンプルが BigQuery テーブルに記録されます。 リクエスト / レスポンス ロギングを有効にするには、予測エンドポイントを作成するか、パッチを適用します。
Healthcare Natural Language API か AutoML Entity Extraction for Healthcare かを選択|Cloud Healthcare API
Healthcare Natural Language API には、医療テキストから医療のコンセプトや関連を抽出する、事前トレーニング済みの自然言語モデルが用意されています。Healthcare Natural Language API は、事前定義された一連の 医療ナレッジ カテゴリにテキストをマッピングします。 AutoML Entity Extraction for Healthcare を使用すると、独自のアノテーション(カスタムラベル)付き医療テキストと独自のカテゴリを使用してトレーニングされたカスタム エンティティ抽出モデルを作成できます。
Dataflow ML は、Dataflow と Apache Beam の
RunInference
API を組み合わせて使用します。RunInference
API では、モデルの特性とプロパティを定義し、その構成をRunInference
変換に渡します。この機能を使用すると、モデルの実装の詳細を知らなくても、Dataflow パイプライン内でモデルを実行できます。TensorFlow や PyTorch など、使用するデータに最適なフレームワークを選択できます。
RunInference API|Dataflow
RunInference API を使用すると、複数のモデルを含むパイプラインを構築できます。マルチモデル パイプラインは、複数の ML モデルを必要とするビジネス上の問題を解決するための A/B テストの実施や、アンサンブルの構築などのタスクに役立ちます。 複数のモデルでパイプラインを構築する場合、次の 2 つのパターンのいずれかを使用できます。
- A/B 分岐パターン: 入力データの一部が 1 つのモデルに送信され、残りのデータは 2 番目のモデルに送信されます。
- シーケンス パターン: 入力データは 2 つのモデルを順に通過します。
Scikit-learn|基本はCPUベース→GPUの適用も可能に
- Scikit-learnは主にCPUベースの計算に最適化されており、中小規模のデータセットに適している。大規模なデータセットやリアルタイムの応答が必要な場合、パフォーマンスに制限がある場合がある。 ↓
- GPUを活用したい場合は、scikit-learnに類似したAPIを持つNVIDIAのcuMLライブラリを検討し、Deep Learning VM (DLVM)などの環境での実行可能 変遷:
- 2023年以降、入力データがPyTorchまたはCuPy配列として提供され、scikit-learnがそのような入力を受け入れるように設定されている場合、限られた範囲ではあるが、GPUで実行できるscikit-learnの推定器が増えている。
Request-Response Logging|samplingRate|Vertex AI
専用エンドポイントと Private Service Connect エンドポイントでは、リクエスト / レスポンス ロギングを使用して、TensorFlow、PyTorch、sklearn、XGBoost モデルの 10 MB 未満のリクエスト / レスポンス ペイロードを記録できます -
samplingRate
: ログに記録するリクエストとレスポンスの割合。0 より大きく 1 以下の値に設定します。たとえば、すべてのリクエストをログに記録するにはこの値を1
に設定し、リクエストの 10% をログに記録する場合は0.1
に設定します。
samplingRate
を下げると、監視対象として考慮されるデータポイントが少なくなり、監視コストを削減しながら、迅速なドリフト検出が可能
2025/03/30 不合格記
次回に向けて:
問題集の選定の時点で間違っている可能性もあるが、次回に向けてまずは既存の過去問題集を復習して、模擬試験も完璧にする。また、MLの基礎的な項目もさらに理解を深めるチャンスと捉えて学習する
## 試験概要
- 50問/120分
- 1周を105分でギリギリ完了し、見直しは2問程度しかできなかった
## 受験の感想
- 難しい。かつ、英語の単語も理解できていないものが多く難しい
- 予想以上に、MLの基礎的な理解よりも、GoogleCloud のサービスとMLの実装や学習/改善に関する複合問題が多かった
- 特に、MLのパイプライン実装に関する問題が多数あった印象
- 悔しい。問題集は2周をやって過去問題も7割程度やり、動画学習もやっていただけに
- 過去問題からはあまり同様の問題がなかった印象も強い。
## 次回に向けて
問題集の選定の時点で間違っている可能性もあるが、次回に向けてまずは既存の過去問題集を復習して、模擬試験も完璧にする。また、MLの基礎的な項目もさらに理解を深めるチャンスと捉えて学習する
## 出題傾向
- MLパイプライン/データ処理に関する問題多数
- GeminiやLabmaなどの最近のMODELのAPI選定に関する問題も出題された
- TensorFlow I/O
- パイプライン ~ モニタリング の技術選定の問題少々
- パフォーマンスチューニングのための対象選定の問題多数(TPU/GPU..)
- Collaborative Filtering using Matrix Factorization の Matrix Factorization のみが選択肢に記述され、リコメンドに関する選定の問題もあった記憶
- ソフトマックス関数の登場が多数
- 分類問題と回帰問題の理解を解いつつ、モデル選定を行う問題多数
- 説明可能性に関する問題多数
- データの秘匿化に関する問題
- exampleGEN というワードが頻出していた
- RunInference API も頻発
- アクセラレータという単語も頻出
- Metadataというワードも結構出ていた。パイプラインの構成の問題で
不合格の結果レポートの表:
Section | Approximate % Scored Questions | Section Performance |
---|---|---|
Section 1: Architecting low-code AI solutions | 13% | Meets |
Section 2: Collaborating within and across teams to manage data and models | 14% | Does Not Meet |
Section 3: Scaling prototypes into ML models | 18% | Does Not Meet |
Section 4: Serving and scaling models | 20% | Borderline |
Section 5: Automating and orchestrating ML pipelines | 22% | Does Not Meet |
Section 6: Monitoring AI solutions | 13% | Does Not Meet |
2025/04/15:Udemy問題集の筆者へ改善要望提出
- 2025/04/16:Udemyで下記の要望を提出
- 2025/04/16:筆者から感謝と共に無料のクーポンの打診がある
Subject: Improvement Request regarding Google Cloud Certification Professional Machine Learning Practice Exam