翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。
探索的データ分析の実行 (EDA)
Data Wrangler には、数回のクリックで視覚化とデータ分析を生成するのに役立つ分析が組み込まれています。独自のコードを使用してカスタム分析を作成することもできます。
データフレームに分析を追加するには、データフローでステップを選択し、[Add analysis] (分析を追加) を選択します。作成した分析にアクセスするには、分析を含むステップを選択し、分析を選択します。
分析は、データセットの最大 200,000 行のサンプルを使用して生成され、サンプルサイズを設定できます。データフローのサンプルサイズの変更の詳細については、「」を参照してくださいデータフローサンプリング設定を編集する。
注記
分析は 1000 列以下のデータ用に最適化されています。追加列でデータの分析を生成すると、多少のレイテンシーが発生する場合があります。
次の分析をデータフレームに追加できます。
-
ヒストグラムや散布図などのデータビジュアライゼーション。
-
エントリ数、最小値と最大値 (数値データの場合)、最も頻度の高いカテゴリ (カテゴリ別データの場合) など、データセットの簡単な要約。
-
各特徴の重要度スコアを生成するために使用できるデータセットの簡単なモデル。
-
1 つ以上の特徴がターゲットの特徴と強い相関性があるかどうかを判断するために使用できるターゲットの漏洩レポート。
-
独自のコードを使用したカスタムビジュアライゼーション。
これらのオプションの詳細については、次のセクションを参照してください。
データおよびデータ品質に関するインサイトを取得する
データ品質とインサイトレポートを使用して、Data Wrangler にインポートしたデータを分析します。データセットをインポートした後にレポートを作成することをお勧めします。このレポートはデータのクリーニングと処理に役立ちます。欠損値の数や外れ値の数などの情報が提供されます。ターゲット漏洩や不均衡など、データに問題がある場合は、インサイトレポートでそれらの問題に注意を向けることができます。
以下の手順を使用して、データ品質とインサイトレポートを作成します。Data Wrangler フローにデータセットをインポート済みであることを前提としています。
データ品質とインサイトレポートを作成するには
-
Data Wrangler フローのノードの横にある省略記号アイコンを選択します。
-
[データインサイトを取得する] を選択します。
-
分析タイプ で、データ品質とインサイトレポート を選択します。
-
[分析名] に、インサイトレポートの名前を指定します。
-
[問題のタイプ] に、[回帰] または [分類] を指定します。
-
ターゲット列 には、ターゲット列を指定します。
-
[データサイズ] に、次のいずれかを指定します。
-
サンプルデータセット – データフローのインタラクティブサンプルを使用します。これには、データセットの最大 200,000 行を含めることができます。サンプルのサイズを編集する方法については、「」を参照してくださいデータフローサンプリング設定を編集する。
-
フルデータセット – データソースからフルデータセットを使用してレポートを作成します。
注記
完全なデータセットで Data Quality and Insights レポートを作成すると、Amazon SageMaker 処理ジョブが使用されます。 SageMaker 処理ジョブは、すべてのデータのインサイトを取得するために必要な追加のコンピューティングリソースをプロビジョニングします。ジョブ SageMaker の処理の詳細については、「」を参照してください SageMaker 処理によるデータ変換ワークロード。
-
-
[Create] (作成) を選択します。
以下のトピックはレポートの各セクションを示しています。
レポートはダウンロードすることも、オンラインで表示することもできます。レポートをダウンロードするには、画面右上にあるダウンロードボタンを選択します。
[概要]
インサイトレポートには、欠損値、無効な値、特徴型、外れ値の数などの一般的な情報を含むデータの簡単な概要が表示されます。また、データに問題がある可能性を示す、重要度の高い警告を含めることもできます。警告を調査することをお勧めします。
ターゲット列
Data Quality and Insights Report を作成すると、Data Wrangler はターゲット列を選択するオプションを提供します。ターゲット列とは、予測しようとしている列のことです。ターゲット列を選択すると、Data Wrangler はターゲット列分析を自動的に作成します。また、予測能力の順に特徴をランク付けします。ターゲット列を選択するときは、解決しようとしているのが回帰問題なのか分類問題なのかを指定する必要があります。
分類の場合、Data Wrangler は最も一般的なクラスの表とヒストグラムを表示します。クラスはカテゴリです。また、ターゲット値が欠落しているか無効である観測値または行も表示されます。
回帰の場合、Data Wrangler はターゲット列のすべての値のヒストグラムを表示します。また、ターゲット値が欠落している、無効である、または外れ値になっている観測値または行も表示されます。
クイックモデル
クイックモデルでは、データを使ってトレーニングしたモデルの想定される予測品質を推定できます。
Data Wrangler はデータをトレーニングフォールドと検証フォールドに分割します。サンプルの 80% をトレーニングに、値の 20% を検証に使用します。分類の場合、サンプルは層化分割されます。層化分割では、各データパーティションのラベルの比率は同じです。分類問題では、トレーニングフォールドと分類フォールドのラベルの比率を同じにすることが重要です。Data Wrangler は、デフォルトのハイパーパラメータを使用してXGBoostモデルをトレーニングします。検証データに早期停止を適用し、特徴の前処理は最小限に抑えます。
分類モデルの場合、Data Wrangler はモデルの要約と混同行列の両方を返します。
分類モデルの概要が返す情報の詳細については、「」を参照してください定義。
混同行列には、次の情報が表示されます。
-
予測されたラベルが実際のラベルと一致する回数。
-
予測されたラベルが実際のラベルと一致しない回数。
実際のラベルは、データ内の実際の観測値を表します。例えば、モデルを使用して不正取引を検出する場合、実際のラベルは実際に不正または不正でない取引を表します。予測されたラベルは、モデルがデータに割り当てるラベルを表します。
混同行列を使用すると、モデルが条件の有無をどの程度正確に予測できるかを確認できます。不正取引を予測する場合は、混同行列を使用してモデルの感度と特異性の両方を把握できます。感度とは、モデルが不正取引を検出する能力を指します。特異性とは、不正ではない取引を不正な取引として検出することを回避するモデルの能力を指します。
特徴の概要
ターゲット列を指定すると、Data Wrangler は特徴を予測能力の順に並べます。予測力は、80% のトレーニングと 20% の検証の分割後にデータで測定されます。Data Wrangler は、各特徴のモデルをトレーニングフォールドで別々にあてはめます。最小限の特徴の前処理を適用し、検証データの予測パフォーマンスを測定します。
スコアは [0,1] の範囲に正規化されます。予測スコアが高いほど、その列がターゲットを単独で予測するのに有用であることを示します。スコアが低いほど、列がターゲット列を予測できないことを示します。
単独で予測できない列を他の列と組み合わせて使用することで予測可能になることはまれです。予測スコアを使用して、データセット内の特徴が予測可能かどうかを確信をもって判断できます。
通常、スコアが低い場合は、特徴が冗長であることを示します。スコア 1 は完璧な予測能力を示し、多くの場合はターゲット漏洩を意味します。ターゲット漏洩は通常、予測時に使用できない列がデータセットに含まれている場合に発生します。例えば、ターゲット列と重複している場合があります。
サンプル
Data Wrangler は、サンプルが異常かどうか、またはデータセットに重複があるかどうかに関する情報を提供します。
Data Wrangler は、アイソレーションフォレストアルゴリズムを使用して異常サンプルを検出します。アイソレーションフォレストは、データセットの各サンプル (行) に異常スコアを関連付けます。異常スコアが低い場合は、サンプルに異常があることを示します。スコアが高いほど、サンプルに異常がないことを示します。通常、異常スコアが負のサンプルは異常と見なされ、異常スコアが正のサンプルは異常ではないと見なされます。
異常の可能性があるサンプルを調べる場合は、異常な値に注意することをお勧めします。例えば、データの収集と処理におけるエラーによって異常な値になる場合があります。以下は、Data Wrangler によるアイソレーションフォレストアルゴリズムの実装による最も異常なサンプルの例です。異常サンプルを調べる際には、ドメイン知識とビジネスロジックを使用することをお勧めします。
Data Wrangler は重複行を検出し、データ内の重複行の比率を計算します。データソースによっては、有効な重複データが含まれている場合があります。他のデータソースには重複があり、データ収集に問題がある可能性があります。問題のあるデータ収集によって発生した重複サンプルは、データを独立したトレーニングフォールドと検証フォールドに分割することに依存する機械学習プロセスに支障をきたす可能性があります。
サンプルが重複すると影響を受ける可能性があるインサイトレポートの要素は次のとおりです。
-
クイックモデル
-
予測力の推定
-
ハイパーパラメータの自動調整
[行を管理] の [重複データの削除] トランスフォームを使用して、データセットから重複サンプルを削除できます。Data Wrangler は、重複が最も多い行を表示します。
定義
データインサイトレポートで使用される技術用語の定義は次のとおりです。
バイアスレポート
SageMaker Canvas は Data Wrangler でバイアスレポートを提供し、データ内の潜在的なバイアスを明らかにするのに役立ちます。バイアスレポートは、ターゲット列 (ラベル) とバイアス (ファセット変数) が含まれている可能性があると思われる列との関係を分析します。例えば、顧客のコンバージョンを予測しようとする場合、ファセット変数は顧客の年齢である可能性があります。バイアスレポートは、データが特定の年齢グループにバイアスされているかどうかを判断するのに役立ちます。
Canvas でバイアスレポートを生成するには、次の手順を実行します。
Data Wrangler のデータフローで、フロー内のノードの横にあるその他のオプションアイコン ( ) を選択します。
コンテキストメニューから、データインサイトの取得 を選択します。
分析の作成サイドパネルが開きます。分析タイプのドロップダウンメニューで、バイアスレポート を選択します。
分析名フィールドに、バイアスレポートの名前を入力します。
モデルが予測する列を選択する (ターゲット) ドロップダウンメニューで、ターゲット列を選択します。
予測列は値またはしきい値ですか? の場合、ターゲット列にカテゴリ値がある場合は値、数値がある場合はしきい値を選択します。
予測値 (または前のステップで選択した内容に応じて予測しきい値 ) には、正の結果に対応するターゲット列値を入力します。例えば、顧客変換を予測する場合、値は顧客が変換されたことを示す
yes
ことです。バイアスを分析する列を選択するドロップダウンメニューで、ファセット変数とも呼ばれるバイアスが含まれていると思われる列を選択します。
列は値またはしきい値ですか? の場合、ファセット変数にカテゴリ値がある場合は値、数値がある場合はしきい値を選択します。
列値 (複数可) でバイアスを分析する (または前のステップで選択した内容に応じてバイアスを分析する列しきい値) には、潜在的なバイアスを分析する値を入力します。例えば、特定の年齢の顧客に対するバイアスをチェックする場合は、その年齢範囲の先頭をしきい値として使用します。
バイアスメトリクスの選択 では、バイアスレポートに含めるバイアスメトリクスを選択します。各メトリクスの詳細については、情報アイコンにカーソルを合わせます。
(オプション) オプションでプロンプトが表示されたら、追加のメトリクスを分析しますか?、はい を選択して、より多くのバイアスメトリクスを表示および含めます。
バイアスレポートを作成する準備ができたら、「追加」を選択します。
レポートが生成されると、選択したバイアスメトリクスの概要が表示されます。バイアスレポートは、データフローの分析タブからいつでも表示できます。
Histogram
ヒストグラムを使用して、特定の特徴の特徴値の数を確認します。[Color by] (色分け) オプションを使用して特徴間の関係を確認できます。
[Facet by] (ファセット別) 機能を使用して別の列の値ごとに、1 列のヒストグラムを作成できます。
散布図
[Scatter Plot] (散布図) 機能を使用して特徴間の関係を確認します。散布図を作成するには、[X axis] (X 軸) と [Y axis] (Y 軸) でプロットする特徴を選択します。これらの列は両方とも数値型列でなければなりません。
散布図は追加の列で色分けできます。
さらに、特徴別に散布図をファセット化することもできます。
テーブルの概要
[Table Summary] (テーブルの概要) 分析を使用してデータをすばやく要約します。
ログデータや浮動小数点データなどの数値データを含む列の場合、テーブルの概要は各列のエントリ数 (count)、最小値 (min)、最大 (max)、平均値、標準偏差 (stddev) を報告します。
文字列、ブール値、日付/時刻データなどの数値以外のデータを含む列の場合、テーブルの概要はエントリ数 (count)、最小頻度値 (min)、最大頻度値 (max) をレポートします。
クイックモデル
[Quick Model] (クイックモデル) ビジュアライゼーションを使用して、データをすばやく評価し、各特徴の重要度スコアを生成します。特徴の重要度スコア
クイックモデルチャートを作成する場合は、評価するデータセットと、特徴の重要度を比較するターゲットラベルを選択します。Data Wrangler は次を行います。
-
選択したデータセット内のターゲットラベルと各特徴に対するデータ型を推論します。
-
問題のタイプを決定します。Data Wrangler は、ラベル列内の個別の値の数に基づいて、その問題のタイプが回帰または分類のどちらであるかを判断します。Data Wrangler は、カテゴリ別しきい値を 100 に設定します。ラベル列に 100 を超える個別の値がある場合、Data Wrangler はそれを回帰問題として分類します。それ以外の場合、分類問題として分類されます。
-
トレーニング用に特徴とラベルデータを前処理します。使用されるアルゴリズムでは、ベクトルタイプに対するエンコーディング機能と double 型に対するエンコーディングラベルが必要です。
-
70% のデータでランダムフォレストアルゴリズムをトレーニングします。Spark RandomForestRegressor
は、回帰の問題に対してモデルをトレーニングするために使用されます。RandomForestClassifier は、分類の問題のモデルをトレーニングするために使用されます。 -
残りの 30% のデータでランダムフォレストモデルを評価します。Data Wrangler は、F1 スコアを使用して分類モデルを評価し、MSEスコアを使用して回帰モデルを評価します。
-
Gini 重要度メソッドを使用して、各特徴の重要度を計算します。
ターゲットリーク
ターゲット漏洩は、機械学習のトレーニングデータセットにターゲットラベルと強い相関性があっても、実際のデータでは利用できないデータがある場合に発生します。例えば、モデルで予測する列のプロキシとして使われる列がデータセット内に存在するとします。
[Target Leakage] (ターゲット漏洩) 分析を使用する場合、次を指定します。
-
Target (ターゲット): ML モデルで予測を行う対象の特徴です。
-
Problem type (問題のタイプ): 作業している ML 問題のタイプです。問題のタイプは [classification] (分類) または [regression] (回帰) のいずれかになります。
-
(オプション) Max features (最大特徴数): ビジュアライゼーション内に存在する特徴の最大数であり、ターゲット漏洩のリスクによってランク付けして特徴を表示しています。
分類では、ターゲットリーク分析は、最大機能 までの各列のレシーバー動作特性、または AUC - ROC曲線の下の面積を使用します。 回帰の場合、決定の係数、または R2 メトリクスを使用します。
AUC - ROC曲線は、最大約 1000 行のサンプルで、交差検証を使用して列ごとに個別に計算された予測メトリクスを提供します。スコア 1 は完璧な予測能力を示し、多くの場合はターゲット漏洩を示します。0.5 以下のスコアは、列の情報が、ターゲットの予測に有用な情報を単独で提供できなかったことを示します。列から単独で情報が得られないものの、他の特徴と併用するとターゲットの予測に役立つことがあり、低いスコアは特徴が冗長であることを示す場合があります。
多重共線性
多重共線性とは、2 つ以上の予測変数が互いに関連している状況です。予測変数は、ターゲット変数を予測するために使用するデータセット内の特徴量です。多重共線性がある場合、予測変数はターゲット変数を予測するだけでなく、相互の予測にもなります。
データ内のマルチコリニヤリティの測定値として、分散インフレ係数 (VIF)、プリンシパルコンポーネント分析 (PCA)、または Lasso 機能の選択を使用できます。詳細については、以下を参照してください。
時系列データの異常を検出する
異常検出ビジュアライゼーションを使用して、時系列データの外れ値を確認できます。異常と判断される基準を理解するには、時系列が予測項と誤差項に分解されることを理解しておく必要があります。時系列の季節性と傾向を予測項として処理します。残差を誤差項として処理します。
誤差項では、残差が異常と見なされるしきい値を、平均値から離れる偏差の標準の数として指定します。例えば、しきい値を 3 標準偏差として指定できます。平均値から 3 標準偏差を超える残差は異常値です。
次の手順に従って [Anomaly detection] (異常検出) 分析を実行できます。
-
Data Wrangler のデータフローを開きます。
-
データフローの [Data types] (データ型) で [+] を選択し、[Add analysis] (分析を追加) を選択します。
-
[Analysis type] (分析タイプ) で、[Time Series] (時系列) を選択します。
-
[Visualization] (ビジュアライゼーション) で、[Anomaly detection] (異常検出) を選択します。
-
[Anomaly threshold] (異常しきい値) で、値が異常と見なされるしきい値を選択します。
-
[Preview] (プレビュー) を選択して、分析のプレビューを生成します。
-
[Add] (追加) を選択して、Data Wrangler データフローに変換を追加します。
時系列データの季節的傾向分解
季節的な傾向分解ビジュアライゼーションを使用して、時系列データに季節性があるかどうかを判断できます。( を使用したSTL季節的傾向分解LOESS) メソッドを使用して分解を実行します。時系列を季節性、傾向、残差コンポーネントに分解します。この傾向は、時系列の長期的な進行を反映しています。季節性は、ある期間内に再発する信号です。時系列から傾向と季節性を削除すると、残差が得られます。
次の手順に従って [Seasonal-Trend decomposition] (季節性傾向分解) 分析を実行できます。
-
Data Wrangler のデータフローを開きます。
-
データフローの [Data types] (データ型) で [+] を選択し、[Add analysis] (分析を追加) を選択します。
-
[Analysis type] (分析タイプ) で、[Time Series] (時系列) を選択します。
-
[Visualization] (ビジュアライゼーション) で、[Seasonal-Trend decomposition] (季節性傾向分解) を選択します。
-
[Anomaly threshold] (異常しきい値) で、値が異常と見なされるしきい値を選択します。
-
[Preview] (プレビュー) を選択して、分析のプレビューを生成します。
-
[Add] (追加) を選択して、Data Wrangler データフローに変換を追加します。
カスタムビジュアライゼーションを作成する
Data Wrangler フローに分析を追加して、カスタムの可視化を作成できます。適用したすべての変換を含むデータセットは、Pandas DataFramedf
変数を使用してデータフレームを格納します。データフレームにアクセスするには、変数を呼び出します。
出力変数 chart
を指定して、Altair
import altair as alt df = df.iloc[:30] df = df.rename(columns={"Age": "value"}) df = df.assign(count=df.groupby('value').value.transform('count')) df = df[["value", "count"]] base = alt.Chart(df) bar = base.mark_bar().encode(x=alt.X('value', bin=True, axis=None), y=alt.Y('count')) rule = base.mark_rule(color='red').encode( x='mean(value):Q', size=alt.value(5)) chart = bar + rule
カスタムビジュアライゼーションを作成するには、次の手順を実行します。
-
可視化したい変換を含むノードの横にある [+] を選択します。
-
[分析を追加] を選択します。
-
[分析タイプ] には、[カスタム可視化] を選択します。
-
[分析名] には名前を指定します。
-
コードボックスにコードを入力します。
-
[Preview] (プレビュー) を選択して、ビジュアライゼーションをプレビューします。
-
[保存] を選択して可視化を追加します。
Python で Altair 可視化パッケージの使用方法がわからない場合は、カスタムコードスニペットを使用して始めることができます。
Data Wrangler には、検索可能な可視化スニペットのコレクションがあります。可視化スニペットを使用するには、[サンプルスニペットを検索] を選択し、検索バーにクエリを指定します。
次の例では、[ビン分割された散布図] のコードスニペットを使用しています。2 次元のヒストグラムをプロットします。
スニペットには、コードに加える必要のある変更を理解するのに役立つコメントが付いています。通常、コードにはデータセットの列名を指定する必要があります。
import altair as alt # Specify the number of top rows for plotting rows_number = 1000 df = df.head(rows_number) # You can also choose bottom rows or randomly sampled rows # df = df.tail(rows_number) # df = df.sample(rows_number) chart = ( alt.Chart(df) .mark_circle() .encode( # Specify the column names for binning and number of bins for X and Y axis x=alt.X("col1:Q", bin=alt.Bin(maxbins=20)), y=alt.Y("col2:Q", bin=alt.Bin(maxbins=20)), size="count()", ) ) # :Q specifies that label column has quantitative type. # For more details on Altair typing refer to # https://altair-viz.github.io/user_guide/encoding.html#encoding-data-types