解釈可能な機械学習のための Python ライブラリ

この記事はLeiphone.comから転載したものです。転載する場合は、Leiphone.com公式サイトにアクセスして許可を申請してください。

AI の偏りに関する懸念が高まるにつれ、モデルによって生成された予測とモデル自体の仕組みを説明できる実践者の能力がますます重要になります。幸いなことに、上記の問題を解決するために多くの Python ツールキットが開発されています。以下では、機械学習モデルの翻訳と解釈のための既存の確立されたツールキット 4 つについて簡単に説明します。

これらのツールキットは pip 経由でインストールでき、包括的なドキュメントが用意されており、解釈可能性を向上させるために視覚化が重視されています。

イエローブリック

このツールキットは本質的には scikit-learn の拡張機能であり、非常に実用的で美しい機械学習モデルの視覚化ツールを提供します。 `visualiser` オブジェクトはコアインターフェイスであり、scikit-learn 推定器であるため、scikit-learn ワークフローに精通している場合は、非常に馴染み深いものになります。

この視覚化ツールは、モデルの選択、機能の重要性、モデルのパフォーマンス分析などの側面をカバーします。

いくつかの短い例を見てみましょう。

ツールキットは pip 経由でインストールできます。

 pip インストール yellowbrick

ツールキットのいくつかの機能を説明するために、scikit-learn のワイン認識データセットを使用します。このデータセットには、13 個の機能と 3 つのターゲットカテゴリが含まれています。 scikit-learn 経由で直接ロードできます。以下のコードでは、データセットをインポートし、それを pandas データフレームに変換します。データセットは、他のデータ処理を行わずにモデルを直接トレーニングするために使用できます。

 pandasをpdとしてインポートする
sklearnからデータセットをインポートする
wine_data = データセット.load_wine()
 df_wine = pd.DataFrame(wine_data.data、列 = wine_data.feature_names)
 df_wine[ 'ターゲット' ] = pd.Series(wine_data.target)

Scikit-learn は、データをさらにテストセットとトレーニングセットに分割するために使用されます。

 pandasをpdとしてインポートする
sklearnからデータセットをインポートする
wine_data = データセット.load_wine()
 df_wine = pd.DataFrame(wine_data.data、列 = wine_data.feature_names)
 df_wine[ 'ターゲット' ] = pd.Series(wine_data.target)

次に、yellowbrick ビジュアライザーを使用して、特徴間の相関関係を観察します。

 pandasをpdとしてインポートする
sklearnからデータセットをインポートする
wine_data = データセット.load_wine()
 df_wine = pd.DataFrame(wine_data.data、列 = wine_data.feature_names)
 df_wine[ 'ターゲット' ] = pd.Series(wine_data.target)

ここで、ランダムフォレスト分類器を適合させ、別のビジュアライザーを通じてそのパフォーマンスを評価します。

 yellowbrick.classifier から ClassificationReportをインポートします
sklearn.ensemble から RandomForestClassifierをインポートします
モデル = RandomForestClassifier()
ビジュアライザー = ClassificationReport(モデル、サイズ=( 1080 、 720 ))
ビジュアライザー.fit(X_train, y_train)
 visualizer.score(X_test, y_test)
ビジュアライザー.poof()

エリ5

ELI5 は、機械学習モデルのデバッグや、それらが生成する予測の解釈に非常に役立つ、もう 1 つの視覚化ツールキットです。 scikit-learn、XGBoost、Keras など、ほとんどの一般的な Python 機械学習ツールキットで使用できます。

ELI5 を使用して、上でトレーニングしたモデルの特徴の重要度を観察してみましょう。

 eli5をインポートする
eli5.show_weights(モデル、feature_names = X.columns.tolist())

デフォルトでは、`show_weights` メソッドは GAIN を使用して重みを計算しますが、他の `importance_type` を渡して特徴の重要度の計算を制御することもできます。

また、`show_prediction` を使用して、特定のサンプルの予測結果の理由を観察することもできます。

 eli5からshow_predictionをインポートshow_prediction(model, X_train.iloc[ 1 ], feature_names = X.columns.tolist(),
                show_feature_values=True)

ライム

LIME (Model-Independent Local Interpretable) は、モデルによって行われた予測を説明するためのツールキットです。 LIME は、さまざまな分類器の単一サンプル予測の説明をサポートし、scikit-learn をネイティブにサポートします。

LIME を使用して、上でトレーニングしたモデルからの予測の一部を解釈してみましょう。

LIMEはpipを使ってインストールできます

pip インストール lime

まず、トレーニングデータセット配列、モデルで使用される機能名、およびターゲット変数のカテゴリ名で初期化される説明を構築します。

 lime.lime_tabularをインポートする
説明者 = lime.lime_tabular.LimeTabularExplainer(X_train.values、feature_names=X_train.columns.values.tolist()、class_names=y_train.unique())

次に、モデルを使用してサンプルを予測することを表すラムダ関数を作成します。こちらの優れた、より詳細な LIME チュートリアルをご覧ください。まず、トレーニングデータセット配列、モデルで使用される機能名、およびターゲット変数のカテゴリ名で初期化される説明を構築します。

 predict_fn = ラムダ x: model.predict_proba(x).astype( float )

次に、指定したサンプルの予測結果を説明するために、Explainer を使用します。結果は以下の通りです。 LIME は視覚化結果を使用して、得られた予測結果に特徴がどのように影響するかを示します。

 exp = explainer.explain_instance(X_test.values[ 0 ], predict_fn, num_features= 6 )
 exp.show_in_notebook(show_all=False)

MLエクステンド

このツールキットには、機械学習で使用できる一連のユーティリティ関数が含まれています。スタッキングと投票、モデル評価、特徴抽出、特徴エンジニアリング、視覚化を通じて構築された分類器が含まれます。ツールキットのドキュメントに加えて、このホワイトペーパーもツールキットの詳細を理解するための優れたリソースです。

MLxtend を使用して、アンサンブル分類器の分類境界とそれを構成するサブ分類器の分類境界を比較してみましょう。

同様に、MLxtend も pip 経由でインストールできます。

 pip インストール mlxtend

いくつかのツールキットを紹介します。

 mlxtend.plotting から plot_decision_regionsをインポートします
mlxtend.classifier から EnsembleVoteClassifierをインポートします
matplotlib.gridspec を gridspec としてインポートします。
 itertoolsをインポートする
sklearnからmodel_selectionをインポート
sklearn.linear_model から LogisticRegressionをインポートします
sklearn.naive_bayes から GaussianNBをインポートします
sklearn.ensemble から RandomForestClassifierをインポートします

次のビジュアライザーは、一度に 2 つの機能のみを入力として受け入れることができるため、配列 ['proline', 'color_intensity'] を作成します。上記の ELI5 を使用して分析した場合、これら 2 つの特徴は最も重要な特徴であるためです。いくつかのツールキットを紹介します。

 X_train_ml = X_train[[ 'プロリン' , '色の強度' ]].値
y_train_ml = y_train.値

次に、いくつかの分類器を作成し、それをトレーニングデータに適合させ、MLxtend を使用して決定境界を視覚化します。出力は以下のコードから得られます。

 clf1 = ロジスティック回帰(ランダム状態= 1 )
 clf2 = ランダムフォレスト分類子(ランダム状態 = 1 )
 clf3 = ガウスNB()
 eclf = EnsembleVoteClassifier(clfs=[clf1, clf2, clf3], 重み=[ 1 , 1 , 1 ])
値 = 1.5
幅 = 0.75
 gs = グリッドスペック.GridSpec( 2 , 2 )
図 = plt.figure(図サイズ=( 10 , 8 ))
 labels = [ 'ロジスティック回帰' 、 'ランダムフォレスト' 、 'ナイーブベイズ' 、 'アンサンブル' ]
 clf 、lab、grd を zip([clf1、clf2、clf3、eclf] に格納します。
                         ラベル、
                         itertools.product([ 0 , 1 ], 繰り返し= 2 )):
    clf.fit(X_train_ml、y_train_ml) 関数
    ax = plt.subplot(gs[grd[ 0 ], grd[ 1 ]])
    図 = plot_decision_regions(X=X_train_ml、y=y_train_ml、clf=clf)
    plt.title(ラボ)