マイクロソフト、解釈可能な機械学習ツールキット「InterpretML」をオープンソース化

[[264976]]

[画像出典: Microsoft Research ブログ 所有者: Microsoft Research ブログ]

人間は人工知能を生み出し、その生活は人工知能の影響を受けます。人工知能の行動が理解できれば、人間は人工知能をさらに活用できるようになります。最近、Microsoft Research は機械学習の理解可能性に関する記事を公開しました。Leifeng.com による全文の翻訳は以下の通りです。

AI システムが人間の生活に影響を与える場合、人々がその動作を理解することは非常に重要です。 AI システムの動作を理解することで、データ サイエンティストはモデルを適切に調整できます。モデルがなぜそのように動作するのかを説明できれば、設計者はその情報をエンドユーザーに伝えることができます。医師、裁判官、その他の意思決定者がこの強化されたインテリジェンス システムのモデルを信頼すれば、より優れた意思決定を行うことができます。さらに広い意味では、モデルの理解がより深まるにつれて、エンドユーザーが AI 主導の製品やソリューションをより迅速に導入する可能性が高くなり、規制当局の高まる要求にも応えやすくなる可能性があります。

現実には、理解可能性を実現することは複雑であり、多くの変数と人的要因に大きく依存するため、「万能」なアプローチは不可能です。理解可能性は、機械学習、心理学、人間とコンピュータの相互作用、デザインのアイデアに基づいた最先端の学際的な研究分野です。

Microsoft Research は近年、理解しやすい人工知能を作成する方法の研究に取り組んできました。現在、Microsoft は MIT オープンソース プロトコルの下で InterpretML ソフトウェア ツールキットをオープンソース化しました。オープンソース アドレスは https://github.com/Microsoft/interpret で、開発者はモデルやシステムを説明するさまざまな方法を試すことができます。 InterpretML は、解釈可能なブースティング マシン (一般的な加法モデルの改善) を含む、多数の解釈可能なモデルを実装できるほか、ブラック ボックス モデルの動作や個々の予測の説明を生成するためのいくつかのメソッドも実装できます。

理解可能性の方法をいくつかの簡単な方法で評価することにより、開発者はさまざまな方法で生成された説明を比較し、ニーズに最も適したものを選択できます。たとえば、比較方法は、方法間の一貫性をチェックすることで、データ サイエンティストが説明にどの程度の信頼を置くべきかを理解するのに役立ちます。

Microsoft は、オープンソース コミュニティと協力して InterpretML の開発を継続することを楽しみにしています。オープンソースのアドレスは https://github.com/Microsoft/interpret です。

この記事はLeiphone.comから転載したものです。転載する場合は、Leiphone.com公式サイトにアクセスして許可を申請してください。