AI 実装の倫理的な展開をどのように確保するか?

人工知能や機械学習などの自動化および機械技術の驚異的な成長は、間違いなく組織にまったく新しいレベルの規模とサービスをもたらしました。

私たち全員が AI に期待できる利点の 1 つは、人間による偏見を排除し、少数派グループに対する差別を緩和する機会が得られることです。しかし、適切に管理されなければ、AI はアルゴリズムに偏見を組み込むことで差別をさらに強化する可能性があります。

今日では、私たちが住宅ローンの資格があるかどうか、あるいは詐欺と闘おうとする法執行機関や保険会社による監視下にあるかどうかが機械によって決定されることがよくあります。彼らの影響力は、高収入の職種の求人広告など、オンラインで表示される広告を決定することにまで及びます。

自動化システムにおける AI が十分に文書化されておらず、理解されていない組織は数多くあります。自動化された意思決定が影から抜け出し、説明責任を果たすべき時が来ています。

自動化された意思決定が直接的または間接的に人々の生活に影響を与え、機械が有害な方法で差別する可能性がある場合には、組織は立ち上がり、注意を払い、AI が可能な限り倫理的に実装されるように行動する必要があります。

最初のステップ

企業や政府機関は、導入するあらゆる機械技術から最高レベルの保護を得るよう努めるべきです。あらゆる自動化プロジェクトの開始時に、組織は法的、プライバシー、倫理的影響評価を実施し、リスクが完全に理解され、十分に軽減できることを確認する必要があります。これにより、価値を提供しながら許容可能なリスクレベルを確立するために、最も適切なソリューションが選択されることも保証されます。

これらの評価の承認は、展開アプローチ、自動化のレベル、救済の機会など、プロジェクトの問題のある側面に対して拒否権を持つ、多分野にわたる客観的なレビュー パネルによって実施される必要があります。データと分析におけるベストプラクティスの倫理を実装するには、展開はデータ/テクノロジー チームとビジネス リーダーシップ チーム間の共同プロセスである必要があります。

展開する

オンブズマンの報告書には、機械技術の設計と実装における優れた実践に関するいくつかの強力な推奨事項が概説されています。それでも、すべての組織には少なくとも以下のベスト プラクティスを考慮する義務があると考えています。

• 公平性、透明性、悪意のなさ、プライバシー、自律性の尊重、説明責任といった倫理的配慮から、機械技術を実装する組織は、影響を受けるすべてのグループに対して最高レベルの精度で機能することを保証する必要があります。
• モデルまたはシステムの出力に基づいてあらゆる決定を説明するメカニズムがあります。
• 有害な結果を検出し、軽減するためのプロセスを導入する
• 人々はプロセスに参加するためにインフォームドコンセントを与えることができる
• 不公平だと思われる結果に対して異議を申し立てる仕組みがあります。

あらゆる機械技術の開発と導入は、サンプル集団全体で一貫したパフォーマンスを確保するために、履歴データに基づく精度の倫理的レビューから始めて、反復的である必要があります。一部のグループのパフォーマンスが著しく悪い場合は、すべてのグループが適切に代表されるように、さらにデータを探す必要があります。

有害な結果のリスクが特定された場合、モデルまたはシステムのパフォーマンスに対する信頼を獲得しながら、人間による監視を確実にするために、人間が関与するソリューションから始めて、同様に反復的かつ慎重に展開する必要があります。

これは、人間の意思決定プロセスが絶対確実であるという意味ではありません。展開前に出力を理解して調査する機会を提供するだけです。このプロセスは、プロセスに人間の偏見が再び持ち込まれる可能性を減らすために、最も信頼できるオペレーターによって実行される必要があります。さらに、プロセスに関わる全員が無意識の偏見に関するトレーニングを受ける必要があります。

生産が開始されると、あらゆる機械技術の精度とパフォーマンスを継続的に測定し、監視する必要があります。既存の KPI とともに、このパフォーマンスは組織全体で報告および可視化できる必要があります。

レビュー

アルゴリズムによる意思決定を実装する組織は、定量的および定性的な考慮の両方を含む客観的な倫理審査プロセスを備えている必要があります。少数派グループのパフォーマンスの異常や時間の経過に伴うパフォーマンスの変化を把握するために、モデルのパフォーマンスをこれらの倫理的指標に照らして監視する必要があります。モデルは、運用プロセスの一部として継続的に適応および調整できます。

実装は困難に思えるかもしれませんが、組織は AI および機械学習プロジェクトにおける倫理的考慮事項の理解と実装を改善する必要があります。企業は、倫理的な結果を確保するために、自動化された意思決定のパフォーマンスと影響を管理する「質問-レビュー-測定-改善」アプローチを採用する必要があります。