AIの不健全で偏った非倫理的な使用

CIO は非倫理的な AI の例を認識し、企業の AI が中立性を保つための自らの役割を理解する必要があります。

[[275528]]

今日、AI テクノロジーの導入は急速に加速しています。調査会社ガートナーは、2020年までに人工知能が最高情報責任者の30%以上にとって上位5つの投資優先事項の1つになると予測しています。マッキンゼーの調査によると、世界中のテクノロジー企業がAIテクノロジーに200億ドルから300億ドルを費やしており、そのほとんどが研究開発費だという。

AI技術の社会的有用性は魅力的である一方、正当な懸念もある。ガーディアン紙は不平等プロジェクトについて次のように述べている。「我々自身の不平等な社会の歴史を反映するデータを機械に入力すると、事実上、プログラムに我々自身の偏見を学習するよう求めていることになる。」

残念ながら、AI の不適切な使用、偏った使用、または非倫理的な使用の例はよくあります。企業が中立性を保つ方法についてのアドバイスも提供します。

1. 住宅ローン

融資差別のパターンは、人間の偏見からアルゴリズムの偏見へと移行しました。 「たとえアルゴリズムを書いた人々が公正なシステムを作る意図を持っていたとしても、彼らのプログラムは少数派の借り手に不平等な影響を及ぼした、言い換えれば、法律上差別的だった」とハース経営大学院の金融学教授アデア・モース氏が共同執筆した研究は結論づけている。

銀行や不動産業者が非白人の借り手を恵まれない地域に組織的に隔離していた時代は過去のものだと考える人もいるかもしれない。しかし驚くべきことに、住宅ローン業界における自動化により、ユーザー インターフェースの背後に赤線を隠すことが容易になっただけです。コンピュータセキュリティの専門家ブルース・シュナイアー氏は、最近出版した著書「データとゴリアテ」の中で、ウェルズ・ファーゴ銀行が2000年に、購入者が適切な地域を見つけるのに役立つ「地域計算機」を使って住宅ローンを宣伝するウェブサイトを作成した経緯を詳しく述べている。計算機はユーザーの現在の郵便番号を収集し、現在の近隣地域の人口統計に基づいて民族性を学習し、同様の人口統計を持つ近隣地域のみを推奨します。今年初め、米国住宅都市開発省は住宅・住宅ローン広告における人種差別を理由にフェイスブック社を提訴した。

2. 人材

アマゾンの悪名高い採用偏見問題が世間の注目を集めたのは、同社の新しい採用システムが女性を排除しているとロイターが報じたときだった。

ロイター通信によると、アマゾンは2014年に、エンジニアやプログラマーの履歴書審査プロセスを自動化するために500以上のアルゴリズムを使用するチームを結成した。チームは、圧倒的に男性が多いアマゾンのソフトウェアチームのメンバーの履歴書を使用してシステムをトレーニングした。その結果、女子大学に通っていたり、履歴書に女性団体のメンバーと記載している者は不適格とみなされるようになった。

人事プロセスのあらゆるレベルでアルゴリズムによる意思決定システムを導入する企業が増えています。 2016 年現在、求職者の履歴書の 72% は人間ではなく、完全にコンピューターによって審査されています。つまり、求職者や従業員が人と接する機会は減るということであり、アマゾンのような事例がより一般的になる可能性がある。

しかし、良いニュースとしては、潜在的な偏見を排除するために取り組んでいる企業もあるということです。 ABBYY の創設者である David Yang 氏は、Yva.ai の共同創設者です。Yva.ai は、偏見につながる可能性のある指標 (性別、年齢、人種など) の使用を避けることでアルゴリズムによる偏見を回避するように特別に設計された分析プラットフォームです。たとえそれらの指標が二次的なもの (女性の活動やスポーツへの参加など)、二次的なもの (名前や卒業日など)、さらには大学に関するもの (少数派グループに対する偏見の指標としてますます非難されている一流大学への進学など) であってもです。

別の例として、現在マイクロソフト社が所有するLinkedInは、LinkedInプロフィールから性別情報を無視するのではなく、収集して活用するシステムを導入している。 LinkedIn はこの情報を使用して、潜在的な偏見を分類し、修正します。

3. 検索フィールド

基本的なインターネット検索でさえも偏見の影響を受ける可能性があります。例えば、UCLAの教授サフィヤ・ウモジャ・ノーブルは、姪に見せるための興味深いウェブサイトを探して「黒人女性」でグーグル検索したところ、不快な内容が満載のページしか見つからなかったことから、「抑圧のアルゴリズム」という本を書くきっかけを得た。一方、「CEO」を検索すると、白人の画像が多数表示されます。 （幸いなことに、CEO 問題は検索エンジンで解決されています。）

AdWords などの Google 検索の他の機能も偏っています。カーネギーメロン大学と国際コンピュータサイエンス研究所の研究者らは、男性の求職者は女性の求職者よりも高給の幹部職の求人広告を目にする可能性が高いことを発見した。 Google 翻訳は、看護師は女性、医師は男性と想定するなど、特定の言語を翻訳する際に性差別的であるとも言われています。

4. 業界をリードする

おそらく最も古く報告された不正入学制度の例として、ロンドンのセントジョージ病院医学部の入学担当ディレクターが1979年に、少数民族と女性の志願者のほぼ全員を誤って排除するプログラムを作成したことが挙げられます。 1986年までに、学校職員は潜在的な差別に注目し始め、最終的に毎年少なくとも60人の少数民族および女性の志願者が不当に排除されていることを発見しました。

報道によれば、ヨーロッパ以外の名前が 1 つあるだけで、応募者のスコアが自動的に 15 ポイント下がる可能性があるということを考えると、なぜ警告を発するのにこれほど長い時間がかかったのか疑問に思う人もいるかもしれません。権威ある英国医学雑誌は、この偏見を「医師業界の汚点」と率直に批判し、最終的に大学側は軽微な罰金を科せられ、除外された志願者の一部の入学を認めるなどの補償を申し出た。

最高情報責任者の役割

大手テクノロジー企業はデータの倫理的使用に取り組んでいます。たとえば、Microsoft は、公平性、信頼性、安全性、プライバシーとセキュリティ、包括性、透明性、責任をカバーする 6 つの倫理原則を策定しました。一方、Facebookは最近、AI倫理研究所を設立するためにミュンヘン工科大学に750万ドルを授与した。他のテクノロジー企業も、AIアライアンスのパートナーシップと「AIの可能性を実現するために世界中の多様な声を集める」というその原則を支持している。

AI アプリケーションが偏りのない状態を保つためには、企業は AI テクノロジーに対する総合的なアプローチをサポートする必要があります。 AI の良し悪しは、その基盤となるデータ次第です。そのため、データは公平で、あらゆる人々や文化を代表するものでなければなりません。

さらに、技術的原則は国際法に従って策定されなければなりません。今年のG20サミットで財務大臣らは初めて、人工知能の責任ある利用に関する原則に合意した。これには、AIに対する人間中心のアプローチが含まれており、各国に対し、人権を尊重し、AIがもたらす利益を共有する方法でAIを使用するよう求めています。

最も単純なレベルでは、CIO は、構築している AI アプリケーションが倫理的、安全、正しいかどうかを疑問視する必要があります。問題としては次のようなものが考えられます:

1. AI テクノロジーの背後にあるデータは優れているか、それともアルゴリズムによる偏りがあるか?

2. AI アルゴリズムは、事前に定義されたテスト セットに基づいて期待される結果を生成するように適切に調整およびトレーニングされていることを確認するために積極的にレビューされていますか?

3. AI テクノロジーが組織の内部および外部の顧客やパートナーの利害関係者にどのような影響を与えるかに関して、透明性の原則 (GDPR など) が守られていますか?

4. AI ソリューションのガバナンスを確立し、監督するために、部門横断的なリーダーシップと外部アドバイザーを含む専用の AI ガバナンスおよび諮問委員会が設立されていますか?

最終的には、AI の倫理的な使用は、ビジネス上の必須事項であると同時に、法的および道徳的義務として捉えられるべきです。悪い、偏った AI の例にならないでください。企業は、これらの非倫理的な使用事例から学び、自社の AI への取り組みが中立的であるかどうかを判断する必要があります。