2020 年の AI と分析の 5 つの災害

今日の新しいテクノロジーの進歩により、私たちは皆、データの重要性を認識しています。データは新たな石油です。これは、デジタル エコシステムにおける最も重要な柱の 1 つになりました。組織はビジネス目標の達成にデータを活用します。コインには必ず表と裏があり、プラスのテクノロジーにはマイナスの影響が伴い、収益や評判の面で組織に多大な損害を与える可能性があります。

データの処理は重要です。データを追跡し、理解し、それに応じて成長することが重要です。しかし、同様に重要なのは、データを理解し、最も適切なツールを知り、会社の目標を念頭に置くことです。

この記事では、IT 市場にマイナスの印象を与える分析と AI の 5 つの間違いについて説明します。

1. スプレッドシートのデータ制限を超えたためにケースが欠落している

2020年10月、新型コロナウイルス感染症の新規感染者数を集計する英国政府機関、公衆衛生イングランド（PHE）は、9月25日から10月2日の間にコロナウイルスの症例が約1万6000件報告されていなかったことを明らかにした。 Microsoft Excel のデータの制限。ただし、Excel データの制限により、16,384 列と 1,048,576 行が 1 つのワークシートにのみリストされます。 PHE は列形式でリストされ、最終的には変換されたレコードが失われます。たとえデータが発見され、患者にレポートが送られたとしても、技術的な不具合により契約追跡の取り組みは失敗に終わった。

この「不具合」により、検査を受けた人々が結果を受け取ることは妨げられなかったが、接触者追跡の取り組みが妨げられ、英国の国民保健サービス（NHS）が感染患者と濃厚接触した個人を特定して通知することが困難になった。

2. アマゾンのAI採用ツールは男性のみを推薦する

Amazon は採用プロセスに AI ベースの採用ツールを使用し、何千もの履歴書やプロフィールを簡単にふるいにかけ、そのポジションに最適な候補者を見つけ、1 から 5 までの評価を与えることができます。このツールの欠点は、AI ベースのツールで使用されるトレーニング データ セットが主に男性候補者で構成されることです。したがって、このシステムでは女性の応募者は不利となり、男性の応募者が優遇されます。

同社はツールを中立的なものにするために編集しようとしたが、最終的には他の分類候補の差別的なやり方を学習しないという保証はないと判断し、プロジェクトを終了した。

3. マイクロソフトの訓練されたチャットボットが人種差別的なツイートを投稿

2016 年、マイクロソフトは Twitter のやり取りを利用してチャットボットの機械学習アルゴリズムをトレーニングしましたが、これは大失敗に終わりました。 AIチャットボットTayは、自然言語処理と機械学習機能を備えた10代の女の子のキャラクターをベースに開発されたが、最終的には女性蔑視、人種差別、反ユダヤ主義を示すツイートを9万5000件以上拾い上げてしまった。

「Tayの意図しない不快でとんでもないツイートについて深くお詫び申し上げます。これらのツイートは、当社の存在や理念、Tayの設計方法を表すものではありません」と、マイクロソフトリサーチ＆インキュベーション担当コーポレートバイスプレジデントのピーター・リー氏は、この事件を受けてマイクロソフトの公式ブログに投稿した。

機械学習と人工知能は電子商取引の様相をどのように変えているのでしょうか? | データ駆動型… 現在、この電子商取引開発会社は、高度なテクノロジーを統合して顧客体験を次のレベルに引き上げています…

4. 医療アルゴリズムは黒人患者を無視する

2019年にサイエンス誌に掲載された研究では、保険会社や病院が使用する医療予測アルゴリズムは、高リスクのケア管理計画を特定する際に黒人患者を除外する可能性が高いことが示されました。このプログラムの目的は、重篤な合併症の発生を減らすために、慢性疾患の患者を監視できるようプライマリケアおよび看護スタッフを訓練することです。しかし、アルゴリズムは白人患者を推奨したが、黒人患者はリスクが高かった。このアルゴリズムには、保険、低所得、医療など、そのような結果を表すさまざまな要素が組み込まれています。

研究では、アルゴリズムが個人の医療ニーズを判断するための代理として医療費を使用していることが判明した。しかし、サイエンティフィック・アメリカン誌によると、病気の黒人患者の医療費は健康な白人のそれと同程度であり、彼らのニーズは大きいにもかかわらず、リスクスコアは低いことを意味している。

研究者たちは、いくつかの要因が関係している可能性があると考えている。まず、有色人種は収入が低い傾向があり、そのため保険に加入していても医療を受けられる可能性が低くなる可能性があります。暗黙の偏見により、有色人種が受ける医療の質が低下する可能性もあります。

5. ターゲット分析はプライバシーを侵害する

顧客の世界についての洞察を得る最も簡単な方法はデータを使用することです。予測分析を使用すると、ユーザーの状況に関する深い洞察を得ることができます。しかし、ターゲットのマーケティング部門はこのアルゴリズムを使用して妊娠中の顧客を見つけました。妊娠した十代の少女に関する家族内での最新のニュースが恐ろしい結果をもたらし、結果はすぐに悲惨なものに変わります。このアルゴリズムを使用する目的はユーザーの習慣を分析することですが、結果はまったく異なります。

ターゲットは、他の大手小売業者と同様に、買い物客コード、クレジットカード、アンケートなどを通じて顧客に関するデータを常に収集してきました。購入した人口統計データとサードパーティのデータが混在します。ターゲットの分析チームは、すべてのデータを分析することで、ターゲットで販売されている約 25 種類の製品をまとめて分析し、「妊娠予測」スコアを生成できることを突き止めました。マーケティング部門は、クーポンやマーケティング メッセージを使用して、高得点の顧客をターゲットにすることができます。

オリジナルリンク:

(https://medium.com/datadriveninvestor/5-ai-and-analytics-disasters-in-2020-efcc8848bf78) より