AIの失敗例と今後の課題と機会

人工知能は画期的であり、時には衝撃的です。私たちは、効率性、自動化、スマートな予測に関する素晴らしい話を継続的に受け取っています。しかし、人工知能は完璧ではありません。あらゆる成功の物語の裏には、混乱や間違いの物語、つまり計画通りに物事が進まなかった状況の物語が存在します。

[[335999]]

私たちは AI を強く信じており、自社のビジネスで AI の威力を実感していますが、時には物事の裏側を見て、私たち全員がより大きく、より良いものを推進しようとしていることを忘れないことが重要です。しかし、その途中では摩擦や混乱も起こるでしょう。これらの異常や不完全さに対して私たちがどのように対応するかによって、最終的に私たちがこれからどこに向かうかが決まります。

AIの失敗例

私たちは AI が完璧であることを期待していません。少なくともまだだ。 AI が依然として失敗し、意図しない結果をもたらす可能性があるという事実は、驚くべきものです。しかし、そうした危機一髪の出来事も、成長と改善のための教訓となる可能性があります。今日では、失敗が多ければ多いほど、成長と改善が進み、最終的にはより洗練された完全な業界への道が開かれます。

ここ数年の AI の失敗の優れた例をいくつか紹介します。

マイクロソフトの AI チャットボットが歓迎されない言語を学習

AI チャットボットは、ソーシャル メディアやその他の Web サイトで標準となっています。 Facebook の Messenger には、顧客サービスを提供したり、潜在顧客と素早く会話したりするための強力なビジネス ツールとして使用されている非常に優れたツールが組み込まれています。しかし、AI チャットボットは完璧ではありません。一時的に「Tay」と呼ばれていた Microsoft の AI チャットボットを例に挙げてみましょう。

Tayは2016年3月にTwitterユーザー向けにリリースされ、展開され、典型的なミレニアル世代のカジュアルで自然な会話言語を使用するようにプログラムされていました。しかし、それはたった24時間しか続きませんでした。何が起こったのか？サイト側はTayの弱点を突いて、非常に性差別的で人種差別的なコメントをするようにTayを操作したのだ。

マイクロソフトのAIおよび研究担当副社長ピーター・リー氏は、この可能性を予見できなかったとして公に謝罪せざるを得なかった。

アスリートか犯罪者か？

Amazon には「Identify」というプロジェクトがあります。これは捜査に使用するために警察機関に販売されているAIベースの顔認識ソフトウェアです。本質的には、画像を相互分析し、警察官を容疑者の可能性がある人物に誘導することになっています。問題は、それがあまり正確ではないことです。

アメリカ自由人権協会マサチューセッツ支部の調査では、ボストン地域のアスリート数十名の写真がこのシステムにかけられた。これらの選手のうち少なくとも27人、つまり約6人に1人は、顔写真と誤って照合されていた。その中には、スーパーボウルを3度制覇したニューイングランド・ペイトリオッツのデュロン・ハーモンも含まれる。

見た目が良くないと言えますか?

ユーザーがAppleのFace IDの欠陥を発見

Appleは常に優れた技術を生み出してきました。彼らはスマートフォンとモバイルデバイス業界の標準を確立しました。ほとんどの場合、彼らは物事を成し遂げます。しかし、時にはマーケティングにおいて大胆すぎることもあります。一例として、iPhone X の発売が挙げられます。 Appleは発売に先立ち、携帯電話にアクセスする主な方法として指紋リーダーに代わる前面顔認識システムに多くの時間とマーケティングリソースを投入してきた。 AIコンポーネントは非常にスマートなので、読者は機能に影響を与えることなく眼鏡をかけたり化粧したりできると主張する人もいます。これは本質的に正しいです。問題は、Apple が Face ID テクノロジーはマスクや他のテクノロジーで騙されることはないと明言していることです。

ベトナムに拠点を置くあるセキュリティ会社はこれを課題と捉えました。わずか200ドルで、彼らは石の粉でマスクを作り、印刷した2Dの「目」を貼り付け、携帯電話のロックを解除した。これは、大胆な発言が後であなたを悩ませることになるかもしれないということを思い出させるものです。

ロボット犬が致命的な結末を迎える

ロボットの子犬というアイデアを嫌いな人がいるでしょうか? 吠えたり、歩いたり、排便したり、食事をしたり、高額な獣医費を支払ったりする必要がない、かわいい小さな機械を手に入れることができます。しかし、人生の伴侶を探しているのであれば、おそらくこのロボット犬は必要ないだろう。

2019年、ボストン・ロボティクス社のロボット犬「スポット」は、ラスベガスでの会議で同社のCEOから降格され、劇的で早すぎる舞台上での死を迎えた。歩く課題のせいで彼はゆっくりとよろめき、ついには地面に倒れ込み、観客は不快感から息を呑み、くすくす笑った。

IBM の Watson は素晴らしい技術です。このインテリジェントなスーパーコンピューターは、彼の監督下で数々の偉業を達成しており、その中にはテレビで放映されたクイズ番組「ジェパディ」で世界で最も賢い人たちに勝つことなどがある。しかし、ワトソンが知る限り、彼はまだ医師として信頼されていなかった。

2018年、IBM Watsonはがん患者の治療に関する推奨を行う医療AIシステムの立ち上げを試みた。 IBM の目標はまさに「がんの根絶」です。しかし、病院と腫瘍専門医はすぐに大きな欠陥を発見した。ワトソンは、出血が過剰な患者に、さらなる出血を引き起こし、患者を死に至らしめる可能性のある薬を投与することを提案した。

IBMは、実際の患者データや過去の医療記録に頼らず、架空の事例でワトソンをプログラムしたとして、自社のエンジニアたちを非難した。 、

音声偽装AIソフトウェアの欠点 CEO

偽造は深刻な（そして憂慮すべき）問題になりつつあります。ハッカーは音声、画像、さらにはビデオを偽造する方法を見つけました。場合によっては、その結果は悲惨なものとなりました。

2019年3月、英国企業のCEOがドイツの親会社の上司に電話をかけた。彼はハンガリーの供給業者に24万3000ドル相当を送金するよう指示された。このリクエストは緊急とマークされ、CEO はすぐに実行するように求められました。その依頼の唯一の問題は、電話の相手が彼の上司ではなかったことです。これは上司の声を模倣するように設計された AI ベースのソフトウェアです。

これを AI の失敗と呼んでいますが、現実は AI ソフトウェアが勝利したのです。

AI に問題がないわけではないことは明らかです。ビジネス面では、AI の実装にはまだいくつかの課題が残っています。これらには以下が含まれます:

• 処理能力が限られています。 AI と ML には大きな可能性がありますが、大量の処理能力を必要とします。ほとんどのコンピューティングはそれほど高度ではありません。その結果、非常に特殊な環境以外ではこれらのテクノロジーを十分に活用することは困難です。
• 知識が限られている。 AI を市場に説明できるほど実際に理解している人はほんの一握りです。これにより、採用率が最大限に高まるのを妨げ、成長が鈍化しています。
• 信頼の欠如。人間とコンピュータの間には常に一定レベルの不信感が存在するでしょう。過去数年間で関係は改善してきたが、この記事で概説したような失敗はあまり役に立たなかった。
• データのセキュリティ。 AI アプリケーションが適切に機能するには、これらのシステムが何百万ものデータ ポイントにアクセスする必要があります。これにより、ハッカーが標的にして侵入する可能性のある弱点や脆弱性が生まれます。

こうした課題にもかかわらず、AI の素晴らしさはその知性と優秀さにあります。世界で最も優れた頭脳の多くがテクノロジーの改善と完成に取り組んでいるだけでなく、それを機械学習 (ML) と組み合わせると、あらゆる問題や間違いが最終的にさらなる発展への道を開く自己燃料補給型の成長サイクルが生まれます。効率、正確性、そして機会。機会といえば、私が見ている最も重要な機会のいくつかを以下に示します。

• ビッグデータを簡単に。企業がビッグデータに関して抱える問題の 1 つは、そのデータを理解する方法を見つけることです。整理すべき情報が多すぎると、調査結果をどのように解釈し適用するかを把握するのが難しくなる場合があります。 AI はこのプロセスを合理化し、より優れた効率的なプロセスを実現します。
• 優れた分析機能。特定の AI システムを使用して、さまざまな設定の変更を監視、検出、分析できます。企業はこれを活用して競合他社を監視し、価格変更、PR キャンペーン、ソーシャル エンゲージメントなどについて知ることができます。
• よりスマートな検索。インターネットは世界を動かします。特に、検索エンジンはトレンドを識別し、情報の流れを制御することができます。 Google などの検索エンジン企業は、AI と ML を使用して業界を変革し、顧客の検索に対してより正確でタイムリーな結果を提供しています。

AI は完璧でしょうか? この記事のストーリーが示すように、それは受け入れられません! しかし、AI は強力で、常に改善されていますか? はい。したがって、1 年、3 年、5 年先の未来を見据えるとき、AI は開発途上であることを忘れないでください。私たちが望むことを達成するためには、その過程で生じる摩擦に継続的に対処する必要があります。