テスラ、マイクロソフト、グーグル、アップルなどを含む1,000件以上の「AIロールオーバー」事件が発生しています。

この記事はLeiphone.comから転載したものです。転載する場合は、Leiphone.com公式サイトにアクセスして許可を申請してください。

AIは慎重に扱われなければ、将来人類を滅ぼす存在になるかもしれない。

アイアンマン・マスク氏は、公共のソーシャルプラットフォーム上でAIに関する懸念を何度も表明している。

しかし、すべてのテクノロジー大手がAIに対して悲観的というわけではない。ベゾス氏、ザッカーバーグ氏らはマスク氏のAI脅威論を批判している。ザッカーバーグ氏は、AI技術の推進は世界をより効率的に運営し、人々の生活をより良くすることにつながると信じている。

これは事実だが、マスク氏の懸念は根拠がないわけではない。

このように、近年では自動運転、倉庫・物流、情報セキュリティなど、想像を超えるスピードでさまざまな業界でAIの導入が進んでいます。しかし、こうした業界の成功物語の裏では、AI には多くの「事故」もあった。

最新の AI 事故データセット AIID (AI Incident Database) によると、産業アプリケーションにおける AI のロールオーバー事故は 1,000 件以上発生しており、そのカテゴリは 78 に上ります。

https://incidentdatabase.ai/

これらの事故の中には、単なる冗談のようなものもあるかもしれないが、人類に重大な危害をもたらしたり、国に完全に隠れた危険をもたらしたりしたものもある。さらに、この「クラッシュ」リストには、テスラ、グーグル、マイクロソフト、アマゾン、アップルといった影響力のあるテクノロジー大手が頻繁に登場していることがわかります。

「自動運転」は頻繁に失敗する

このリストから判断すると、自動運転はAIによる「横転」事故がより頻繁に発生し、深刻な影響を与える分野である。

テスラやウーバーを含む大手自動車メーカーは、負傷者や死亡者が出る交通事故を数多く経験している。先月、テスラは事故を起こしそうになったため、Weiboのホット検索リストに載った。その日、高速走行中のテスラ モデルSのガラス製サンルーフが突然外れて後方に飛び、何度も回転して後続車に衝突しそうになった。

テスラの公式Weiboアカウントはすぐに反応し、「車両のルーフガラスは第三者の認定ボディショップで交換されており、この件については詳細な調査が行われる予定だ」と述べた。多くのネットユーザーはこれを信じず、「第三者もテスラの許可を得ており、これは明らかに責任転嫁の行為だ」と考えている。

実際、近年テスラが関与する交通事故が頻発し、一部のユーザーはテスラへの信頼を失っています。事故のほとんどはドライバーの違法運転によって引き起こされますが、技術的な問題、特に自動運転システムによって発生するケースも数多くあります。

リストの中で最も大きな影響を与えたのは、2018年にカリフォルニアで発生した交通事故だった。 3月23日、アリゾナ州でウーバーが自動運転システムの故障により歩行者をはねて死亡させてから1か月も経たないうちに、テスラが再び自動運転システムにより死傷者を出す事故を起こした。

当時、マウンテンビューのハイウェイ101を高速で走行していたモデルXがハイウェイの真ん中にあるコンクリートの分離壁に衝突し、38歳のアップルのエンジニアが死亡した。

[[357417]]

https://futurism.com/officials-tesla-model-x-autopilot-killed-driver

調査の結果、エンジニアは仕切り壁に衝突する前にモデルXの自動操縦システムを起動していたことが判明した。

テスラは以前、オートパイロット機能により速度を維持し、車線を変更し、自動的に駐車できると述べていた。この事故では、自動操縦システムは役割を果たさなかった。テスラは、隔壁は以前にも損傷していたが、システムがそれを正しく認識できなかったと説明した。同時に、システムは衝突の6秒前に視覚的および聴覚的な警告を発していた。

しかし、明らかに、ドライバーが正しく反応するには 6 秒では十分ではありません。

キラーロボット

ロボット工学は、AI が頻繁に失敗する 2 番目の分野です。リストから判断すると、医療、倉庫、物流など多くのシナリオでロボットによる悪影響の事故が発生しています。例えば：

2018年、ニュージャージー州にあるアマゾンの倉庫で自律型ロボットが誤って蚊よけスプレーの缶に穴を開け、25人の作業員が病院に搬送された。

[[357418]]

https://abcnews.go.com/US/24-amazon-workers-hospital-bear-repellent-accident/story?id=59625712

ロボットが9オンス入りのクマよけスプレー缶を突き刺し、大量の濃縮カプサイシンを放出し、囲まれた区域に閉じ込められていた80人以上の作業員が負傷したとみられる。この事故は結局死傷者を出さなかったが、労働組合各部門の間で強い警戒を呼び起こした。

医療分野では、ロボットは外科手術に広く使用されています。米国食品医薬品局の記録によると、2000年から2013年の間にロボット外科医によって144人が死亡、1,391人が負傷、8,061件の機器故障が発生しました。

[[357419]]

https://www.theregister.com/2015/07/21/robot_surgery_kills_americans/

患者の負傷や死亡の原因としては、誤った動作、突然の停電、電気火花による火傷、ロボットの破片が患者の体内に入ることなどが挙げられます。これらの失敗は、頭部、首部、心臓胸部の手術では他の手術よりも 10 倍多く発生しました。

さらに、大手テクノロジー企業であるマイクロソフトも、AIアプリケーションで挫折を経験しました。 Tay は、Microsoft が 2016 年にリリースした AI チャットボットです。マイクロソフトは、Tayのインテリジェントな会話システムは「カジュアルで興味深いチャット」を通じて人間とのやりとりを学習できると述べた。

[[357420]]

https://www.theverge.com/2016/3/24/11297050/tay-microsoft-chatbot-racist

しかし、リリース直後から、TayはTwitter上でさまざまな人種差別的、性差別的、中傷的な言葉を投稿し始めた。テイ氏はフェミニズムを「カルト」や「ウイルス」とさえ呼び、「男女平等＝フェミニズム」だと述べた。

マイクロソフトはその後、関連するコメントを直ちに削除し、Tay の公開データセットをフィルタリングしてクリーンアップしました。この事件は、女性の権利や人種問題が極めて敏感な米国では大騒動にはならなかったが、世界有数のテクノロジー企業であるマイクロソフトでさえ、AIの応用にはより慎重になる必要があることを示している。

さらに、Googleが2017年にリリースしたAI感情分析ツール「Cloud Natural Language」でも人種差別事件が発生している。

「Face ID」を簡単に破る

Face ID は、顔認識技術の最も広く使用されているアプリケーションの 1 つです。

この技術の目的は携帯電話の個人情報保護を強化することですが、リスト内の報告によると、この技術は2017年には簡単に解読される可能性があります。

ドイツの研究チーム「Bkav」は、一般的な素材で作られたフェイスマスクを使用して、AppleのFace IDを簡単にロック解除できると述べた。マスクはとてもシンプルで誰でも作れることが分かります。これは、石の粉で作られた 3D の顔 (約 200 ドル) と、目の代わりに貼り付けられた 2D 画像で構成されています。

https://mashable.com/2017/11/27/apple-face-id-mask-defeated-again/#N3QOEjviHiqW

そのうち、石粉はマスクの代わりになり、より高いスコアで Face ID を欺くことができます。目には赤外線画像が印刷されており、これは Face ID 自体が顔画像を検出するために使用するのと同じ技術です。

さらに、顔のテンプレートも非常に簡単に入手でき、クローズアップ撮影も必要ありません。人が部屋に入ると、さまざまな角度に設定されたカメラシステムが数秒以内に遠くからこっそり写真を撮影し、その写真をアルゴリズムによって 3D オブジェクトに変換します。

この点に関して、Bkav 氏は、いかなる形式の生体認証も絶対的に信頼できるものではないことにも留意した。

上記のケースに加えて、リストにはいくつかの重要なタイプの「ロールオーバー」も強調表示されています。

• ドイツのフォルクスワーゲン工場でロボットが作業員を死亡

• Amazon IA 採用ツールは性別による偏りがある。

• AIが政治指導者の演説動画を偽造

• YouTube は AI アルゴリズムを使用して、子供に不健全なコンテンツを推奨します。

詳細については、AIIDデータセットのアドレスをクリックしてください：https://incidentdatabase.ai/

もう一つ

最後に、AI だけでなく、あらゆる新しいテクノロジーは、リリースされたばかりのときや開発の過程でこのような障害を経験することになるということに留意する必要があります。今後AIが人類にどのような影響を与えるかはともかく、技術の進歩の傾向は避けられず、私たちにできるのは、AIをより慎重に扱いながら、それを絶えず修正し、改善していくことだけです。

これは、関連分野の研究者に同様の事故を回避するよう警告するための AI 事故データセットを構築する目的でもあります。