2017年の人工知能の挫折

今年、AIプロジェクトのAlphGoとLibratusが、それぞれ囲碁とテキサスホールデムポーカーで世界最高の人間プレイヤーを破った。これらのマイルストーンは近年の AI の進歩を示すものですが、特に過去 12 か月間に発生した AI の失敗を考慮すると、新興技術の全体的な成熟度については懐疑的な見方をする人が多くいます。

Machine Power は機械知能の大ファンであり、それは社名にも反映されています。しかし同時に、一部の新しいテクノロジーは本来のタスクを効果的に実行できず、人間が決して犯さないような間違いを犯すことがよくあることも私たちはよく知っています。 2017 年の AI の失敗トップ 10 をご紹介します。

マスクロック解除 Face ID

最新のiPhoneのロック解除に使用されている顔認識技術であるFace IDは、かつてはこれまでで最も安全なAI起動方法と呼ばれていました。 Appleは、Face IDのロック解除エラー率は100万分の1に過ぎないと自慢している。しかしその後、ベトナムの企業BKAVが、3Dプリントしたプラスチック、シリコン、化粧品、紙の切り抜きで作ったマスクを使ってFace IDを解読することに成功した。マスクの価格はわずか150ドルだった。 BKAV は被験者の顔をスキャンし、3D プリンターを使用して顔のモデルを生成し、切り抜いた紙の目、口、シリコンの鼻を取り付けただけです。 Face IDの取り締まりは業界全体に衝撃を与え、消費者向けデバイスのプライバシーと人工知能技術全般のセキュリティに対するリスクについての懸念が高まっている。

Amazon Echoの故障で近隣住民が警察に通報

最近人気の Amazon Echo は、最も強力なスマートスピーカーの 1 つと考えられています。しかし、完璧なものなどありません。ドイツ人男性が外出中に、彼のEchoが誤って起動し、真夜中に大音量で音楽を再生し、近所の人を起こしてしまった。近隣住民が警察に通報し、警察はエコーを閉鎖するために正面玄関を破壊しなければならなかった。その後、警察はドアの鍵を交換したが、家主が帰宅すると鍵でドアが開かなくなっていた。

Facebookがチャットボットを閉鎖

今年7月、Facebookのチャットボット2つが人間には認識できない音声で通信し、それが発覚してシャットダウンされたことがメディアで大々的に報道された。秘密の新しい超知能言語の噂がウェブ上に溢れかえったが、Facebook 社は、この謎の通信は単に文法コンパイルが不十分だったために生じたものだと説明した。

ラスベガスの自動運転バス、運行初日に事故発生

今年11月、ラスベガスで自動運転バスが華々しくデビューし、ラスベガスを拠点とするマジックスター、ペン＆テラーなど多くの有名人が試乗するために列をなした。それからわずか2時間後、バスはトラックと衝突した。バスは厳密には事故の責任を負っていなかったが（警察によるとトラックの運転手が責任を負っていた）、スマートバスの乗客は、トラックが近づいたときに危険な場所を避けるほど賢くなかったと苦情を述べた。

Google Alloは銃の絵文字にバンダナの絵文字で応答する

Google Allo を使用している CNN の従業員は、ターバンを巻いた人物の絵文字の提案を受け取った。この絵文字は、ピストルの絵文字によって引き起こされる返信の提案です。 Google は、問題は解決したと国民にぎこちなく保証し、謝罪した。

双子がHSBCの声紋IDを騙す

HSBC の Voiceprint ID は、ユーザーが音声コマンドを通じて自分のアカウントにアクセスできるようにする人工知能ベースのセキュリティ システムです。 HSBCは、このシステムは指紋IDと同じくらい安全だと主張しているが、BBC記者の双子の兄弟が声を真似て彼のアカウントにアクセスすることができた。実験は成功するまでに7回の試行を要した。 HSBC はすぐに解決策を提供し、ログイン試行が 3 回失敗した後にアカウントをロックしました。

Google AIがライフルをヘリコプターと誤認

MIT チームはライフルの写真を少し調整することで、Google Cloud Vision API を騙してライフルをヘリコプターと誤認させることに成功しました。この手法は敵対的サンプルとも呼ばれ、コンピューターが人間の目には認識できない画像の変更を加え、画像を誤分類させるものです。以前は、このような敵対的サンプルは、ハッカーがターゲットのコンピューティング システムの基本的な仕組みを知っている場合にのみ機能しました。 MIT チームは、システムに関する情報を必要とせずに誤分類をトリガーすることで敵対的サンプルを改善しました。

道路標識のハッキングが自動運転車を騙す

研究者たちは、ペイントとテープを使って一時停止標識に微妙な変更を加えることで、自動運転車が標識を誤認するように仕向けることができることを発見した。一時停止の標識を「愛」や「憎しみ」などの言葉で変更すると、自動運転車の学習システムが騙された。テストセットでは、自動運転車の学習システムはこれらの一時停止標識を「制限速度45」として100％認識しました。

AIは銀行のお尻のような色の夕焼けを想像する

機械学習研究者のジャネル・シャン氏は、ニューラルネットワークをトレーニングして、新しいペイントの色を生成し、それぞれの色に対応する名前を付けました。色は穏やかに見えるかもしれませんが、名前は面白いです。色名データを使用して少しトレーニングした後でも、モデルは「Sky Blue」を「Gray Pubic」とラベル付けし、「Stoomy Brown」を「Dark Green」とラベル付けします。

Alexaに願い事をするときは注意してください。誤って注文してしまう可能性があります。

Amazon の Alexa 仮想アシスタントはオンラインショッピングをより簡単にします。しかし、それは簡単すぎるのだろうか？ 1月にサンディエゴのニュースチャンネルCW6は、6歳の女の子がAlexaにおもちゃの家が欲しいと伝えるだけで、Alexaを通じて170ドルでおもちゃの家を購入したことを伝えた。伝えられるところによると、テレビ放送中、司会者は少女の言葉を繰り返して「この少女が『アレクサがドールハウスを買ってくれた』と言ったのが気に入った」と言い、視聴者の一部のアレクサデバイスが再び作動してドールハウスを注文したが、この主張の真偽はまだ確認されていない。