間違い：2017 年に人工知能分野で何が起こったか

今年、AIプロジェクトのAlphaGoとLibratusが、それぞれ人間の最強の囲碁プレイヤーとポーカープレイヤーに勝利した。これらのマイルストーンは近年の AI の進歩を示すものですが、特に過去 12 か月間にいくつかの小さな AI の失敗があったことから、新興技術の全体的な成熟度については懐疑的な見方をする人が多くいます。

マスクで顔認識が破られる

新型iPhone Xのロックを解除する顔認識技術であるFace IDは、これまでで最も安全なAI起動方法として称賛されており、Appleはそれが騙される可能性は100万分の1であると主張している。しかしその後、ベトナムの企業BKAVが、3Dプリントされたプラスチック、シリコン、化粧品、切り抜きで作られた150ドルのマスクでこの問題を解決した。 Bkav は被験者の顔をスキャンし、3D プリンターを使用して顔のモデルを生成し、切り抜いた紙の目と口、シリコンの鼻を取り付けただけです。この侵害は業界全体に衝撃を与え、消費者のデバイスのプライバシーと、より一般的には人工知能のセキュリティに対するリスクを高めた。

アマゾンエコーのおかげで近所の人が警察に通報

人気のAmazon Echoは、強力なスマートスピーカーの1つと考えられています。しかし、完璧なものなど存在しない。あるドイツ人男性のEchoは、彼が家にいない間に誤って起動し、深夜過ぎに鳴り始めた。隣人が目を覚まし、警察に通報された。警察は、持ち主が戻る前に、彼の家のドアを破壊し、鍵を交換しなければならなかった。

Facebook チャットボットのシャットダウン

7月には、人間が理解できない言語で相互に通信した2つのFacebookチャットボットがシャットダウンされたという報道が広まった。新たな秘密の超知能言語の噂がフォーラムやディスカッション掲示板に溢れかえっていたが、Facebook 社は、この謎の通信は単に文法上のコーディングミスによるものだと説明した。

ラスベガスの自動運転バス、運行初日に事故発生

自動運転バスが今年11月にラスベガスでデビューした。しかし、わずか2時間以内にバスはトラックに衝突されました。スマートバスは技術的には事故の責任を負っていなかったが、トラックが近づいた際に自力で危険から逃れるほどスマートではなかったと乗客は不満を述べた。

Google Alloは銃の絵文字にバンダナの絵文字で応答する

[[215049]]

CNNのスタッフは、Google Allo経由でターバンを巻いた人物の絵文字のテキスト提案を受け取った。これは拳銃を含む絵文字によって引き起こされました。 Google は一般に対し、この問題を修正したことを保証し、謝罪した。

双子がHSBCの音声認識システムを騙す

HSBC の音声認識 ID は、ユーザーが音声コマンドを通じて自分のアカウントにアクセスできるようにする AI 駆動型セキュリティ システムです。同社は指紋IDと同じくらい安全だと主張しているが、BBC記者の双子の兄弟が声を真似てアカウントにアクセスすることができた。実験が成功するまでに 7 回の試行が必要でした。これに基づいて、HSBC Instant の解決策は、アカウントをロックする試行のしきい値を 3 回に設定することでした。

Google AIがライフル銃を見てヘリコプターと誤認

MIT の研究者チームは、ライフルの写真を少し加工することで、Google Cloud Vision API を騙してライフルをヘリコプターと誤認させることに成功した。この悪い例では、人間の目には認識できない変更が加えられることで、コンピューターが画像を誤分類することになります。これまで、敵対的サンプルは、ハッカーがターゲットのコンピュータ システムの基本的な仕組みを知っている場合にのみ機能しました。 MIT チームは、この体系的な情報にアクセスせずに誤分類を誘発することで、さらに一歩前進しました。

自動運転車をハッキングするには道路標識を描くだけ

研究者たちは、慎重に塗料やテープを使って標識を遮ることで、自動運転車が標識を誤認するように仕向けることができることを発見した。 「愛」と「憎しみ」という言葉が描かれた一時停止標識は、自動運転車の機械学習システムを騙し、ほとんどの場合、制限速度が時速45マイルであると認識させた。

AIでペイントの色に名前を付ける

機械学習研究者のジャネル・シャン氏は、約 7,700 色のペイントの色とそれに対応する赤、緑、青の値に基づいてニューラル ネットワークをトレーニングしました。数時間のトレーニングの後、ニューラル ネットワークは「緑」と「灰色」という単語をうまく見つけましたが、それ以外は何も見つけられませんでした。ニューラルネットワークのトレーニングには時間がかかります。複数回の反復を経て、シェーンのニューラルネットワークはどんどん改善され、茶色や青などの実際の色や、それらの色に対応する赤、緑、青の値を把握できるようになりました。その後、彼女はニューラルネットワークが創造的であり、「クラブバット」、「薄茶色」、「麻薬」などの色を生成し始めたことを発見しました。