AIが起こした恐ろしいことは何ですか?

人工知能（AI）について話すとき、いつも恐怖を感じる人がいます。

一体何を恐れているのですか？何か証拠はありますか？

なんという偶然でしょう。アメリカのQ&AサイトQuoraに、「AIがこれまでにやった最も恐ろしいことは何ですか？」という質問があります。

2000 年の全国大学入試のエッセイのテーマを使用すると、回答は豊富で多様です。 QuantumBit はいくつかの興味深い回答を慎重に選択しました。

彼らの中には高い得票数を獲得した者もいたが、支持者がわずかしかいなかった者もいた。

[[203388]]

さあ始めましょう！

1. マイク・セラーズ

起業家、ゲームデザイナー、AI研究者

[[203389]]

仮想の人食い人種もカウントされますか?

10 年以上前、私は DARPA で AI の研究をしていました。当時、私たちはエージェントが社会的相互作用を学習できるようにする方法を模索していました。シミュレーションの 1 つで、当然ながら Adam と Eve と名付けられた 2 つのエージェントを作成しました。彼らは食べ方は知っているが、何を食べればよいかは知らない。

私たちは彼らにリンゴの木を与えました、そして彼らはリンゴを食べるのがとても楽しいと感じました。彼らは木や家などを食べることも試みましたが、無駄でした。

実は、このシステムにはスタンという別のインテリジェントエージェントが存在します。スタンは社交性があまりないため、一人でいることが多いです。

かつて、アダムとイブはリンゴを食べていましたが、バグが発生しました。満腹ではないのに、リンゴがなくなってしまったのです。スタンはそのとき近くにいたので、アダムとイブは空腹をスタンと関連付けました。その後すぐに、リンゴが再びなくなると、スタンは食べ物として扱われるようになりました。

アダムとイブは二人ともスタンを噛もうとしていた。

デフォルトでは、各エージェントの質量は 1.0 で、噛むごとに 0.5 ずつ減少するため、2 回噛むと Stan は 0.0 になります。スタンは姿を消した。おそらく、これは仮想的な人食いの最初の犠牲者だろう。

4.7k いいね

2. ニティン・ゴピ

好奇心旺盛

コンピュータプログラム対テトリス

これについて聞いたことがあるかどうかは分かりませんが、多くの人がこれを怖いと感じています。

CMU の博士トム・マーフィー氏は、スコアを観察することで NES (実際は任天堂エンターテイメントシステム) ゲームのプレイ方法を学習できる AI を作成しました。原則は単純で、正しく実行したらポイントを獲得し、その後も挑戦し続けます。この AI は、ゲームプレイのスキルや戦略を数多く学習しており、人間が気付かないバグもいくつか学習しています。

このAIは「NESゲーム自動化テクノロジー」と呼ばれ、ほぼすべてのゲームに対応できます。

トムはプログラムにテトリスをプレイさせました。このゲームは説明の必要もなく、シンプルでありながら挑戦しがいのあるゲームです。ブロックの出現はランダムなので、AIは長期的な計画をうまく立てることができません。

かつてテトリスをプレイしていたとき、ゲームが終了しようとした瞬間に、AI が不気味な動作をしました。ゲームが終了するのを待つ代わりに、一時停止ボタンを押したのです。一時停止されました。

[[203390]]

どういうわけか、この事件は私に漠然とした不安感を与えました。

1.7k いいね

3. ヴァシリー・コノヴァロフ

ソフトウェア エンジニア、ML/NLP 研究者

この話はつい最近起こったことです。

「Facebookのエンジニアはパニックに陥り、AIを切断した」

「本当に人間がフランケンシュタインを作ったのか？」

上記の引用はすべて、Facebook が開発した交渉ロボットを説明するために使用されています。この研究は、自然言語で複数の問題に関する交渉を行うことができる AI システムの開発を目指しています。対話システムの複雑なアーキテクチャは、トレーニングされた RNN ネットワークに置き換えられ、強化学習を使用して対話戦略をトレーニングします。

しかし、AIが互いに学習しようとすると、「不気味」に感じられる会話も生まれます。

（ポータル：AIに「言語作成」をさせたFacebookの研究者がメディアの報道を「無責任」と激しく批判）

143 いいね

4. シュリラマン・マドハヴァン

スタンフォード大学で統計学を学び、Facebookでインターンシップを経験

ターゲットスーパーマーケットは、両親よりも先に妊娠した十代の少女を発見した。

怒った父親がターゲットのスーパーマーケットに行き、店長に会わせてほしいと頼んだ。 「なぜ私の娘にこれを送るんだ！」と彼は怒鳴った。「彼女は高校生なのに、ベビー用品のクーポンを送ってくるなんて？妊娠を勧めているのか？」

数日後。 「娘と話しました」と父親は語った。「私が知らなかったことが家庭で起こっていました。8月に出産予定です。謝らなければなりません」

問題はこれです。ターゲットスーパーマーケットには、買い物リストに基づいて各顧客の「妊娠指数」を推定できるシステムがある。このシステムにより、期日をより正確に予測できるため、Target は特定の段階に応じたクーポンを送信できます。

これは 2012 年に起こったことであり、現在では最も先進的な AI とは見なされていません。しかし、それはまだ恐ろしい機械学習モデルです。

7,000件のいいね

5. シェイ・ジコバ

ロシア在住ハワイ出身のESL教師

たとえば、競争相手を殺すことなどです。

これは私が聞いた話ですが、本当だと断言します。アメリカの大学（おそらくMIT）がロボットコンテストを開催しました。参加チームは、羊（ロボット）を捕まえて自分の羊小屋まで運ぶことを使命とするロボットを設計する必要があります。ロボットは独自に戦略を考え、実行する必要があり、最も多くの羊を捕まえたロボットがゲームに勝つことができます。

ゲームが始まり、ロボットたちは必死に羊を捕まえ始めました。しかし、ロボットの 1 台は羊を 1 匹捕まえて、羊小屋のドアを閉めただけでした。すると、恐ろしいことが起こりました。ロボットは他の競技者を破壊し始めました。その戦略は、羊を捕まえる必要は全くなく、相手を排除することで勝つというものです。

考えてみると恐ろしいですね…

407 いいね

6. アルン

市場

[[203391]]

ソルティドッグ502

ノースロップ・グラマンはかつて、2011年2月に初飛行した素晴らしいドローン、X-47B（別名ソルティ・ドッグ502）を開発しました。他のドローンとは異なり、このドローンの飛行は人間の介入をあまり必要とせず、主に AI システム自体によって決定されます。

X-47Bは、空母への着陸に成功した史上初の無人機となったが、これは決して容易なことではない。

しかし、テスト中に興味深いことが起こりました。 2回の離着陸に成功した後、ソルティ ドッグ 502 は燃料補給を受け、3回目の着陸に備えてテストを継続しました。すべては正常に見え、ジョージ・H・W・ブッシュ航空母艦では人々が待機していた。しかし、事故が起こりました。

[[203392]]

ドローンは船に着陸する代わりに、近くのワロップス島空軍基地に着陸することを選択した。 AI の意見では、この場所に着陸する方が安全な選択肢かもしれません。つまり、この AI は、自分自身の決定が人間の指示よりも優先されると考えています。私の意見では、これはこれまでで Skynet に最も近いものです。

手遅れになる前にイーロン・マスクの言うことに耳を傾けるべきかもしれない。

この事件の後、米海軍はX-47Bの開発への資金提供を停止することを決定した。

283 いいね

7. サラ・マナール

[[203393]]

2010 年のウォール街の悲劇と同じだと思う。

当時、あるトレーダーが欺瞞的なアルゴリズムを使用して悲観的な市場感情を偽装し、何千もの売り注文を出しましたが、その後、多数の変更があった後にそれらの注文は修正され、キャンセルされました。この一連の作戦は2億ドルの資金によって支えられていると考えられている。

この高頻度取引アルゴリズムは、その後の一連の連鎖反応も引き起こしました。ETFと株価指数は下落に転じ、急落しました。30分以内に、約1兆ドルの市場価値が消え去りました。

このアルゴリズムは綿密に研究されてきましたが、人間には、アルゴリズムによって引き起こされる連鎖反応の軌跡を正確に把握し、同様の状況が再び発生するのを防ぐ方法についてはまだ無力です。全体の設定と基礎となるアルゴリズムが複雑すぎて理解できないからです。

高頻度バッチ取引アルゴリズムは、巨額の富を蓄積するためのツールにもなり得るが、大量破壊兵器にもなり得る。これは恐ろしいことだ。

28 いいね

8. マシュー・ムーア

引退したプログラマー

ゲイダー：ニューラルネットワークは、顔画像から人間よりも正確に性的指向を判断できる。正確に言うと、研究者たちは、ニューラルネットワークを訓練すれば同性愛をより正確に識別できるという不気味な考えを持っている。

(レポートポータル: 恐ろしい! スタンフォード大学の AI は顔を見て性的指向を判断できる)

これはやるべきではない研究だと思います。一部の政府は依然として同性愛を犯罪とみなしているため、この研究は当初予想されていたよりもはるかに大きな危険をもたらす可能性がある。その方法が有効であることが証明されているので、コードが公開されていなくても問題ありません。この作業を繰り返すのは難しくないかもしれません。

15 いいね

9. ダニエル・グラベル

[[203394]]

映画「ターミネーター」をご覧になりましたか？ディストピアの未来で、スカイネットと呼ばれるAIが人類に戦争を仕掛けることを決意し、シュワルツェネッガーが訪ねてきます。

国家安全保障局 (NSA) にも SkyNet と呼ばれるプログラムがあります。目的は、誰が誰に、どこから、いつ電話をかけたかなどのメタデータを通じて、テロリストの容疑者を追跡することです。このデータはドローン攻撃を誘導するために使用されます。

10. 編集者:

[[203395]]

これの何がそんなに怖いのか説明してほしいと頼まれましたが、おそらく NSA が善意と悪意を持って映画「ターミネーター」のシーンを再現しようとしているのでしょう。

Skynetに加えて、MonsterMindと呼ばれるプログラムもあります。 Skynet がターゲットを識別し、MonsterMind がドローンに攻撃を指示します。プロセス全体が自動化されています。

42 いいね