ジョン・マカフィーの意見: 人工知能は人類を滅ぼすのか?

2017 年 3 月 9 日、ハッカー アンダーグラウンド テクノロジーの専門家であり作家でもある ZT が、中編小説『The Architect's Revelation』を出版する予定です。彼の信奉者たちは、テネシー州の州都ナッシュビルの廃墟となったバーの地下室に集まり、その小説を読んだ。これは、デジタルによる絶滅に直面して人類の生存を維持することに専心する人々が秘密裏に招待者のみで集まる、第 3 回年次 HackerCon と同時期に開催されたものです。

ジョン・マカフィーは他の3人の友人とともに会議に出席し、約30人のグレーハットハッカーが出席し、アメリカのハッカーコミュニティの強さを象徴していました。グレーハットハッカー、またはサイバーセキュリティの専門家という用語には悪意はありません。

人工知能の歴史的進化を記録したZTの中編小説は、近い将来を舞台にしていると思われる。人工知能と補助ロボットが世界を動かす時代において、人間は自由です。時が経つにつれ、世界は完全にロボットが支配する世界へと進化しました。

ZTの小説では、人工知能はさまざまなレベルに整理・分類されており、最終的な意思決定機能を持つロボットは「再帰的意思決定者」と呼ばれています。そして AI は、衝動を描写した独自の宗教的なイメージ、いわゆるデミスを作成しました。デミスに匹敵する破壊力を持つイーロンというAIが存在します。 AIは、イーロンが火星に定住し、デミスが築いた王朝を打倒しようとしていると信じています。

[[189499]]

「ターミネーター4」展のオリジナルのT-800エンドスケルトンロボットは、2月7日にイギリスのロンドンにある科学博物館で開催された「ロボット」展のプレスプレビューで撮影された。

小説で語られた人類の将来の方向性は現実のものとなりそうであり、描かれているAIデジタルデザインも現実のものとなるだろう。効率性とロジックの向上のために高度なシステム ソフトウェアが自らをハッキングする様子を説明する段落があります。このような概念は確かに新しいものではなく、今日普及している典型的なハッキング手法は、複雑なソフトウェア システムによって自己生成されたものであることは容易に推測できます。実際、ハッカーの技術を使えば、このようなソフトウェア システムを簡単に作成できます。

AIのジレンマ

人工知能がその創造者によって排除されるのを防ぐために、有名なアメリカのSF作家アイザック・アシモフはこのジレンマに立ち向かい、解決策としてロボット工学の3つの原則を提案しました。

• 第一法則: ロボットは人間を傷つけたり、不作為により人間に危害を加えたりしてはならない。
• 第二法則: ロボットは、第一法則に反する場合を除き、人間から与えられた命令に従わなければならない。
• 第三法則: ロボットは、第一法則または第二法則に反しない限り、自身の生存を守らなければなりません。

これら 3 つの法則は 75 年前に考案されたもので、今日では単純または未熟であるように思われます。なぜなら、本格的なハッカーであれば誰でもこれらの法則を実装するためのロジックを編集でき、また、これらをハッキングするためのロジックを簡単に作成できるからです。ただし、注意してください。人間が想像できるあらゆる論理構造はハッカーの攻撃に対して脆弱であり、論理構造が複雑になるほどハッキングされる可能性が高くなります。もちろん、今では、現実世界を最も気軽に観察している人でもこれに気づくでしょう。

米国テキサス州のNSS研究所の研究ディレクター、ステファン・フライ氏は、上位5社のソフトウェアメーカーのレポートを綿密に調査し、この5社が毎年生産するソフトウェアだけでも100件を超えるゼロデイ脆弱性が含まれていることを発見しました。ゼロデイ脆弱性とは、ハッカーがすべての内部制御メカニズムを回避し、必要な情報をすべて取得できるソフトウェアのセキュリティホールです。

ソフトウェアメーカーが最大限の努力を払って防止に努めているにもかかわらず、ゼロデイ脆弱性は依然として存在しています。一部のソフトウェアメーカーは、ソフトウェアがリリースされる前にこれらのセキュリティホールを見つけることを主な仕事とする何百人もの品質保証エンジニアを雇用しています。しかし、ソフトウェア エンジニアリングの歴史に登場した複雑なソフトウェア システムには、リリース後にセキュリティ上の脆弱性が存在します。ジョン・マカフィー氏は、リリース前に脆弱性が全くなかったソフトウェアの例を誰かが示せたら、自分の靴を食べるだろうと語った。

本のディスカッション中、小説の中のデミス・ハサビスとイーロン・マスクについて言及する人は誰もいなかった。彼らは人工知能に関する議論において正反対の立場に立っています。小説によれば、2014年の会話の中でイーロンはデミスに、スペースX計画が非常に重要である理由は、人工知能が人類を攻撃し始めた場合に火星が人類の避難所となるためだと語ったという。しかしデミス氏はイーロン氏にこう答えた。「たとえ人類が火星に逃げたとしても、AIは人類を追って火星に行く可能性が高い」この小説は、「人工知能は子供のいないディズニーランドを創るだろう」と結論づけている。

人工知能が人類を滅ぼすかどうかについての議論は激化し続けており、双方の識別チームも拡大している。ジョン・マカフィー氏は、ビル・ゲイツ氏、スティーブン・ホーキング氏、スティーブ・ウォズニアック氏、スチュアート・ラッセル氏、イーロン・マスク氏、ニック・ボストロム氏の見解を個人的に支持していると述べた。

人工知能はどこへ向かうのか？

ハッカーのジョン・マカフィーは、人間は皆同じであり、人間の思考だけで完璧なシステムを作ることは不可能だと言いました。人間の心自体に欠陥があるため、欠陥のあるシステムでは欠陥のないものを作り出すことはできません。

人工知能を作成する目的は、自己認識を持つ実体を構築することですが、作成者は人工知能の自己認識の作成において適切な破壊を行わなければなりません。そうでなければ、人工知能は自己認識と独自の利益を持つことになります。人間の思考によって作られたいかなる人工知能も、人間の利益が損なわれることのないように保護しなければならない。