人工知能の未来は必ずしも明るいとは限らない

私はいつも映画に出てくるロボットが大好きで、悪いロボットも好きです。しかし不安なのは、私たちの周りの機械がどんどん賢くなってきているため、悪意のある人工知能（ターミネーターや「2001年宇宙の旅」のHALのような）が最終的に現実世界に侵入するのではないかと心配しない理由がないということです。

もちろん、このような悲観的な見方をしているのは私だけではありません。スティーブン・ホーキングは「自律型人工知能技術の発達は人類の終焉となるだろう」と警告した。オックスフォード大学の哲学者トビー・オードは、その刺激的な著書『The Precipice』の中で、小惑星、核戦争、気候変動など人類絶滅につながる可能性のあるさまざまな脅威を検証し、「反逆的な人工知能」が最も可能性の高いものとして挙げている。

人工知能に関する最近の本を読んでいると、「シンギュラリティ」（人工知能が人間の知能を超える時点）はすぐには来ず、数十年から数世紀かかるだろうという専門家のコンセンサスにいくらか安心します。しかし、ロボットが支配する未来に対する不安が、スマートスピーカーから自動運転車まであらゆるものを動かすタイプのAIである「狭義の」AIの短期的な脅威から注意をそらしている、と著者らは主張しており、油断する必要はない。

一部の人にとって、このタイプの AI は、賢くて善意に満ちており、障害物にぶつかることなく A 地点から B 地点まで移動するなど、特定のタスクを実行できるデジタルの愚かなサーバントにすぎないと思われるかもしれません。しかし、マイケル・カナーンが著書『T-Minus AI』で示しているように、人工知能は容赦なく邪悪になることもできる。カナーン氏は、AIの無制限な使用がもたらす結果と、私たちの自由と安全を守るための安全策をどのように講じるべきかについて、直ちに話し合うよう求めた。

ウィリアム・デイビッドウとマイケル・マローンの著書『The Autonomous Revolution』とダニエル・サスキンドの『A World Without Work』はどちらも、既存の人工知能がもたらすリスクについて論じている。彼らは、人工知能の台頭は、産業革命のように、単に多数の新しい仕事を生み出す技術的な変化であるだけでなく、多くの仕事の消滅にもつながると考えているのではなく、人類は歴史的な転換点にあり、独自のインテリジェント技術が現在、ますます多くのタスクで人間のパフォーマンスを上回っており、最終的には多くの人間の仕事を置き換える可能性があると考えています。

テクノロジー企業の幹部であるダビド氏とジャーナリストで起業家のマローン氏は、人工知能はこれまでの技術進歩のようにGDPと豊かさを増やすような生産性の向上をもたらすことはないだろうと述べた。生産性は上がるかもしれないが、GDPの減少につながるだろう。考えられる結果の 1 つは、広範囲にわたる労働力がさらに安価になり、賃金が低下し、経済格差が拡大し、雇用が減少し、「経済的価値がゼロの労働者」(つまり、たとえ無償で働いても雇わない労働者) が何百万人も出現することです。

経済学者で元英国政府の政策顧問のサスキンド氏も同様の見解を示している。彼は、人工知能の台頭により、人間が従事できる活動は減少し続けると考えています。トラック運転手 + GPS は強力な組み合わせです。しかし、人工知能が運転手とナビゲーターになると、米国の 350 万人のトラック運転手が失業することになります。共感、判断、創造力といった最も人間的な特性に依存する仕事であっても、影響を受けないわけではないかもしれません。機械は「診断」に関する医師の直感や作曲家の思索を決して持ち得ないかもしれないが、人間の行動を真似する方法を確実に学習し、その真似が非常に説得力を持つため、人間自身でさえ違いを見分けるのに苦労するだろう。

しかし、これらの著者は、私たちが向かっている世界、つまり雇用機会が減り、不平等が拡大する世界を予測しています。彼らは、新たな規制当局の出現（例えば、サスキンド氏は、権力が強すぎる企業を抑制するために政治権力規制機関と呼ばれる機関が設立されると予測している）と、政府の介入の拡大を予測している。自由市場の解決策が機能しない場合、私たちを待っているのは（正直に言えば）「増税、無料の国民皆保険、そして普遍的なベーシックインカムなどの富の再分配システム」だとダビド氏とマローン氏は示唆している。

「この危機の影響を免れる仕事はないと私は確信しており、これを深く探求することに興奮している」とケビン・スコットは著書『アメリカンドリームの再プログラミング』の中で主張している。マイクロソフトの最高技術責任者スコット氏は、移民労働者が特に製造業で多数の新たな雇用を生み出すだろうと予測している。 「究極的には、AIは人間に取って代わるものではなく、人間に力を与えるものである」と彼は断言し、AI、ロボット工学、自動化によって生み出される多くのブルーカラーの仕事について説明した。例えば、ある起業家は、コンピューターベースの高度なプラスチック織りビジネスを立ち上げました。このビジネスでは、「機械工の学位を持ち、就職前のトレーニングをほとんど受けていない人でも、小さな無名の町で高給の仕事に就くことができました。」スコット氏はまた、AIを動かすまったく新しいタイプの仕事についても言及した。AIを訓練するためのデータラベリング、人間が操作するロボットの派遣会社、バージニア州にあるマイクロソフトの500エーカーの施設のような巨大データセンターの建設などだ。スコット氏の楽観的な見解は、これらの新しい仕事が消滅した仕事に完全に取って代わるかどうかという、あまり望ましくない話題をほとんど避けている。

これらの著者は特定の問題については意見が異なるかもしれないが、全員が将来については楽観的である。鍵となるのは、将来最悪の結果を回避するためのルールと制度を今導入することだと彼らは主張している。カンナン氏が言うように、AI技術は「基本的な人間の尊厳に合致する方法でのみ、そして民主主義の理想、自由、法律に合致する目的にのみ実装される」ようにする必要がある。

AI はこの計画についてどう思うと思いますか? Kanan が機械学習アプリケーション GPT-2 のバージョンにこのアイデアについて即興で考えるように依頼したところ、GPT-2 はすぐに完璧な答えを返しました。「現在、私たちの焦点は、これらの目標を達成するために AI を使用することが人間社会にとって必要かつ望ましいことを一般の人々に納得させることにあります...しかし、最終的には、将来は倫理的な決定を下す必要があり、真に安全で持続可能な世界、人間と AI が真に共存できる世界を構築し始めるでしょう。」

機械は人間のように自分が書いたものを把握することはできませんが、少なくとも利己主義の影が見え、将来がどうなるかについてある程度の洞察を得ることができます。