人工知能の長所と短所について知っておくべき10の事実

[[202058]]

1. 人工知能があなたの仕事を奪いに来ます。自分のキャリアを守るためには、機械が得意としない仕事、つまり人が関わる仕事、予測できない仕事、創造性が求められる仕事を行うのが最善です。私たちは、テレマーケティング担当者、倉庫作業員、レジ係、列車運転手、パン職人、組立ラインの調理人など、予測可能な状況で自動的に消えてしまう反復的または構造化された仕事は避けたいと考えています。トラック、バス、タクシー、Uber/Lyft の運転手は、近いうちに交代することになるかもしれません。また、置き換えられる職業のリストには載っていないものの、業務の多くが自動化されているため、必要な人員が少なくなる職業（パラリーガル、信用分析者、融資担当者、簿記係、税理士など）も数多くあります。

2. 失業は一生の休暇になる可能性がある。 AIの進歩は、人工的に生み出された富がどのように課税され、分配されるかによって、すべての人々が贅沢な余暇を楽しめる社会を生み出すか、あるいは、雇用できない大多数の人々に完全な悲惨さをもたらすかのどちらかになる可能性がある。

[[202059]]

3. 殺人ロボットはフィクションではない。我々は人工的に制御された兵器の暴走的な軍拡競争の瀬戸際にあり、安価で便利な暗殺マシンを、財布に十分な資金を持つテロ組織を含むすべての人々の手に渡すことで、今日の大国の軍事力を弱体化させる可能性がある。 AI研究者はこれに反対し、国際的なAI兵器管理条約を望んでいる。

4. 機械には IQ がない。そして複雑な目標を達成するには知性が必要です。生物や機械によって得意なことが異なるため、IQ のように単一の数値で定量化することはできません。

5. 人工知能はますます普及しつつあります。今日の AI は主に狭義の知能であり、チェスや運転など、限られた目標を人間よりも上手に達成する能力を持っています。対照的に、人間は真の知性、つまり学習を含むあらゆる目標を達成する能力を持っています。人工知能の究極の開発目標は、人間のようにあらゆる知的タスクを完了できる能力である汎用人工知能 (AGI) です。多くの一流 AI 研究者は、AGI の実現まであと数十年だと考えています。

6. 人工知能は私たちをはるかに取り残す可能性があります。英国の数学者アーヴィング・J・グッドは 1965 年に次のように説明しました。「超知能機械とは、どんなに知能が高くても、人間よりもはるかに優れた知的活動を実行できる機械と定義されます。」機械の設計は知的活動であるため、超知能機械はより優れた機械を設計できる可能性があります。間違いなく「知能爆発」が起こり、人間の知能ははるかに遅れをとることになるでしょう。したがって、最初の超知能機械は、その制御方法を教えてくれるほど従順であれば、人類が作らなければならない最後の発明となる。

7. コンピューティングの限界に到達するには、まだ程遠い。私の祖母が生まれて以来、コンピューターの価格は劇的に下がりました。もしすべてが安ければ、1パーセントで今年地球上で生産されたすべての商品とサービスを購入できるようになります。ムーアの法則は、2次元のシリコン ウェハー上で電子を動かすのにどれだけのコストがかかるかを示しています。このプラットフォームを導入すれば、3次元回路の使用や電子を使った操作など、他の多くのハードウェア ソリューションを試すことができます。私たちはまだ物理法則の計算限界の1兆倍も下にいるのです。

8. 人工知能は人類の繁栄に貢献できる。人類の文明のすべては知性の産物であるため、AI によって私たち自身の知恵を増幅させることで、生命がこれまでと同じように繁栄し、病気から気候変動まで、最も困難な問題を解決できる可能性があります。

9. 人工知能はリスクをもたらす。機械が知覚を持ち、邪悪になるというハリウッドの恐怖は誤解だ。本当の懸念は悪意ではなく能力です。超知能の定義は、それが何であれ、その目標を達成するのが非常に得意だということなので、その目標が私たちの目標と一致していることを確認する必要があります。人間は一般的にアリを嫌うわけではありませんが、人間はアリよりもずっと賢いので、水力発電所を建設しようとしてそこにアリ塚があったら、アリにとっては残念なことになります。

10. AIの安全性に関する研究が必要です。 AI が社会に及ぼす影響を今後も拡大させていくためには、AI の安全性に関するさらなる研究が必要です。たとえば、今日のバグだらけのコンピューターを、実際に信頼できる堅牢な AI システムに変換するにはどうすればよいでしょうか。機械に目標を学習させ、受け入れさせ、維持させるにはどうすればよいでしょうか。

これらは答えが出るまでに何十年もかかるかもしれない難しい質問なので、必要なときに答えが得られるように今から研究を始めるべきです。しかし、AIの強化に費やされた数十億ドルと比較すると、政府はこれまでAIの安全性研究にほとんど資金を費やしていない。