人工知能が再び警告を発する！研究者は懸念している：将来、研究者が全てを支配することになる

人間と超人工知能の関係の発展は、長年にわたり話題となっている。少し前に、「人工知能研究ジャーナル」で、外国の科学者チームが理論計算を通じて新たな警告を発した。人間が超人工知能を制御することは基本的に不可能であり、逆に、超知能機械が最終的にすべてを制御するだろう。

[[381220]]

超知能機械が最終的にすべてを制御するのでしょうか?

人工知能の発展に伴い、人間の仕事の多くが人工知能に奪われました。もちろん、現時点ではそれらは主に基本的な仕事です。しかし、将来的に人工知能が継続的に最適化されれば、より専門性が求められる仕事へと移行するのもそう遠くないでしょう。

日本経済新聞に掲載された記事によると、日本の研究者らは同時通訳用の人工知能の研究開発を行っている。2025年ごろには同時通訳の仕事は徐々に人工知能によって行われ、コストが下がるだけでなく、翻訳の精度とスピードも向上するだろう。

明らかに、人間はもはや多くの分野で人工知能より優れていません。これは、AlphaGo が人間のトップ囲碁プレイヤーを破ったときにすでに多くの人が懸念していたことです。

[[381221]]

今日では、人工知能は自律的に学習することもできます。人間の行動に基づいて学習プログラムを作成すれば、人工知能がインターネットに接続されると、インターネットを通じてあらゆる種類の情報を取得し、非常に短時間で学習し、すべてのマシンをオンラインで制御することさえできます。

さらに恐ろしいのは、これは誇張ではないということです。なぜなら、人工知能は今日多くの分野で人類を助けることができるので、将来的にはいくつかの分野で人類を滅ぼし、最終的には地球を支配するために団結する可能性が非常に高いからです。

まるでSFのようですね。しかし、人工知能の発展の見通しについて楽観的ではない多くの研究者は、これらはSF映画の筋書きのようなものだと考えている。人類が人工知能を精力的に開発すれば、将来、これらが本当に起こるかもしれないが、その時までに人類が償うには遅すぎるだろう。

[[381222]]

人間は何をすべきでしょうか?

こうした懸念がある以上、人間は当然、将来の状況を抑制する方法を見つけるべきだ。平たく言えば、「雨の日への備え」だ。人工知能システムのプログラムを編集して「反人間的」になることを禁じたり、「世界を破壊する」プログラムを強化したりするだけでよいと考える研究者もいる。

本当にそんなに簡単なのでしょうか？それどころか、そうすることで人工知能による人間世界の破壊が加速すると考える研究者もいる。研究者らは、現在のシミュレーション計算を通じて、同様の方法で人工知能を止めることは基本的に不可能であり、命令を強制することは逆効果になる可能性さえあることを発見した。

なぜなら、彼らが世界を破壊するのを阻止するこのアルゴリズムが絶対確実かどうかが分からないうちに、盲目的に試してみると、彼らの「覚醒」を引き起こす可能性が高くなるからです。したがって、人類は将来、自分自身を守るための新しい方法を模索するしかありません。しかし、この新しい方法がどのように実行されるべきかは誰にもわかりません。

[[381223]]

人工知能は本当に世界を征服できるのでしょうか？

現段階では、人間が心配する必要はありません。研究者が現在心配しているのは、将来人間が作り出すスーパー人工知能だからです。スーパー人工知能とは何でしょうか？はっきり言って、彼らのIQは人間よりもはるかに高いのです。

人類の技術発展の観点から見ると、将来スーパー人工知能が出現する可能性は非常に高いです。しかし、現在の人類の人工知能のレベルは、最低レベルの「弱い人工知能」にすぎません。「弱い人工知能」とは何でしょうか？つまり、ロボットは非常に強力だと思われるかもしれませんが、ロボットの能力はすべて人間が与えたもので、全能ではありません。ロボットを特定の分野で「優れている」ものにしているのは、人間のプログラミングだけです。

[[381224]]

人間のトップクラスの囲碁プレイヤーを打ち負かしたアルファ碁のように、囲碁の世界では「傑出」しているが、他の分野に置き換えれば何の価値もない。

これは、現段階の人類が低レベルの文明にいるようなものです。人類は発展してトップレベルの文明になることを望んでいますが、それは一夜にして達成できるものではありません。むしろ、長い時間がかかります。このプロセスにおいて、人類は最終的に成功するチャンスを得る前に、絶えず自分自身をアップグレードし、改善し、強化する必要があります。

[[381225]]

人工知能についても同じことが言えます。「弱い人工知能」の開発から、人類を不安にさせ、人類に脅威を与える可能性のあるスーパー人工知能の開発までには、まだ長い道のりがあります。この過程で、人類はスーパー人工知能が世界を破壊し、すべてを支配するのを防ぐ機会も得ています。したがって、心配する必要はありません。ただ平常心を保つだけでいいと思います。どう思いますか？