AIも催眠術をかけられるのか？

いつか、おそらく数十年以内に、人工ニューラル ネットワークを使用して、人間の脳をリアルにシミュレートするマシンを構築できるようになるかもしれません。しかし、その時までに、このような強力な生物を安全に保つにはどうすればよいのでしょうか? AI が人間のように外部の力によって簡単に誘導され、操作されないようにするにはどうすればよいのでしょうか?

[[390996]]

ロボットは催眠術をかけられるのか？

AI の究極の目標は、人間が信じるのと同じくらい高いレベルの知能を達成することです。この専門分野に精通していない多くの友人は、誇大な報道に惑わされ、現代の AI がすでに非常に高い知能を持っていると信じてしまうことがよくあります。

しかし実際には、外部からの助けなしにキッチンに直接入って香り高いコーヒーを淹れられるロボットはこの世に存在しません。

なぜ AI はこのような単純なタスクに困惑するのでしょうか? それは、AI がまだ実際に考える能力を持っていないからです。 AIには「思考段階」がないため、記憶や動機に基づいて斬新なアイデアを生み出すことはできません。代わりに、指示された内容に従って入力を出力に変換するだけです。

しかし、AI研究者の中には、ディープラーニング以外にも、より「自然な」形のAIを実現する方法はあると考える人もいる。

人工汎用知能（AGI、一般的には人間レベルの知能を持つ AI と考えられている）への従来の道の 1 つは、人工ニューラル ネットワークを使用して人間の脳の働きをシミュレートすることです。しかし、人間の脳をシミュレートすることが目的なので、機械知能も催眠術師に捕らえられるのでしょうか?

殺人ロボットがいるなら、殺人催眠ロボットもある

「ターミネーター」のような非人道的な機械が突然家に侵入してくるのではないかと恐れる人もいる。しかし、おそらくさらに恐ろしいのは、この機械のより「人間的な」側面です。

最も議論の多い分野の一つとして、催眠術には魔法の力があるようです。多くの学者が催眠術の実際の有効性を疑問視する論文を発表していますが、最近の研究結果によると、特定の言葉を通じて人間の意識状態を変えることは確かに可能です。もちろん、これは必ずしも確実な解決策ではありません。ある程度の「スキル」が必要です。

しかし、催眠術のこの特定の効果が一般化されると、将来人間が作る高度なロボットも同様の影響を受けるかどうかを本当に心配する必要があるかもしれません。

通常の冗談の催眠術はもちろん無害だが、テロリストが信号機の制御システムを催眠術で操作したり、あるいはそれを利用して何百万台もの自動運転車を侵入させたりすれば、結果は悲惨なものとなるだろう。

これは少し大げさでしょうか?

完全にはそうではありません。現在、機械学習におけるバイアスが中心的な問題となっています。人間が生成したデータやラベル付けされたデータを大量に機械に取り込む場合、何らかの偏りの要素が存在することは避けられません。このため、GPT-3はイスラム教徒についての固定観念を確立し、MITはRedditのデータを使用してトレーニングした後、「精神病質」特性を持つAIモデルも取得しました。

実際、AI システムが人間のように学習し、考えるほど、人間の心のような外部の誘因の影響を受ける可能性が高くなります。

脅威は現実です。おそらくいつの日か、ハッカーは従来のコンピュータには影響を及ぼさない大量の信号を AI システムに送りつけることで、AI システムの思考方法を操作できるようになるだろう。

自然な会話を理解できる AI システムは音声によって操作されることさえあり、コンピューター ビジョン機能を備えた AI システムは慎重に設計された画像によって騙される可能性があります。理論的には、人間のような知能を持つ AI は、人間と同じように催眠術で自分自身を失うことができるはずです。