人工知能は意識のギャップを埋めることができるか？

諺にもあるように、千人の読者には千のハムレットがあり、私たちにとって人工知能 (AI) も同じことが言えます。人工知能とは何かという問いに対して、普遍的に受け入れられている答えは存在しません。多くの場合、人々は直感だけに基づいて人工知能を理解するため、結果は曖昧になることが多いです。そのため、人工知能を高く評価する人がいる一方で、人工知能を異端とみなし、できるだけ避けようとする人もいます。

そこで、本稿では、社会全体における人工知能に対する誤解を探り、それを専門の研究者やコンピュータ科学者の人工知能に関する見解と比較・分析する。まず第一に、人工知能の本当の姿がどのようなものか、そしてさらに重要なことは、人工知能に関する人間の想像は完全に空想に過ぎないということを、専門家ではない人たちに明らかにする必要がある。

[[319898]]

人間が人工知能に対して、不可解な恐怖を抱くにせよ、盲目的に崇拝するにせよ、一部の悪意ある人間に利用されて社会全体を操ることになるかもしれない、まさにこれこそが著者が最も懸念していることである。

一方では、政治、ビジネス、メディア業界の著名人たちは、人工知能から個人的な利益を得るために、人工知能に関するあらゆる種類のセンセーショナルな虚偽の「陰謀」をでっち上げることに全力を尽くしている。一方、物事の真実は、専門書の膨大な海に埋もれてしまい、一般大衆からは何千マイルも遠ざかってしまうことがよくあります。

「インテリジェンス」とは何でしょうか?

知性は人間特有の特性でしょうか? 犬の中には他の犬よりも賢い（または知的な）犬がいるとか、犬はモルモットよりも賢いなどとよく言われます。つまり、普通の動物にも知性があるということのようです。

犬には知能があるのなら、鳥はどうでしょうか？ミミズや植物はどうでしょうか？これをどう明確に定義すればよいのでしょうか？現在、業界では人工知能についてさまざまな定義がありますが、比較すると、著者はそのうちの 1 つを好みます (Wikipedia から引用)。

「情報を認識または推測し、それを特定の環境または状況に適用できる適応行動に変換する能力。」

上記の定義は合理的に思えますが、この定義に従えば、コンピューターどころか植物にも知性があるのではないかという疑問が残ります。

実際、この定義は人工知能研究者の一般的な理解とほぼ一致しています。しかし、一般の人にとって、実際に人工知能について話すとき、動物や植物について考えることはあまりありません。コンピュータが植物やモルモット、あるいは犬と同じくらい知的に機能できることが発見されたとき、ほとんどの人は大喜びしませんでした。

同様に、人々は銃器メーカーが銃にどのような機能を持たせるか、あるいは銃器にどのようなプログラムを組み込むかを気にしません。銃は人を殺すために生まれ、実際に人を殺すが、将来銃が自己認識を獲得し、人類を皆殺しにするかもしれないと心配する人はいない（結局のところ、これは人類が銃にあらかじめ与えた使命なのだ）。

ほとんどの人々の人工知能に対する理解は「ヒューマノイド知能」のレベルにとどまっており、人々が心配したり期待したりしているのは、人工知能が自発的に動機付けを生み出すことができるかどうかであることを認めなければなりません。

比類のない

モチベーションの重要性は自明であり、人間のモチベーションは他のすべての動物のモチベーションとは異なり、この独自性が人間をユニークなものにしているのです。

有名なイギリスの数学者であり、コンピュータサイエンスの父であるアラン・チューリングは、「人間」を直接定義することはほとんど不可能であるため、次のように考えることができると提唱しました。

「アヒルのように歩き、アヒルのように鳴くなら、それはアヒルです。」

言い換えれば、チューリングは、一連の質問をした後で、人間の面接官がコンピュータ プログラムが機械であるか人間であるかを判断できない場合、そのプログラムはテストに合格すると提案しました。チューリングテストに合格すると、そのプログラムは人間とほとんど区別がつかないほど完全な人工知能であることを意味します。実際、チューリングテストに合格したとしても、プログラムが人間のように複雑な決定を下せることを証明することはできず、また、事前にプログラムされていない動機を自発的に生成できるかどうかを判断することもできません。

特に注目すべきは、書面によるインタビューでは人間の経験が限られた量しか含まれないということです。私たち人間は急速に変化する世界に住んでいるため、私たちが行うすべての行動は即時かつ現実的な結果や影響を及ぼします。たとえば、「暗い路地に入るかどうか」は非常に複雑な決定であり、その決定に影響を与える多くの要因は不明です。人々は日々、状況についての限られた理解に基づいて意思決定を行っています。成功の定義が生き残ることであるならば、私たち人類は間違いなく勝利したのです。なぜなら、人類は生き残っただけでなく、今日まで繁栄してきたからです。

「価値創造マシン」

人間がなぜこのような状態になっているのかについては、いまだにさまざまな意見があります。しかし、ほとんどの学者は、これらすべては物事に価値を付与する人間の傾向によるものだと考えています。

人間は、コンピュータにも追いつけないスピードで物事に価値を付与する「価値創造マシン」のようなものです。突然音が聞こえた場合、人間は 170 ミリ秒以内に即座に反応できます。比較すると、Google の Web リンクをクリックすると、最初のバイトのデータがブラウザに読み込まれるまでに平均約 200 ミリ秒かかり、ページ全体が読み込まれるまでに最大 500 ミリ秒かかります。

ウェブページの読み込みはコンピュータにとっては簡単な作業ですが、人間の脳に比べれば大したことではありません。人間の脳は、音が脅威的なものか（枝が折れる音や金属がぶつかる音など）、音が心地よいものか（アイスクリームカートのベルの音や子供の笑い声など）を、コンピューターの 2 倍以上の速度で判断できるからです。さらに重要なのは、有効なデータがほとんどない場合でも、人間の脳は迅速に反応できるということです。

何かが良いか悪いかを判断することは、人間が物事に価値を付与する行為であり、この行為は通常、本能的、自発的、無意識的です。しかし、この反応が奪われると、人間は通常の「思考」さえ行うことができなくなります。

例えば、喉が渇いたとき、人は「喉の渇きを癒すために何を飲むか」と「どこで飲むか」を考えます。

[[319899]]

出典: Pexels

「何を飲めばいいか」と尋ねられたとき、池の水ときれいな井戸水という 2 つの選択肢があるとします。誰もが井戸水を選ぶことは間違いありません。しかし、もし彼が無法者だったらどうだろう？そして、もしその水たまりが、人がほとんど行かない深い山や森の中に隠されていて、その井戸が賑やかな街で公衆にさらされていたらどうだろう？今考えれば、彼は水たまりを選んだかもしれない。彼の当面の優先事項は喉の渇きを癒すことだったが、長期的な動機は脱出することだった。その理由は主に、飲料水が清潔かどうかよりも自由を重視していること、つまり「個人の自由」という命題に高い価値を置いていることにあります。

実際、人間のモチベーションは物事の価値に完全に依存します。犬は喉が渇いたら、価値に関係なく生き残ることが目的なので、見つけた水を何でも飲みます。

しかし、この例は「生存」とは何の関係もありません。目の前にボタンがあり、それを押せば 1 人が死亡し、押さなければ 10 人が死亡します。この時点で、ボタンを押してもしなくても生命の安全が脅かされることはないが、道徳の呼びかけが常に心の奥底に響き渡っていることは無視できないと思うかもしれない。したがって、人間はさまざまな選択肢を評価するときに、それらに対応する値を割り当て、これを使用して思考を導きます。

価値の源

その価値がどこから来るのかはまだ議論中です。

価値観は信仰から生まれると主張する人もいます。敬虔なキリスト教徒は、価値観が神の意志を反映すると信じています。進化論者は、価値観が人類の生存と不死の獲得を可能にすると主張している。

対照的に、価値観は反駁できない客観的な真実であることが普遍的に認識されています。人間は価値があるから価値があるというのは自明の真理です。アメリカの有名な哲学者サム・ハリスはかつてこう言いました。

「何かが客観的に真実または道徳的であると信じる時、私たちはまた、誰かが私たちの立場だったら同じように感じるだろうとも信じます。」

実際、よく考えてみると、この言葉はどこにでも当てはまるわけではないことがわかります。第一に、ある価値観は特定の文化に特有であるのに対し、他の価値観は極めて普遍的である理由を説明できません。さらに、価値の源泉についても説明されていません。そのため、宗教や進化の観点から理解しようとしている人もいますが、価値の作用法則を解明することはまだできません。

この「神秘的な」価値観こそが、人間と人工知能の間に乗り越えられない意識の溝を生み出しているのです。上記の「飲料水」の例に戻ると、物語の主人公は空腹と渇きに刺激されて水を探しましたが、これは生理的要因による動機です。この場合、AI に適切なセンサーが装備されていれば、バッテリー残量が少なくなりすぎて充電が必要な場合など、そのような動機を生成することもできます。

しかし、人間が美しい写真を撮り、愛する人と共有する動機は何でしょうか。なぜ友人と政治的な話題を議論するのでしょうか。人間がホラー映画を見たり、特定のスポーツを習ったりする動機は何でしょうか。前述の「ボタン問題」はどうでしょうか。人間が「1 人の命は 10 人の命よりも価値が低い」や「いかなる状況でも殺人は不道徳である」など、事前に価値の割り当てを行わなければ、冷酷なコンピューターがそのような決定を下すことができるのでしょうか。人間の道徳観と瞬時に価値を割り当てる能力は、何百万年もの適者生存の後にのみ現れました。一方、人間が事前に道徳原則をプログラムに組み込んでいなければ、コンピューターはどのようにして独自の道徳体系を開発できるのでしょうか?

私たち人類は本当にこの日を待ち望んでいるのだろうか？ 人類の歴史を振り返ってみると、人類は何千世代にも及ぶ紆余曲折を経て、輝かしい現代文明を生み出してきたことがわかる。したがって、私たち人間は、人間の知性がこのような困難な「文明への道」を再び辿るのを本当に見たいのでしょうか?

もちろん、人間も人工知能に手を貸すことができるが、それでも「意識のギャップ」問題は無視できない。人間があらかじめ人工知能に特定の人間の価値観をプログラムした場合、その人工知能は本当に人間の意識を持っていると結論付けることができるだろうか？自発的に動機を生み出すことができるだろうか？明らかに、これは不可能だと思う。

潜在的なリスク

[[319900]]

出典: Pexels

人工知能が全くリスクフリーだと言っているのではありません。他の人間研究分野と同様に、人工知能の応用はさまざまな予期しない結果や影響を及ぼす可能性があります。たとえば、人工知能がソーシャルメディアのフィード管理を支援するために使用されると、多くの予期しない災害が発生する可能性があります。

さまざまな潜在的なリスクが生じる理由は、人工知能に固有の欠陥があるからではなく、私たち人間が住む世界にあるのです。言い換えれば、本当のリスクは人間の意思決定プロセスから生じるものであり、避けられないものなのです。人間がオーストラリアの害虫駆除のためにオオヒキガエルを輸入しようとしたり、人工知能を使って株の自動取引をしようとしたりすると、あらゆる種類の災害が次々と起こる可能性がある。

「グランドスタンディング」

犬に「ボタンの質問」に答えさせることは、ほとんど想像もできません。犬が倫理的な問題を解決できると信じる理由はなく、犬が選択について考え直したり躊躇したりするとは想像もできません。

同様に、「ボタン問題」に直面したとき、人工知能と犬のパフォーマンスは実際にはほぼ同じです。さらに、AI が人間のように自発的に価値観を割り当て、それによって独自の道徳原則を発展させることができるという証拠はありません。人工知能は計算速度、問題予測の速度と精度の点で確かに優れた性能を発揮していますが、それが何の役に立つのでしょうか?

チェスで人間に勝つことはプログラミングとコンピュータサイエンスにおける画期的な進歩であったが、現実世界への影響はごくわずかだった。コンピュータは、特定のルールの厳格な制約内で多数の順列と組み合わせを同時に計算できますが、これはコンピュータが一般的な知能を持っている、または人間の意識を発達させることが期待されていることを意味するものではありません。

コンピューターが人間の医師よりも優れた診断と病状の分類ができるようになったのは驚くべきことではありません。実際、チェックリストと意思決定ツリーの自動化は人間にとって大きな助けとなります。緊急治療の際には、医師に一時的に情報を調べてもらうよりもコンピューターの方がはるかに速く意思決定を行えるからです。確かに、これらのリストがなければ、人間はさまざまな認知バイアスにさらにさらにさらされることになるだろう。

しかし、AIが患者を分類できるからといって、車の前の物体が段ボール箱なのか、自転車に乗った子供なのかも判断できると考えるのは間違いです。

最近のニュース報道は、センセーショナルなものや扇情的なものばかりです。一部の人々の目には、天の崩壊は止まったことがないと映っている。昨日予言された最後の審判（「ミレニアム危機」または「ニューヨークのウエストサイド高速道路が2019年に水没するかもしれない」）は予想通りには起こらなかったが、それでも彼らは世界の終わりが今日来ると説き続けるのをやめない。注目を集めようとする理想主義者にも同じことが言えます。彼らはユートピア的な世界への限りない憧れを抱き、地上に楽園が訪れることを何度も想像してきました。それらはすべて例外なく泡と化しましたが、揺るぎない信者にとって、信仰の力は決して揺るぎませんでした。

実際のところ、人工知能は、その支持者が想像するほど美しくも素晴らしいものでもなく、反対者が主張するほど神秘的でもありません。正確に言えば、人工知能は数学的確率論の一分野に過ぎないが、世間からは神格化されている。人工知能は神ほど全能ではなく、独自のスキルを持っているだけです。オタクが漫画を愛したり、コレクターが収集したアイテムについて語ったりするのと同じように、人工知能は独自の分野でのみ輝くでしょう。

[[319901]]

出典: Pexels

つまり、人工知能に関しては、私たち人間は過度に心配する必要はないが、興奮しすぎるのも避けるべきだということだ。

この記事を読んだ後、読者がこれまでの極端な感情を捨て、人工知能を普通の心で扱えるようになることを著者は願っています。