人間には知恵と愚かさの両方がある。AIが人間らしくなるためには愚かさも必要だろうか？

人間のようになることが AI 開発の究極の目標のようです。

しかし、周知のとおり、人間には知恵と愚かさの両方があります。AIが人間のようになるためには、この2つの側面も必要でしょうか？

AIが人間に似ることができるかどうかをテストするために作られたチューリングテストの観点から見ると、人間が計算などのタスクを完了するとき、彼らが出した答えには一定の誤り率があり、計算を完了するのに一定の時間がかかります。正しい答えをすぐに出すことができるAIが人間の計算プロセスも模倣すると、人間とAIを区別できなくなります。これは、AIが人間の愚かさを模倣することで「人間のような」動作を実現している一面です。

人間の成長と進化という点では、幼児のころにつまずいたときから始まり、最初に犯した間違いや愚かさが、将来の経験と知恵への道を切り開いていきます。したがって、一見役に立たない「愚かさ」は、AI がより賢くなるためのもう一つの可能​​性を提供する可能性があります。

この記事は、AI も人間のように愚かさという属性を持つ必要があるかどうかに焦点を当てています。皆さんに何らかの考えやインスピレーションを与えるものになると信じています。

[[331097]]

1. 愚かさか賢さか

私たちは一般的に、ある人を「賢い」と表現することがどういう意味かを知っているようです。逆に、人を「愚か」と分類する場合、それが正確に何を意味するのかという疑問が生じます。たとえば、愚かさはゼロサム方式で知性の欠如を意味するのでしょうか、それとも愚かさは独自の位置を占め、知性と同等のものとして存在するのでしょうか。

この重い問いに答えるために、思考実験をしてみましょう。知恵が詰まったバケツがあるとします。私たちは知性を、手元にあるバケツに注ぐことも、バケツから注ぐこともできる具体的なものだと考えています。知恵が詰まったバケツを地面に落としたら、何が残るでしょうか?

一つの答えは、バケツが完全に空になり、バケツの中には何も入っていない、つまりバケツが空になったということです。もう一つの答えは、バケツの中の知恵が空になると、残るのは愚かさの残骸だということです。

つまり、いわゆる知性を失えば、残るのは愚かさだけなのです。

これは一見難解な議論のように思えますが、後ほどわかるように、この考え方は多くの重要な事柄、特に人工知能の開発と発展に非常に深い影響を及ぼします。

愚かさなしに知恵は存在できるでしょうか？あるいは実際的な意味で、知恵と愚かさが共存するなら、ある程度の愚かさは常に存在しなければなりませんか？知恵と愚かさは禅のような陰陽であると主張する人もいます。 この観点からすると、基準となる愚かさも持たなければ、知恵の本質を突き止めることはできません。

人間は時が経つにつれて賢くなり、愚かさのレベルが下がってきたと言われています。知恵と愚かさはゼロサムゲームをしている、つまり、知恵が増すと愚かさのレベルが下がる（同様に、愚かさが増すと、知恵が下がる）と考えるかもしれません。人間は 100% の知性と 0% の愚かさを達成できるのでしょうか? それとも、どんなに 100% 賢くなろうと努力しても、常にいくらかの愚かさを抱えてしまう運命なのでしょうか?

バケツの比喩に戻ると、人間は完全に知的になり、愚かさから完全に解放されることは決してないと言う人もいるでしょう。そのバケツの中には常に何らかの愚かさが残っているでしょう。賢くて一生懸命努力すれば、たとえまだ愚かさが残っていたとしても、愚かさを減らすことができるかもしれません。

2. 愚かさは知恵にとって有益でしょうか、それとも有害でしょうか?

愚かなことはすべて悪いことであり、常にそれを排除したり避けたりするように努めなければならないと考えるかもしれません。しかし、愚かさは「悪い」、賢さは「良い」という単純な見方は、もっと複雑なことを見逃しているのではないか、と問う必要があります。時には、限られた範囲内で愚かになることが、より賢くなる方法になるかもしれない、と主張することもできます。

子どもの頃、愚かにも自分の足につまずいてしまったとします。つまずいた後、足を注意深く上げなかったためにつまずいたことに気が付きました。その時点から、歩き方にもっと注意を払うようになり、より賢い歩き方をするようになります。おそらく、後年、狭い道を歩いているとき、縁石から落ちずに済むようになるのは、幼少期に受けた愚かな教訓が、あなたの知恵の一部になっているからでしょう。

もちろん、愚かさがトラブルを引き起こすこともあります。たとえ自分の愚かさから慎重に歩くことを学んだとしても、ある日グランドキャニオンの縁を歩こうとしたら、奈落の底に落ちてしまうでしょう。このように崖の端を歩くのは賢明なことでしょうか? 明らかにそうではありません。

したがって、愚かさは味方にも敵にもなり得るということ、そしてそれがどのような状況や瞬間に味方になるかは、知恵の部分によって決まるということに注意する必要があります。ご想像のとおり、知恵と愚かさの間で永遠の闘いが続いています。

一方、賢い人と愚かな人は互いに協力し合い、協力し合っていると考えることもできるでしょう。したがって、これは特別な戦いではなく、どちらが優位に立っているか、そしてどのように連携し、助け合うかをめぐる繊細なダンスやゲームのようなものだと言えます。

3. 人工的な愚かさについて真剣に考える時が来た

人工知能の出現が私たちの生活をどう変えるかについては毎日耳にします。人工知能技術は、スマートフォン、冷蔵庫、自動車などに導入されつつあります。私たちが使用する物に人工知能を組み込む場合、次のような疑問が生じます。陰と陽を考慮する必要があるのか​​、特に、人工的な愚かさを十分に認識する必要があるのか​​。

ほとんどの人は、「人工的な愚かさ」という言葉を聞いたり見たりすると思わず笑ってしまい、そのようなことを言うのは事情を知る誰かの冗談に違いないと考えてしまいます。確かに、「人工的」と「愚か」という言葉の組み合わせは、それ自体が愚かに思えます。

しかし、人間における知恵と愚かさの役割についてのこれまでの議論を再検討することで、視点を再構築し、知恵について議論するときは必ず愚かさの役割も考慮する必要があることに気づくかもしれません。

嘲笑を減らすために、人工的な愚かさを表現する別の方法として、人工的な遅れ、人工的な人間性、人工的な惰性などといった大げさな表現を使うべきだと提案する人もいますが、これらの言葉はどれも私にはまだピンと来ません。とりあえず、私が「人工的な愚かさ」という用語を使用することを許してください。そして、「人工的な愚かさ」について議論することは実際には愚かなことではないと固く信じてください。

実際、現実世界、つまり知性を再現しようとするコンピュータ システムの仮想世界に愚かさが存在するという考えを受け入れたくない、または受け入れる気がないために、人工的な愚かさについて議論するのは愚かだと主張することもできます。そうすることで、愚かさを「方程式のもう半分」として無視または軽視することになります。

つまり、真の AI には、現在「賢い」あるいは優れた AI と考えられているものと人工的な愚かさ (偽装なし) の組み合わせが必要であり、この組み合わせはスマートな方法で実現されなければならないと主張する人もいます。

AIに人工的な愚かさを組み込むことで、AIシステムに根本的かつ不可逆的に愚かさを導入し、最終的にAIを愚かにしてしまう可能性があるという見方があります。実際、この概念に対する多くの人々の即座の反射的な反応には、それを反駁することで対抗することができます。

もちろん、愚かな方法で愚かさを導入すると、AI システムに損害を与え、AI システムを愚かにしてしまう可能性が高くなります。一方、人間の仕組みを理解し、意図的に愚かさを取り入れることで、最終的には AI がより賢くなる可能性があります (自分の足につまずいて転んだという子供の頃の話を思い出してください)。

今のところ、AI は人間の知能のレベルにはまだほど遠い。おそらく、真の完全な人工知能を実現する唯一の方法は、人工の愚かさを人工知能に統合することだ。したがって、人工の愚かさから距離を置いたり、それを追放者と見なしたりすると、私たちは牢獄に閉じ込められ、人間と同じくらい知能の高い AI は手の届かないところにあるだろう。つまり、人工的な愚かさを私たちの思考から排除することで、AI が頂点に達するのを防ぐことができるかもしれないのです。これは顔面へのパンチのようなもので、あまりにも直感に反しているため、人類がこの方向で AI を開発するのを妨げることがよくあります。

しかし現実には、人工的な愚かさ（あるいは何と呼ぶべきか）を明らかにし、それを利用することが AI の発展に大きな利益をもたらす可能性があるという兆候が増えています。

真の無人自動車の誕生には、人工的な愚かさをシステムに組み込むことが含まれる可能性があると私は考えています。これは衝撃的でしょうか？そうかもしれません。以下でこの問題を分析してみましょう。

4. 人工的な愚かさを利益のために利用する

真の自動運転車に関しては、L4 および L5 の自動運転車に焦点を当てます。これら 2 つのレベルの自動運転車は、人工知能システムによって自律的に運転され、必ずしも人間の運転手がいないのが普通です。全ての運転操作は人工知能が担当し、乗員は全員乗客となる。

人工的な愚かさという話題については、この用語がどのようにして生まれたのかという歴史を簡単に振り返ってみる価値がある。 1950 年代に、有名な数学者でありコンピュータ サイエンスの先駆者であるアラン チューリングが、AI のための有名なチューリング テストを提案しました。

チューリングテストとは、簡単に言うと、人工知能を搭載したコンピュータシステムと別の人間と同時に対話させ、どちらがAIでどちらが人間であるかを事前に教えず（両者は目に見えないところにいると仮定）、お互いの対話を通じてどちらがAIでどちらが人間であるかを判断することを要求します。 2 人の俳優を区別できない場合は、AI がテストに合格したと宣言できます。この意味で、AI は人間の参加者と区別がつかず、インテリジェントなやり取りにおいて平等に扱われる必要があります。

実際、当初のチューリングテストは急激な方向転換を遂げました。質問者が「ずる賢い」場合は、両方の参加者に円周率を千分の一まで計算してもらいます。おそらく、AI は瞬く間に非常にうまく簡単に答えを教えてくれ、その答えは非常に正確で完全に正しいものになるでしょう。しかし、これは人間にとって難しいことであり、紙と鉛筆を使って計算すると、この質問に答えるのにかなり時間がかかり、間違った答えになってしまう可能性が高くなります。

チューリングはこれを認識し、そのような算術問題を問うことで人工知能の神秘性を本質的に解明できると考えました。その後、彼は、AIが算数の質問に意図的に間違った答えを出す可能性があることを示唆し、一部の人々がパンドラの箱を開けたとみなすもう1つのステップを踏みました。つまり、AI は質問者を騙そうとし、わざと間違った答えをしたり、人間が手動で計算するのとほぼ同じ時間をかけたりして、質問に答える際に人間のように振る舞うことができるのです。

ロブナー賞は、優勝者に多額の賞金を提供するチューリングテストに似たコンテストとして 1990 年代初頭に設立されました。このコンテストでは、質問者に AI を人間であると誤解させるために、人工知能システムに人間のようなエラーが与えられることがよくあります。しかし、これは論争を引き起こしており、ここでは詳しくは論じません。 1991年、『エコノミスト』誌はこの競争に関する古典的な記事を掲載した。もう一度言いますが、皮肉なことに、何かを実際に賢いものとして描写するために愚かさが導入されています。この短い歴史の教訓は、この議論の次の要素の基礎となります。

人工的な愚かさというテーマを、2つの主な側面または定義にまとめてみましょう。

• 人工的な愚かさは、人間のような愚かさを AI システムに意図的に組み込むことです。これは、AI をより人間らしく見せるために行われます。目的は、AI 自体を改善することではなく、AI に対する人間の認識を形成して、AI をより知的に見せることです。
• 人工的な愚かさは、人間の無数の欠点を認識することであり、この「愚かさ」は AI に統合されるか、AI と共同で機能する可能性があり、適切に処理されれば AI のパフォーマンスが向上する可能性があります。

最初の定義に関しては、コンピューターが特定の問題を意図的に誤算する可能性があるという、やや誤った想定を含むよくある誤解を解消したいと思います。コンピュータが意図的に間違った計算、例えば円周率を不正確に計算するなどの可能性があると、衝撃と軽蔑の念を込めて叫ぶ人もいます。しかし、定義は必ずしもそのことを意味するわけではありません。これはおそらく、コンピューターが円周率を 1000 分の 1 の桁まで正確に計算し、桁を少し調整して調整した記録済みの答えを返し、それを瞬時に実行し、その後、人間が手動で計算する場合と同じだけの時間待ってから結果を表示するためだと考えられます。このように、コンピューターは実際にはすでに正しい答えを内部に持っていますが、一見間違った答えを表示するだけです。

この状況は、コンピューターが報告したデータに頼っている人にとっては間違いなく不利ですが、これはコンピューターが実際に誤って計算したデータとはまったく異なることに注意してください。実際には、この 2 つの微妙な違いを紹介することはもっとたくさんありますが、今のところは、前の分析を続けましょう。人工的な愚かさのこれらの側面は両方とも、真の自動運転車に適用できるが、そうすることで、検討する価値のある特定の問題が生じることになるだろう。

5. 人工的な愚かさと真の自動運転車

現在、公道でテストされている自動運転車は、その優れた運転技術で有名になっています。全体的に、自動運転車は、運転に対して臆病で、ややためらいがちな若い初心者ドライバーのようなものだ。自動運転車を目にすると、通常、その車は前方の車との間に大きな緩衝地帯を作ろうとし、私たちが運転を習ったときに学んだ経験則に従おうとします。人間の運転手は、車間距離の安全地帯を考慮することはほとんどなく、他の車を押しのけようとすることが多く、それが実際に自分自身を危険にさらす可能性があります。

自動運転車が運転を練習している別の例を示します。一時停止の標識を見ると、自動運転車は通常、完全に停止します。道路が安全かどうかを確認してから、慎重に進みましょう。しかし、人間の世界では、一時停止の標識で完全に停止する人はおらず、徐行停止が標準となっています。人間の運転の仕方は無謀で少し愚かだと結論づけられるかもしれません。こうすると、自分の車と前の車の間に十分なスペースがなくなるため、追突事故が発生する可能性が高くなります。一時停止の標識で完全に停止しないと、他の車両や歩行者と衝突する危険性が高まります。

チューリングテストのように、歩道に立って通り過ぎる車を眺め、車の運転行動を観察するだけで、どの車がAIによって運転され、どの車が人間によって運転されているかを判断できます。これは聞き覚えがありますか? おそらく、これは先ほど取り上げた算術精度の問題に似ているからでしょう。

この問題をどうやって解決するか? 一つの方法は、上で定義した人工的な愚かさを導入することです。まず、車に搭載された AI に意図的に距離バッファゾーンを短くさせ、人間が運転しているように見せることができます。同様に、AI を一時停止の標識を通過するように設定することもでき、導入も非常に簡単です。これにより、通過する車を観察するときに、AI が運転しているのか人間が運転しているのかを見分けることが難しくなります。なぜなら、どちらもまったく同じ間違いを犯すからです。これは、人間が自動運転車の AI の知能をどのように認識するかという問題を解決すると思われます。

しかし、ちょっと待ってください。これは AI をより危険なドライバーに変えてしまうのではないですか? 人間のドライバーによる危険な自動車事故の発生率を高めようとしているのでしょうか? 賢明な判断ですが、そうではありません。

人工的な愚かさの2番目の定義に移りましょう。これは、これらの「愚かな」運転方法をAIシステムに実質的に組み込むことです。これにより、AIは車を運転するときにこれらの要素を考慮に入れることができ、同時にそれらを回避したり、特別な瞬間にこれらの方法を慎重に適用したりする強い感覚も持つことができます。 AIに盲目的に運転させて人間のミスを起こさせるのではなく、人間の運転の欠点に対処し、その欠点を発見して必要に応じて有効活用する強力な能力を持つようにAIを開発し、AIが真に安全な「ドライバー」になれるようにする方が良いでしょう。

VI. 結論

今日の人工知能の最も明白なボトルネックの 1 つは、常識的な推論能力がまったくなく、人間レベルの統合的推論がまったくできないことです (多くの人がこの種の人工知能を人工汎用知能、または AGI と呼んでいます)。そのため、今日の AI は、真の「人工知能」の側面よりもむしろ「人工的な愚かさ」の側面に近いと考える人もいます。人間には知恵と愚かさという二面性があるのなら、AI システムが人間のような知性を発揮したいのであれば、同様の二面性を持つ必要があるかもしれない (ただし、AI は人間の足跡をたどる必要はないと言う人もいる)。

いわゆる AI 自動運転車が道路上に登場していますが、AI には知覚力がなく、すべての部分が知覚力を持っているわけではありません。自動運転車が成功するには、知能の階段をさらに上る必要があるのでしょうか? まだ誰も知りませんが、決して愚かな質問ではありません。

この記事はLeiphone.comから転載したものです。転載する場合は、Leiphone.com公式サイトにアクセスして許可を申請してください。