ニューラルシンボリックシステム、学際的相互作用、李飛飛と他の16人の学者がAIの未来について議論する

昨年、ニューヨーク大学の心理学および神経科学の教授であるゲイリー・マーカス氏と、ディープラーニングの先駆者であり2018年のチューリング賞受賞者であるヨシュア・ベンジオ氏が、AI技術開発の方向性についてライブ討論を行った。

今年は、ゲイリー・マーカス氏がMontreal.AIの代表であるヴィンセント・ブーシェ氏との第2回討論会を主催しました。この討論会には、フェイフェイ・リー、ジューディア・パール、リッチ・サットンを含む合計16名の学者が参加し、「AIの前進：学際的アプローチ」というテーマについて議論しました。ゲイリー・マーカス氏は「この討論会は異なる視点を示すためのものだ」と語った。

討論には、「アーキテクチャと課題」、「神経科学と心理学からの洞察」、「信頼できる AI の構築」という 3 つのトピックが含まれていました。

ゲイリー・マーカス氏はまず、昨年のベンジオ氏との討論を振り返り、次の10年について「人工知能を次のレベルに引き上げる方法」について議論すべき時期が来ていると指摘した。

その後、16人の学者がそれぞれ研究や意見を話し、討論は3時間以上続きました。

スピーチトピックの要約: https://montrealartificialintelligence.com/aidebate2/readings.pdf

討論ビデオ: https://montrealartificialintelligence.com/aidebate2/

アーキテクチャと課題

まず最初のテーマは「アーキテクチャと課題」です。議論に参加した学者には、Yejin Choi、Luis Lamb、Fei-Fei Li、Robert Ness、Judea Pearl、Ken Stanley、Rich Sutton などが含まれます。

スタンフォード大学のコンピューターサイエンス教授であるフェイフェイ・リー氏が最初に講演し、AIの「北極星」について語った。彼女は、「北極星」とは環境との相互作用であると語った。

その後、ブラジルのリオグランデ・ド・スル連邦大学のコンピューターサイエンス教授、ルイス・ラム氏が「ニューラル・シンボリックAI」について講演しました。ラム氏は、マーカス氏が「代数的思考」で述べた概念に基づく神経記号研究は、ニューラル ネットワークに基づいて記号を操作する必要性をカバーしていると述べた。「両者の論理を形式化する基礎的な方法が必要です」と、ジューディア パール氏の考えは述べている。

次に、DeepMind の著名な研究科学者である Rich Sutton 氏が強化学習について説明しました。彼はまず、神経科学者のデイビッド・マーによる計算視覚情報処理研究の 3 つのレベル、つまり計算理論、表現とアルゴリズム、ハードウェア実装について言及しました。マー氏は計算理論に興味を持っているが、「現時点ではAIのこの分野の研究はほとんど行われていない」という。サットン氏は、勾配降下法のような考え方は、計算理論で要求される「何」ではなく「どのように」に関するものだと述べた。

「AIには誰もが同意できるインテリジェントコンピューティングの理論が必要であり、強化学習が最有力候補だ」とサットン氏は語った。

次に、チューリング賞受賞者であり、ベイジアンネットワークの父であり、ベストセラー本「Why」の著者でもあるジューディア・パール氏が、「因果推論の家畜化」と題した講演を行いました。同氏は、ディープラーニングは金鉱だと語った。「因果革命を推進するために私が構築した新しいエンジンは、心理状態の計算モデル、つまり『深い理解』を表現することができます。」 「

パール氏は、深い理解こそが、「何が？」「もしも？」「もしも？」といった質問に答えられる唯一のシステムになるだろうと語った。

次に、機械学習研究科学者のロバート・ネス氏が「因果推論と（深層）確率的プログラミング」について講演しました。

「確率的プログラミングは因果推論を解決する鍵となるだろう」とネス氏は語った。確率的プログラミングは因果推論の鍵となる反事実について推論できるエージェントを構築することができる。彼は、これでパールの「もしも」という問題が解決するだろうと考えました。

セントラルフロリダ大学のコンピューターサイエンス教授ケン・スタンリー氏は進化と創造性について論じた。 「過去数千年にわたり、火から宇宙ステーションまで、以前のものに基づいて新しいものが開発されてきた。これはオープンシステムだ」スタンリー氏は、知性を生み出した進化は、並行した「現象的システム」であると語った。 「私たちは存在の始まり以来、何千年にもわたって獲得してきた創造性を持っており、それを理解するよう努めるべきです。」

次の講演者はワシントン大学のコンピューターサイエンスの准教授であるイェジン・チェ氏でした。彼女は言語の重要性について話し、言語は「生成的なタスクのための推論」であると述べました。彼女は、「私たち人間はリアルタイムで推論を行いますが、これは AI の将来の発展にとって重要かつ基本的な課題の 1 つになるでしょう」と考えています。

彼女は、GPT-4/5/6 などの将来の新しい言語モデルでは十分ではないと考えています。

数人の学者がそれぞれの見解を述べた後、マーカス氏は、反事実的仮定、未知の未解決問題への対処、知識の統合、データだけに頼るだけでは不十分だというジュディア・パール氏の指摘、そして常識の重要性（イェジン・チェ氏の「生成性」に関する指摘に関して）といった、彼らの共通の関心事をまとめようとした。

「世の中には6つまたは7つの異なる視点があります」とマーカス氏は尋ねました。「それらを統合したいですか？強化学習を知識と互換性のあるものにしたいですか？」

ルイス・ラム氏は、ニューラル記号システムは「どうやって行うか」ではなく、学習において非常に堅固で確実なものを構築するという同じ目標を持っていることを理解することが鍵であると述べましたが、表現は学習の前に来ます。

マーカス氏は学者たちに「モジュール性」について考えるよう求めた。リッチ・サットン氏は、表現だけでなく問題全体を考慮するアプローチには前向きだと述べた。彼は、計算理論の助けを借りて達成する全体的な目標は何であるかについて考えるべきだと考えています。「複数の計算理論が必要です。」

イェジン・チェ氏は次のように指摘しています。「人間は目新しいものを信じ、奇妙な因果推論を行う能力を持っています。」 「私たちは人間のようなシステムを構築したいのでしょうか？」と彼女は問いかけ、人間の興味深い点の 1 つは、自然言語を通じて膨大な知識を伝え、自然言語を通じて学習する能力である点を指摘しました。

マーカスはフェイフェイ・リーとケン・スタンリーに「神経進化」分野の現状について質問した。

フェイフェイ・リー氏は、進化は知能における最も偉大で豊かな実験の一つであり、知能の背後には一連の統一原理が隠されていると述べた。しかし彼女は、進化生物学の制約にとらわれることなく、むしろ原理を抽出していくつもりだと語った。

神経科学と心理学からの洞察

討論の2番目のテーマは「神経科学と心理学からの洞察」で、ダニー・カーネマン、クリストフ・コッホ、アダム・マーブルストーン、ドリス・ツァオ、バーバラ・トヴェルスキーが議論に参加しました。

スタンフォード大学の心理学名誉教授バーバラ・トヴェルスキー氏は、すべての生物は宇宙空間で運動しなければならず、運動が止まれば生命は終わると信じている。トヴェルスキー氏はまた、人間の身振りや空間運動が人間の心の変化に影響を与える可能性についても話した。

彼女は、「学習、思考、コミュニケーション、協力、競争はすべて行動と少量の言葉に依存している」と指摘した。

次は、ノーベル経済学賞受賞者であり、AI 推論に関する権威ある書籍『ファスト＆スロー』の著者であるダニエル・カーネマン氏です。彼は、この本に書かれている 2 つの思考パラダイム、システム 1 思考とシステム 2 思考に共感したと述べました。 1 つは直感的な形式であり、もう 1 つはより高度な推論形式です。

カーンマンは、システム 1 には非象徴的なものすべてが含まれると主張していますが、それはそれが非象徴的なシステムであることを意味するわけではありません。システム 1 には世界の表現が含まれており、それを通じて人々は自分たちが住んでいる世界をシミュレートすることができます。ほとんどの場合、人々は単調な生活を送っており、起こることのほとんどは私たちの予想の範囲内です。システム 1 モデルでは、予期しないイベントであっても、多くのイベントを「正常」と見なします。システム 1 は、それ以上のイベントの受信を拒否します。ジューディア・パールに倣って、カーネマンは、反事実的推論の大部分はシステム 1 にあり、そこでは何が正常であるかという自然な理解が推論を支配すると示唆しています。

次の講演者はカリフォルニア工科大学の生物学教授、ドリス・ツァオ氏でした。彼女はフィードバック システムに焦点を当て、マカロック ニューロンとピッツ ニューロンに関する初期の研究をレビューしました。彼女は、多層ニューラルネットワークにおけるバックプロパゲーションを例に挙げ、フィードバックが重要であると主張しています。フィードバックを理解することで、より堅牢な視覚システムを構築できるようになるかもしれません。また、フィードバック システムは幻覚などの現象を理解するのにも役立つかもしれません。最後に、彼女は機械学習とシステム神経科学のインターフェースに対する興奮を表明しました。

次は、以前は DeepMind で神経科学の研究を行っていた MIT の Adam Marblestone 氏です。脳を観察し、それがどのように機能するかを解明しようとすることは「まだ非常に原始的なレベルにある」と彼は考えている。さらに、畳み込みニューラルネットワークなどは単に人間の行動を模倣しているだけだとも考えています。

シアトルのアレン脳科学研究所の研究者であるクリストフ・コッホ氏は、「神経科学が人工知能の発展に役立つと期待してはいけない」と主張した。彼は、脳の理解にはあと100年から200年かかると信じており、AIの開発を加速させるために脳の機械的なマトリックスからインスピレーションを得るのは間違いであり、これはマーブルストーンの見解とはまったく対照的である。 「これは人工物の特性とはまったく異なる」と彼は語った。

これに応えて、マーカス氏は「多様性」など、さらなる疑問を提起した。大脳皮質の 1 つの部分から、大脳皮質の他の部分のどのような特性を知ることができるでしょうか?

ツァオ氏は、「類似性」の方が印象的で、脳の働きに関する真に奥深い普遍的な原理を明らかにするかもしれないと答えた。予測コーディングは、多くのことを説明できる「標準モデル」です。 「この普遍的な原理の探求は大きな影響を及ぼすだろう。」

この点について、コッホ氏は細胞の種類は「非常に異なる」と述べ、例えば視覚ニューロンは前頭前皮質ニューロンとは非常に異なるとしている。

マーブルストーン氏は、「クリストフ氏が計算上の意味合いで何を語っているのかを経験的に理解するためには、より良いデータが必要だ」と考えている。

マーカスは「生来の本質」についても質問しました。彼はカーネマンにオブジェクト ファイルについて尋ねました。「自然な構造を追跡しているすべてのものを追跡するために使用する、頭の中にあるインデックス カードですか?」

カーンマンは、「オブジェクト ファイル」は脳がオブジェクトを追跡する際に作成される永続的な概念であると答えました。彼はそれを警察のファイルに例え、その内容は証拠が集められるにつれて時間とともに変化すると述べた。なので、対象文書は「当然当然」です。

マーカス氏は、ディープラーニングには「ターゲット ドキュメント」に相当するものは存在しないと考えています。

信頼できるAIの構築

討論会の3番目のテーマは「信頼できるAIの構築」で、ライアン・カロ、セレステ・キッド、マーガレット・ミッチェル、フランチェスカ・ロッシがそれぞれ意見を述べました。

カリフォルニア大学バークレー校の教授であるセレステ・キッド氏は、人間がどのように認知を形成するかを研究する研究室で働いています。キッド氏は、アルゴリズムによる偏見は危険であり、「時には人間の認知に破壊的な影響を与える可能性がある」と述べた。彼女は、コンテンツ推奨のためのAIシステムを例に挙げ、そのようなシステムは人々に「より強力で修正が難しい誤解」を抱かせると主張した。たとえば、Amazon や LinkedIn は採用に AI を使用していますが、これは女性候補者に悪影響を及ぼす可能性があります。

「AIシステムの偏見はユーザーの偏見を強め、今やAIは恐ろしい存在だ」キッド氏はまた、ティムニット・ゲブル氏がGoogleから解雇されたことにも触れ、「ティムニット氏がGoogleで経験したことは当たり前のこと」と語った。

「機械学習アルゴリズムを開発する典型的なアプローチは、トレーニングデータを収集し、モデルをトレーニングし、出力をフィルタリングし、人々に出力を見せることです」と、Google のシニア研究科学者であるマーガレット ミッチェルは述べています。しかし、人間の偏見は、データ収集、注釈付け、および開発段階全体で直面する重要な問題であり、モデルのトレーニングにさらに影響を及ぼします。後処理段階でも同じバイアスが存在します。

「人々はアウトプットを見てフィードバック ループになり、私たちはそのシステムを打破しようとしています。これはバイアス ロンダリングです」とミッチェル氏は言います。「開発には中立的なものは存在しません。開発は価値を伴います。開発に含まれるものを分解して、人々がそれについて考え、「予測可能な利益」を目指して、「予測可能な損害とリスク」から遠ざかるようにする必要があります。テクノロジーは、テクノロジーの利点を強調するのには長けていますが、リスクに対処したり、長期的な影響を考慮したりするのは得意ではありません。」

IBM フェローの Francesca Rossi 氏が、信頼できる AI エコシステムを構築するという課題について説明します。 「もちろん正確であることは望んでいますが、それだけでなく、価値観の一貫性、公平性、解釈可能性など、多くの特性が必要です」と彼女は語った。「解釈可能性は、特に機械が人間と連携する状況では非常に重要です。」

ロッシ氏はミッチェル氏の透明性を求める声に応えた。 「原則だけでは不十分です」と彼女は言う。「多くの協議と、開発者が物事のやり方や組織内の包括的な構造をどのように変えるかを理解できるようにするための多くの作業が必要です。」ロッシ氏は、機械でモデル化される価値には、神経記号システムとカーネマンのシステム1とシステム2が重要であると述べた。

最後の講演者はワシントン大学の法学教授ライアン・カロ氏でした。同氏は「原則についていくつか疑問があります。原則は自動的に強制されるものではなく、違反しても罰則はありません」と述べました。

「原則は、実際には議論の余地のない決定を下すことが目的なので、ほとんど意味がないと私は思います。原則は必要ないと思います。私たちがすべきことは、ただ座ってAIが人間のアフォーダンスに与える影響を評価し、それに応じて法制度を変えることだけです。AIを規制できないからといって、法律を変えることができないわけではありません。」

マーカスはこう答えた。「パンドラの箱は今開いています。世界はAI開発にとって最悪の時期にあります。知識のないデータに制約されたシステムがここにあります。」

次にマーカスは「ベンチマーク」について質問しました。機械は信頼できる方法で私たちを常識に近づけることができるのでしょうか?チェイ氏は、インスタンスベースの機械学習、つまり自己教師学習は罠だと反論した。

ミッチェル氏は、認知バイアスが差別につながる可能性があり、モデル開発においては差別とバイアスが「切り離せない関係にある」と指摘した。パール氏は、特定の偏見を理解できれば、アルゴリズムによって修正できると答えた。 「特定の偏見をモデル化できれば、それを修正できる」と彼は述べ、そのプロセスを「偏見除去」と呼んだ。

キッド氏は、彼女の研究室での仕事は「誤解」について考えることだと語った。この世界では、たとえ証明できないものであっても、人々は偏見を示すものです。ネス氏は、認知バイアスは有用な帰納的バイアスになり得ると指摘しています。これは、人工知能の問題が単なる哲学的な問題ではなく、「非常に興味深い技術的な問題」でもある可能性があることを意味すると彼は述べた。

マーカスは、ロボットに対する皆さんの意見を尋ねました。今日のロボットのほとんどは、部屋の中を移動するなど、わずかな物理的推論しか実行しません。人間にとって非常にうまく機能するこの物理的推論の問題を、言語の領域にまで拡張するにはどうすればよいでしょうか。

フェイフェイ・リー氏はこう語った。「視覚化とインタラクションは知性の一部です。」物理的推論は知能を開発するための重要な原則であることに強く同意しますが、物理的なロボットを構築する必要はありません。学習エージェントはニーズの一部を満たすことができます。

次にマーカスは、フェイフェイ・リーの研究室でのシミュレーション作業、特に「アフォーダンス」について質問しました。視覚化に関しては、鉛筆を持つ、電話を持つなどの物理的なアフォーダンスが大部分を占めます。これからどれくらい遠いのでしょうか?

「これは、例えば半導体大手のエヌビディアが行っている物理モデリング作業に非常に近い」とリー氏は言う。「我々はこれをAI開発の次の段階で実行する必要がある」

「私は知識の具体的な内容については考えないようにしています」とサットン氏は言う。そのため、彼は空間を他の事柄、ある状態から別の状態への移行について考える方法として考える傾向がある。 「私はこの質問には反対です。物理的な空間を特別なケースとして考えたくないのです。」

トヴェルスキー氏は、「人間は他人を観察することで多くのことを学べます。しかし、私は相互作用と模倣についても考えています。幼い子どもにとって重要なのは正確な動きではなく、目標です。」と信じている。

マーカスは「目標はとても重要です」と答えました。彼は赤ちゃんの例を挙げました。生後 14 か月ほどの赤ちゃんでも、相手の動きをそのまま真似したり、相手が変なことをしているのに気づいて、同じ動きを繰り返すのではなく、相手がしようとしている動きを真似したりします。生来のものと生まれつきのものは同じではありませんが、人生の早い段階では、空間と目標の表現が非常に豊かであり、AI にはこれに適したシステムがありません。 「

チェ氏は言語の重要性を改めて強調した。 「常識の研究を幼児に限定したいのか、それとも大人の常識も捉えられるシステムを構築したいのか？ 言語は私たちにとってとても便利で、大人の常識を代弁してくれるのです。」

好奇心

マーカスは話題を好奇心に移した。「好奇心は人間の能力の重要な部分であり、何らかの形で認知能力を向上させることができます。」

「これは人間に限ったことではありません」とコッホ氏は言う。「チンパンジー、子犬、子猫…彼らは皆、世界を探検したいと思っています。」

スタンリー氏の見解：「好奇心は明らかに幼児期の発達、学習、そして人間の知能にとって基本的なものであるため、これは大きな謎です。しかし、この行動がどのように形成されるのかはわかっていません。」

「興味深いシステムを作りたければ、『何が興味深いか』という非常に主観的な概念に取り組まなければなりません。そして、その主観性と戦わなければなりません。そして、それはまさに私たち科学者が好まないことです。」スタンリーは言った。

パールは好奇心についての不完全な理論を提唱した。哺乳類は快適で制御可能なシステムへの道を見つけようとしますが、好奇心を駆り立てるのはそのようなシステムの穴なのです。 「穴がある限り、イライラしたり不安になったり、好奇心が刺激されます。その穴を埋めると、よりコントロールできていると感じるでしょう。」

サットン氏は、強化学習では好奇心が探索の原動力として低レベルの役割を果たすと指摘しています。 「近年、人々は遊びをより大きな役割として捉え始めています。私たちが設定した目標は今は役に立たないかもしれませんが、将来役に立つかもしれません。遊びは人間が行う大きなことの一つかもしれません。遊びは大きなことなのです。」

「メタ認知」という概念について尋ねられたロッシ氏は、「カーネマンのシステム 1 またはシステム 2 のどこかに、実体自身の能力について推論する部分があるはずで、私はこれこれの方法で答えたり、外部刺激に反応する新しいプログラムを設計したりできる」と答えた。ロッシ氏は、この能力が好奇心と「遊び」の概念を刺激するのに役立つかもしれないと考えている。

「科学者として、私は科学的知識と AI の原理の奥深さを探求したいと思っています」とフェイフェイ・リーは語りました。「私は今でも、私たちの AI 時代はニュートン物理学以前の時代だと思っています。私たちはまだ現象学と工学を学んでいるところです。いつか、私たちは知性の原理を理解し始めるでしょう。国民の一人として、私はこの技術が理想的な状況で人間の生活環境を改善できることを願っています。それは非常に深いため、非常に悪い場合もあれば、非常に良い場合もあります。この技術の枠組みが可能な限り最も慈悲深い方法で開発され、展開されるのを見たいと願っています。」

ラム氏は次のように述べた。「私はチューリングの言葉が好きです。彼は、私たちはほんの少し先しか見通せないと言いました。フェイフェイ氏が言ったように、科学者として、私は AI が進歩することを願っています。しかし、AI の影響は大きく、AI の開発は私たちの主要な責任です。ゲイリー氏が言ったように、AI が人間界にとってプラスの要素となるように、AI をより公平で偏りの少ないものにするために収束を求めなければなりません。私たちは、非常に人間的な方法で私たちの分野を見る必要があります。私たちは、真剣な倫理原則、法律、規範に導かれなければなりません。私たちは AI のカンブリア爆発の始まりにあり、社会的、倫理的、そして世界的影響について非常に明確にする必要があります。私たちは南北の分断に注意を払う必要があり、単一の文化的観点からのみ見ることはできません。」

サットン氏は次のように考えている。「AIは純粋に技術的なもののように聞こえるが、ラム氏の言うように、AIは人類のあらゆる努力の中で最も人間的なものであるかもしれない。私たちの理解が深まり、さまざまな種類の知能、拡張人間、新しい人間、理解、多様性に満ちた新しい世界が訪れることを楽しみにしている。」

パール氏はこう語った。「私の野望はごく限られています。私は、知的で、友好的で、非常に有能な弟子が欲しいのです。私自身を理解したいのです。私の考え方や感情の起伏を理解したいのです。私自身について、まだ答えの出ていない科学的な疑問がいくつかあります（意識や自由意志など）。もし私のような自由意志を持つロボットを作ることができれば、それは最大の科学的成果だと考えるでしょうし、私たちは成功すると予測しています！」

「議論の多くは、人間の仕事の自動化についてです」とネス氏は言います。「それを人間の知能を増強し、人間の体験を向上させるために使うことを想像するのは興味深いでしょう。人間が大きなモデルを使って詩を書いているのを見たことがありますが、詩人が新しい詩を作るのを助けるツールを作ることができたらもっと良いと思いませんか？私はポップミュージックが大好きですが、新しくてエキサイティングな試みも聞く必要があります。PhotoShopを最初に作ったエンジニアは、VRキャラクター用のマトリックス画像を作成しましたが、今日ではPhotoshopの使い方を知らないデザイナーはいません。Photoshopがデザイナーのためにしたように、AIが人間の体験に貢献してくれることを願っています。」

「私にとっては、ロバートが言ったことに少し似ています。私たちは自分のためにやらなければなりません」とスタンリーは言いました。「私たちは自分自身を捨てたくありません。他の人の助けがなければできないことがあります。私は素晴らしい芸術を見ればそれがわかるのですが、素晴らしい芸術を作ることもできます。私たちが持っている潜在的な能力は、アシスタントを通してより明確に引き出すことができます。AIができることは、私たちのアイデアを増幅し、私たちが自分自身をよりよく表現するのを助けることです。それが私たちがやりたいことだと思います。」

チェイ氏：「私がワクワクしていることが 2 つあります。私たちは好奇心について話してきました。今興味深いのは、好奇心が学習パラダイムで物事を読み取り、これまでできなかった素晴らしいことを可能にしてくれることです。それが知能に新しい力をもたらすのです。私たちは長い道のりを歩むことができると楽観的に考えています。そして、私は新しい自分を見つけます。そうすれば、公平性と多様性が私の心に深く根付くでしょう。これが世界をより良い場所にしてくれることをとても嬉しく思います。人々の偏見を改善し、人々が自分の偏見を理解するのに役立つ AI を作成することで、私たちは実際に人々が偏見を取り除くのを手助けできるかもしれません。来年何が起こるかを見るのが楽しみです。」

Tversky: 「私は、人間を真似しようとする AI をたくさん見てきました。では、人間は AI に自分の間違いを真似させたいのでしょうか、それとも AI に自分自身を向上させてほしいのでしょうか。AST ツールを使っているように見える他の人を見て、これらのツールの暗黙の偏見を心配しています。創造性、音楽、詩、これらはすべて役に立ちます。私は人間の行動を研究しており、AI コミュニティが何を作り出せるかに常に興味を持っています。」

カーンマン氏：「私は当初、デミス・ハサビス氏の新しい AI に興味を持ちました。そして、数年前と比べて彼がはるかに控えめになっていることに驚きました。これは素晴らしい期待ですが、近年、この期待はどんどん遠ざかっているようです。また、AI の見習いと人間のアイデアは制御された範囲内に留めておく必要があることにも気付きました。AI やルールベースのシステムが人間のような判断力を持つようになると、最終的には人間の判断力を持つようになり、おそらく人間のアイデアは必要なくなるでしょう。AI が分野をマスターすると、その分野では人間のアイデアはほとんど不要になります。これは非常に複雑で、結果は非常に悪いものになる可能性があります。」

ツァオ氏：「私は人間の脳を理解したいのです。AIと神経科学を組み合わせて、脳の働きを最も美しくシンプルに説明したいのです。」

マーブルストーン氏：「人類の創造性が高まり、最高の科学者がより多くのことを行えるようになり、子供たちが宇宙ステーションを設計できるようになることを願っています。それが普遍的な基本所得につながり、将来の世代の人類が宇宙に行くようになるかもしれません。」

コッホ氏：「科学者として、私はAIを使って脳を理解し、これらの素晴らしいデータセットを理解することを楽しみにしています。しかし、フェイフェイ・リー教授が強調したように、多くのAIは未熟です。人工知能の発展は急速で、テクノロジーは不平等の原因の1つです。社会的不平等、人種差別、ソーシャルメディアの論争は増加しています。今日、倫理について話すとき、人々が殺人ロボットを作るかどうか交渉していることに非常に驚いています。これにより、軍事問題はますます激化するでしょう。」

キッド氏：「付け加えることはありません。これは質問に対する答えではありませんが、私が AI に求めることは、人間に求めることと同じだと思います。これは、AI の意味と AI ができることに対する理解の違いでもあります。ワクチンを例にとると、ワクチンを接種する人や意思決定プロセスはアルゴリズムを指し示していますが、アルゴリズムの背後には人間がいます。私たちが本当に必要としているのは、AI から独立したものへと移行することであり、それは人間が自らの開発に責任を持つようになることです。」

ミッチェル氏：「私もあなたと同じことをたくさん言いたいです。私の目標は、興味深く美しいものを見つけることです。私たち学術界の人間は、事後的に物事を合理化するのが得意です。しかし、根本的に、私たちがやっていることは自分たちを楽しませることであり、セルフサービスへの誘惑がこの状況をもたらしていますが、それは良いことではありません。オタクと同じです。AI に期待しているのは、人間の偏見を正すことです。AI がパフォーマンス評価で使用される言語を理解できれば、偏見に関する議論に参加できます。AI が、本当に問題のある人間の偏見に対処できるようになることを私は大いに期待しています。」

ロッシ氏：「マーガレット氏の発言を補足しなければなりません。AIは難しい問題を解決し、私たちが自分自身を理解するのを助けてくれます。しかし、マーガレット氏が今言ったことは非常に重要だと思います。私の観点から言えば、AIの仕事を始める前は、自分の価値観について考えたことはありませんでした。AIシステムを何に使うべきか、何に使うべきでないかについて。これは私個人の反省だけではなく、社会全体がそうする機会だと思います。AIの問題について考えることは、私たち自身の価値観を振り返る方法です。私たちは自分の限界に気づき、自分たちの価値観が何であるかをより明確に理解するでしょう。」

カロ氏：「AIのコストとメリットが均等に分配されること、そしてそれが行われていることを国民が確信できることを望んでいますが、法律を変えなければそれが達成できるとは思いません。」

最後に、マーカス氏は、この討論会は予想以上に盛り上がったと結論付け、アフリカの諺で「村全体の協力が必要だ」とまとめた。彼は言い​​ました。「今日、ここには村があります。」