先頭に立つ！ 16人の学際的な専門家がAIの次の10年について語る

ニューヨーク大学の心理学・神経科学教授ゲイリー・マーカス氏と、ディープラーニングの先駆者で2018年のチューリング賞受賞者であるヨシュア・ベンジオ氏がオンラインの「神々の戦い」を開催し、フェイフェイ・リー氏を含む世界的に有名なAI学者、生物学者、法律専門家16人を招いて、過去1年間のAIのさまざまな分野における進歩や、次の10年間で人工知能を次の段階に進める方法について議論しました。

円卓フォーラムは「AI の前進: 学際的アプローチ」というテーマに焦点を置き、「アーキテクチャと課題」、「神経科学と心理学からの洞察」、「信頼できる AI に向けて」の 3 つのモジュールに分かれており、3 時間以上にわたって開催されました。

スピーチトピックの要約: https://montrealartificialintelligence.com/aidebate2/readings.pdf

討論ビデオ: https://montrealartificialintelligence.com/aidebate2/

1. フェイフェイ・リー：環境とのインタラクションこそが、AIの次の「北極星」
最初の講演者として、スタンフォード大学のフェイフェイ・リー教授は、AI分野における「北極星」、つまりこの分野の将来の発展方向について言及しました。過去 50 年間、AI 分野における非常に重要な「北極星」は物体認識であり、これは人間の認知能力にとっても非常に重要な部分です。物体認識の進歩は、ImageNet などの AI ベンチマークにも大きな進歩をもたらしました。

フェイフェイ・リー氏は、動物の「環境との相互作用が行動刺激を生み出す」という1963年の研究を引用し、環境と相互作用する次世代のAIを育成することが将来の重要な研究方向であると提案した。

彼女はまた、インタラクションが知能の非常に重要な要素であると述べました。赤ちゃんが外界とのインタラクションを通じて世界について学ぶのと同じように、次世代の AI も外界とのインタラクションを通じて独自の知能を開発する能力を持つ必要があります。この世代の AI の実体は物理的なロボットに限定されず、インテリジェント エージェント (自律的に動作できるソフトウェアまたは小型ハードウェア) も含まれます。

2. ルイス・ラム: シンボリックAIとニューラルネットワークのギャップを埋める
ブラジルのリオデジャネイロ・ド・スル連邦大学のコンピューターサイエンス教授、ルイス・ラム氏は、先週の NeurIPS AI カンファレンスでの講演に続き、「ニューロシンボリック AI」について講演した。

ニューロシンボリック AI は、1970 年代に AI コミュニティで人気があったシンボリズムと、現在主流となっているニューラル ネットワーク アルゴリズムを統合しようとしています。

簡単に言えば、シンボリック AI はオブジェクトを分類および定義し、独自の知識ベースに保存できますが、より複雑な質問に答える必要がある場合は、十分に大きな知識ベースを構築する必要があります。これは、シンボリック AI は知識ベース内の既存の分類にしか答えられないためです。

ニューラルシンボリック AI の具体的な実装方法は、ディープニューラルネットワークを使用してシンボリック AI に必要な知識ベースを構築し、その後シンボリック AI を使用してタスクについて推論することです。

ラム氏は、シンボリック AI とニューラル ネットワークを接続する一般的な方法が、今後の重要な研究方向であると述べました。マーカス氏が「The Algebraic Mind」で言及しているニューラル ネットワークでシンボリック AI を制御する方法も非常に参考になります。

3. リッチ・サットン：強化学習はAIの最初の計算理論かもしれない
DeepMind の科学者 Rich Sutton 氏は、AI には普遍的に受け入れられるインテリジェント コンピューティングの理論が必要だと考えています。

彼は、神経科学者デイビッド・マーの「計算理論」「表現とアルゴリズム」「ハードウェア機器」という3つの処理レベルの概念を引用し、現在のAI分野には計算理論が存在しないと提唱した。勾配降下法などの手法はAIと呼べるが、理論にはほど遠い。

サットン氏はスピーチの最後に、強化学習は知能の最初の計算理論である可能性があり、予測コーディングとベイズ推論も AI の計算理論と呼べるかもしれないと結論付けました。

4. ジューディア・パール：モデルは因果関係を「理解」する必要がある<br /> チューリング賞受賞者であり、ベイジアンネットワークの父であり、ベストセラー本「Why」の著者でもあるジュディア・パール氏が、モデルに因果関係を理解させる方法について説明しました。

Pearl 氏は、モデルに「現在の状況は何か」、「これが起こったらどうするか」、「これが唯一の状況か」を知らせたい場合、深い理解が最善の方法であると考えています。

モデルの深い理解はディープラーニングに基づいています。パール氏は、モデルの「心理的状態」を特徴付けることができる彼が新たに開発した計算モデルは、モデルの因果関係のディープラーニングに基づいていると述べました。

5. ロバート・ネス: 因果推論を支援する確率的プログラミング<br /> 機械学習の専門家ロバート・ネス氏の講演のテーマは「（深層）確率的プログラミングによる因果推論」でした。

ネス氏は、確率的プログラミングは不確実性に直面した際に意思決定を行うのに役立ち、因果推論において過去の事実に過度に依存することの欠点をほぼ回避できるほか、パール氏が指摘した「これが唯一のケースなのか？」という問題もいくつか解決できると述べた。

ネス氏は新型コロナウイルスの感染モデルを例に挙げ、確率的プログラミングは自身の「不確実性」を活用して過去の感染症データに基づく疫学モデリングを行い、流行との闘いに貢献できると述べた。

6. ケン・スタンリー: コンピュータの進化<br /> セントラルフロリダ大学のコンピューターサイエンス教授ケン・スタンリー氏は、進化と創造性について語った。コンピューターは多くの問題を解決できるが、人間もコンピューターにはできない多くのことを実行できる。これがオープンイノベーションである。

「過去数千年にわたり、木を掘って火を起こすことから宇宙ステーションに至るまで、私たちはオープンマインドを保ち、古いものをベースに新しいものを開発してきました。」スタンリー氏は、コンピューターの進化の道筋は「驚異的」であると考えています。さまざまな段階で、さまざまなアプリケーション要件と新しい方法が登場します。コンピューターの「進化の道」を継続するには、これらの現象を理解する必要があります。

スタンリー氏はまた、現時点ではコンピューターやAIの「進化」はそれほど完璧ではないと認めた。例えば、AIが一部の芸術作品を模倣しても見栄えは良いかもしれないが、それは本物の芸術ではなく、芸術初心者にとっては打撃となるだろう。

スタンリーは、AI を正しく見るべき時が来たと考えています。AI は私たちを助けるツールであり、その真の目的は人類の進歩を助けることです。AI の進化と人類の進歩は互いに補完し合います。

7. イェジン・チェ：AI 言語モデルには依然として大きな進歩が必要<br /> ワシントン大学のコンピューターサイエンスの准教授であるイェジン・チェ氏は、有名な視覚錯覚「トンネルの中の怪物」を例に挙げ、視覚的文脈に基づいて脳が画像の内容を理解する仕組みについて語った。

さらにチェ氏は、言語理解が将来のAI応用において非常に重要な部分であると指摘した。人間の情報や推論のほとんどは言語を通じて獲得され、伝達される。将来、AIの言語能力は人間と同等になり、現在の情報に基づいてリアルタイムで推論できるようになるはずだ。彼女は、これが AI の将来の発展にとって重要かつ根本的な課題の 1 つになると考えていますが、GPT-4/5/6 などの現在の新しい言語モデルでは、この目標を達成するにはまだまだ不十分です。

8. バーバラ・トヴェルスキー：人生は動きである<br /> 上記の7人の科学者がAIアルゴリズムの将来的な期待について議論した後、この円卓フォーラムでは生物学と神経科学の専門家5人も招かれ、生物学とAIの「国境を越えた」協力についても議論しました。

スタンフォード大学の心理学名誉教授バーバラ・トヴェルスキー氏は、すべての生物は宇宙空間で運動しなければならず、運動が止まれば生命は終わると信じている。トヴェルスキー氏はまた、人々の身振りや動きが人間の心の変化に影響を与える可能性についても話しました。

「学習、思考、コミュニケーション、協力、競争はすべて行動と少量の言葉に依存しています」と彼女は語った。

トゥヴェルスキー氏はまた、AIが学習するために人間の行動を模倣すると、人間の間違いの一部も「受け継ぐ」ことになるのではないかと懸念している。トヴェルスキー氏は、人間の行動のネガティブな側面を避けながら、AI が創造的に進化し、更新できるようにする方法に興味を示した。

9. ダニエル・カーネマン: 人間の思考パラダイムは AI の参考として使える<br /> ノーベル経済学賞受賞者であり、AI 推論に関する権威ある書籍「ファスト＆スロー」の著者でもあるダニエル・カーネマン氏は、世界には 2 つの思考パラダイムがあると考えています。1 つは直感的な認識で、人生経験に頼って、起こりうるほとんどのことを予測できます。もう 1 つは、より高度な推論形式で、より広い視点から「常識に反する」可能性のある出来事を推測する能力などです。

カーンマン氏は、この人間の思考パラダイムをAIが借用してAIモデル独自の思考を開発することができ、パール氏が以前言及した因果推論の問題にも答えることができると考えています。

10. ドリス・ツァオ: 機械学習と神経科学は密接に関係している<br /> カリフォルニア工科大学の生物学教授であるドリス・ツァオ氏は、ニューロンに関する研究に基づき、フィードバック システムは生物学的神経伝導において非常に重要であるだけでなく、多層ニューラル ネットワークの逆伝播においても重要な役割を果たしていると考えています。

フィードバックは、人々がより強固な視覚システムを構築できるようにするだけでなく、幻覚が起こる理由を理解するのにも役立つかもしれないと彼女は述べた。

ツァオ氏は、機械学習と神経科学の学際的な連携の将来についても楽観的だ。

11. アダム・マーブルストーン: 畳み込みニューラルネットワークは、まだ人間の脳の非常に「基本的な」モデルです
元 DeepMind 教授でカリフォルニア工科大学の神経科学の専門家であるアダム・マーブルストーン氏は、人間の脳の動作原理とニューラル ネットワーク アルゴリズムの類似点と相違点について説明しました。

議論の中で、マーブルストーン氏は、機能的磁気共鳴画像技術は現在、人間の脳の活動を分析して人間が物体をどのように分類するかを研究するために使用されていると述べた。彼は、科学者による脳の研究はまだ非常に初歩的な段階にあり、畳み込みニューラルネットワークなどのアルゴリズムは単に人間の思考プロセスを再現しているだけだと考えています。

12. クリストフ・コッホ: 人間の脳をベースにした AI を開発するのは不可能である<br /> シアトルのアレン脳科学研究所の研究者であるクリストフ・コッホ氏は異なる見解を持っている。彼は、科学者が人間の脳を理解するには少なくとも100年から200年はかかるだろうと考えており、人間の脳の特性はAIなどの人工物の特性とはまったく異なるため、人工知能の発展を促進するために神経科学に頼るのは現実的ではないと考えている。

コッホの見解は、前述の神経学者の見解と激しく衝突した。

コッホ氏とマーブルストーン氏の「細胞の伝導はニューラルネットワークのノードの伝導に似ている」という反論に対して、コッホ氏は、人間の細胞自体も非常に異なっていると答えた。例えば、視覚ニューロンは前頭前野のニューロンとは非常に異なっている。ニューラルネットワークなどの人工アルゴリズムになると、状況はさらに多様になる。

マーブルストーン氏は、コッホ氏の見解にはさらなる実証的証拠が必要だと考えている。

13. セレステ・キッド: AI の偏見が社会に存在する差別を助長している<br /> フォーラムが第3モジュールに入ると、招待された4人の専門家がAIが人間の倫理と生活に与える影響について議論を始めました。

カリフォルニア大学バークレー校の教授であるセレステ・キッド氏は、人間がどのように認知を形成するかを研究しています。キッド氏は、AIシステムの偏見がユーザーの偏見を強め、コンテンツ推奨システムが人々に既存の偏見を信じ込ませ、AmazonやLinkedInのAI採用システムが女性候補者に悪影響を及ぼす可能性があると考えている。

「ティムニット・ゲブル氏がグーグルから解雇されたように、AIをめぐる論争は常態化する可能性がある」とキッド氏は語った。

14. マーガレット・ミッチェル: テクノロジーを使って技術的な「偏見」を打ち破る
Google の上級研究科学者であるマーガレット・ミッチェル氏は、こうした偏見はモデル自体の作成方法に起因していると考えています。

通常、機械学習アルゴリズムを開発するには、データの収集、モデルのトレーニング、モデルの評価、そしてモデルの使用というプロセスを経る必要があります。しかし、データの収集とラベル付けのプロセスには人間の参加が不可欠であり、モデルには開発者からの何らかの偏りが必ず含まれることになります。

「テクノロジーには利点があるが、一定のリスクも伴う」とミッチェル氏は言う。「我々はこうした問題に対処し、バイアス・ロンダリングなどの手法を使ってシステム内のバイアスを減らすよう努めている」

15. フランチェスカ・ロッシ: 信頼できる AI エコシステムを構築する方法<br /> ミッチェル氏の話題に続いて、IBM のロッシ氏は信頼できる AI エコシステムを構築する方法について話しました。

ロッシ氏は、成熟したAIシステムには、正確性、一貫性、公平性、説明可能性など、多くの特性が含まれる必要があると述べた。機械がどのように動作するかを人間の同伴者に説明することは非常に重要であり、これはミッチェルが言及した偏見を洗い流すという問題でもあります。

ロッシ氏は、このプロセスでは、モデルがトレーニング段階でバイアスを大幅に排除できるようにするには、まだ多くの研究と実験が必要であると考えています。ニューロシンボリック AI とカーネマン氏が言及した 2 つの人間の思考パラダイムが、今後の研究の方向性となるでしょう。

16. ライアン・カロ: AI は法律に変化をもたらすだろう<br /> フォーラムの最後の講演者はワシントン大学の法学教授ライアン・カロ氏でした。

同氏は、テクノロジーの規制は難しく、AIの変化に合わせて法律も変わるため、それに応じた規制をすることしかできないと考えている。実施の第一歩は、AIが人間生活のさまざまな側面に与える影響と、各側面への影響の程度を評価し、法律を柔軟に調整できるようにすることだ。

AIは必然的に法律の変化をもたらす。AIが「公平」であるかどうかについての現在の世論の議論であれ、法曹界での議論であれ、その目的はただ一つ、AI技術のコストと利益が均等に分配され、人々の生活に便宜を図り、個人のプライバシーの侵害を防ぐことにある。

結論: 世界をより良い場所にするという AI の本来の目的<br /> 3 時間に及ぶフォーラムが終わろうとしていたとき、司会者のマーカス氏はすべてのゲストに質問しました。「AI に満足するのはどの時点でしょうか。AI を構築する最終的な目標は何でしょうか。」

それぞれの学者が異なる角度から、異なる内容で回答しましたが、「楽しい」「フレンドリー」「公平」という 3 つの単語が何度も登場し、最終目的地は「テクノロジーを使ってすべての人の生活をより良くする」という 1 つだけでした。

おそらく、このプロセスは偏りがあり、不安定なものになるでしょう。アルゴリズムは不公平で、監督は不完全でしょう...しかし、すべての AI 研究者は依然として当初の純粋な意図を持ち続けており、2020 年末の冬の夜には、長いネットワーク ケーブル越しに AI の次の 10 年について語り合います。