Google Loon の AI が開発者を驚かせる理由

北京時間3月5日、人工知能を使ったアルゴリズムが予想外のトリックで問題を解決しようとしており、開発者を驚かせている。しかし同時に、人工知能をどのように制御するかという懸念も生じています。

Google の従業員グループがコンピューターの画面をぼんやりと見つめている。彼らは数か月間、プエルトリコからペルーまでの無人熱気球を制御するアルゴリズムを完成させていた。しかし、まだ満足できない点もあります。気球は機械知能の制御下で、設定されたルートから外れ続けます。

Project Loon は、気球を介して遠隔地にインターネット アクセスを提供することを目的とした、現在は廃止された Google プロジェクトでした。プロジェクトの責任者サルバトーレ・カンディド氏は気球の軌道を説明できなかった。最終的に、同僚らが手動でシステムを制御し、気球を軌道に戻した。

後になって彼らは何が起こったのか理解した。驚くべきことに、気球に乗ったAIは、船を風に向かって操縦し、その後外側に傾けて大まかな方向にジグザグに進む「進路変更」など、数百年、あるいは数千年前に人類が発明した古代の航海技術を再現することを学習した。

悪天候下でも、自律型気球は完全に自力で進路を変えることを学習しました。彼らはこれを自発的に行い、特にプロジェクトに関わった研究者をはじめ、全員に衝撃を与えた。

▲ルーンプロジェクトで気球の飛行を制御する人工知能は、風に逆らって航行する技術を学習した。

「この技術を完全に実行することを許された最初の気球がプエルトリコからペルーまでの飛行時間記録を樹立したとき、私たちは負けたと悟った」とカンディド氏はこのプロジェクトに関するブログ投稿に記した。「こんなに賢く、そしてこんなに愚かだと感じたことはなかった」

クリエイティブな人工知能

AI がデバイス内で暴走すると、このようなことが起こる可能性があります。従来のコンピュータ プログラムとは異なり、AI は人間のエンジニアが明示的に指示していないタスクを達成するための新しい方法を探索し、開発するように設計されています。

しかし、これらのタスクを実行する方法を学習する過程で、AI は、システムを使用していた人々をも驚かせるほどの独創的なアプローチを思いつくことがあります。これは良いことかもしれませんが、AI によって制御されるすべてのものが予測不可能になり、潜在的に危険になる可能性もあります。たとえば、ロボットや自動運転車は、人間を危険にさらすような判断を下してしまう可能性があります。

AI システムが人間の主人を「出し抜く」ことは可能でしょうか? 機械の知能を何らかの方法で制限して、予期せぬ災害を引き起こさないようにすることはできるでしょうか?

▲人工知能が現実世界に適用され始めると、人工知能が予想外の行動をとるかどうかを理解することが重要になる

AI研究コミュニティでは、AIの創造性に関して最も頻繁に引用されると思われる例が1つあります。ジョージア工科大学のマーク・リデル氏は、人工知能の能力について人々が本当に興奮した瞬間は、ディープマインド社のAI機械学習システム「アルファ碁」が古代の囲碁をマスターし、世界最高の人間プレイヤーの一人を破ったことだと語った。 DeepMind は 2010 年に設立され、2014 年に Google に買収された人工知能企業です。

「彼らは、これまで誰も使ったことのない、あるいは少なくともあまり知られていない、人間のプレイヤーに対して新しい戦略や新しいテクニックを使うことができることが判明した」とリーデル氏は説明した。

しかし、このような単純な囲碁でも、人々にさまざまな感情を呼び起こすことができます。一方で、DeepMind は自社のシステムである AlphaGo の「革新」を誇らしげに説明し、人類が何千年もプレイしてきたゲームである囲碁の新しい遊び方を明らかにしています。一方で、このような創造的な AI が将来人類に深刻な脅威をもたらす可能性があるのではないかと疑問視する人もいます。

「AIの最悪の行動を予測したり管理したりできると考えるのはばかげている。AIがどのように行動するかを実際に想像することはできないからだ」と、オーストラリアのウエスタンシドニー大学で機械学習、電子工学、神経科学を研究するジョナサン・タプソン氏は、アルファ碁の歴史的勝利後に書いた。

リーデル氏は、覚えておくべき重要なことは、AIは実際には人間のように考えないということだと述べた。彼らのニューラルネットワークは確かに動物の脳にヒントを得ていますが、より正確に言えば、それは「探索装置」と呼ばれるものです。彼らが課題や問題を解決しようとするとき、より広い世界についての先入観を（あったとしても）あまり持ち込みません。彼らはただ、時には何百万回も、解決策を見つけようと試みるだけです。

「私たち人間は多くの精神的な重荷を抱えており、ルールについて考えます」とリデル氏は言う。「AIシステムはルールさえ理解していないので、物事をいじくり回すことができます。」

この文脈において、AIは「サヴァン症候群」のシリコン版と言えるかもしれないとリドル氏は付け加えた。いわゆるサヴァン症候群とは、通常、重度の精神障害を抱えながらも、何らかの芸術や学術分野で並外れた能力を持つ人を指し、その才能は通常、記憶力に関連しています。

私たちを驚かせ続けてください

AI が私たちを驚かせる点の 1 つは、同じ基本システムを使用して根本的に異なる問題を解決できることです。最近、機械学習ツールに、チェスをプレイするというまったく異なる機能を実行するように要求されました。

このシステムは「GPT-2」と呼ばれ、非営利の人工知能研究組織であるOpenAIによって開発されました。 GPT-2 は数百万のオンラインニュース記事やウェブページを使用してトレーニングされており、前の単語に基づいて文中の次の単語を予測できます。開発者のショーン・プレイサー氏は、チェスの動きは文字と数字の組み合わせで表現できると考えており、チェスのゲームの記録に基づいてアルゴリズムをトレーニングすれば、ツールは理想的な動きの順序を計算してチェスの遊び方を学習できるという。

プレイサー氏は、240万のチェスゲームでGPT-2システムをトレーニングしました。 「チェス エンジンが誕生するのを見るのは本当にクールでした」と彼は言います。「それが本当に機能するかどうか確信が持てませんでした。」しかし、GPT-2 は機能しました。まだ特別に設計されたチェスコンピュータほど優れているわけではありませんが、難しいゲームをうまく完了することができます。

プレイサー氏は、実験によりGPT-2システムには未開拓の能力が数多くあり、チェスの才能を持つ専門家と呼べることが判明したと述べた。その後のバージョンでは、開発者がソフトウェアに、Web ページ上のテキストやボタンなどの項目を表示するためのコードを書くよう簡単にトレーニングしたところ、Web デザイナーを驚かせました。 「『愛しています』と書かれた赤い文字と『OK』のボタン」といった簡単な説明しかなかったにもかかわらず、AIは適切なコードを生成しました。ウェブデザインの基礎を習得していたことは明らかでしたが、驚くほど少ないトレーニングしか受けていませんでした。

長い間、人工知能は主にビデオゲームの分野で人々に感銘を与えてきました。 AI 研究コミュニティでは、アルゴリズムが仮想環境で物事を実行できることがいかに驚くべきことかを示す例が無数にあります。研究者は、ビデオゲームなどの分野でアルゴリズムが実際にどれほど強力であるかを調べるために、アルゴリズムをテストして改良することがよくあります。

2019年、OpenAI はビデオで話題になりました。動画では、機械学習によって制御されたキャラクターがかくれんぼゲームをしています。研究者らが驚いたことに、ゲーム内の「探索者」たちは、物体の上をジャンプして「サーフィン」し、「隠れ者」がいる囲いの中に入ることができることを最終的に発見した。言い換えれば、シーカーたちはゲームのルールを自分たちに有利になるように変えることを学んだのです。

試行錯誤の戦略はさまざまな興味深い行動につながる可能性がありますが、必ずしも成功につながるわけではありません。 2年前、DeepMindの研究者であるビクトリア・クラコバ氏は、自身のブログの読者に、予測不可能な、あるいは容認できない方法でAIが困難な問題を解決した話を共有するよう呼びかけました。

彼女は魅力的な例を数多くリストアップした。ゲームのアルゴリズムの 1 つは、レベル 2 で死なないようにレベル 1 の終わりに自分自身を殺すことを学習しました。これにより、レベル 2 で死なないという目標が、特に印象的な方法で達成されました。別のアルゴリズムは、ゲーム内で崖から飛び降りて相手を破滅に導くことができることを発見しました。このようにして、AI は十分なポイントを獲得して追加のライフを獲得し、この自殺的な戦略を無限ループで何度も繰り返すことができました。

ニューヨーク大学タンドン工学部のビデオゲーム人工知能研究者ジュリアン・トゲリウス氏は、何が起こっているのかを説明しようとした。これらは「報酬の配分」の誤りの典型的な例だと彼は言った。 AI に何かを達成するよう依頼すると、AI は目標を達成するための奇妙で予期しない方法を見つけ、それが最終的に正しいと証明されることがあります。人間がそのような戦略を採用することはめったになく、ゲームのプレイ方法を導く方法とルールは非常に重要です。

トゲリウス氏とその同僚は、AI システムが特殊な条件下でテストされたときに、この目標指向バイアスが明らかになることを発見しました。最近の実験で、彼のチームは、銀行で投資をするように頼まれたゲームのAIキャラクターが、仮想銀行のロビー近くの隅まで走って行き、投資に対する見返りを受け取るのを待つことを発見した。トゲリウス氏は、アルゴリズムは、角を曲がって走ることと金銭的な報酬を受け取ることを関連付けることを学習したが、その動きと受け取る報酬の額の間には実際には関係がないと指摘する。

トゲリウス氏は、これはAIが迷信を抱くのと少し似ていると述べ、AIは何らかの報酬や罰を受けた後、なぜそれを受けたのかを考え始めると述べた。

これは「強化学習」の落とし穴の一つです。 「強化学習」によって、AI は最終的に、環境内で遭遇する事象に基づいて誤った判断を下すための戦略を考案することになります。人工知能はなぜ成功するのかを知らず、学習した関連性に基づいて行動することしかできません。これは、祈りの儀式を天候の変化と結び付けた人類文化の初期段階の行動に少し似ています。

▲ ハトは特定の行動と餌を関連付けることを学ぶことができ、人工知能も同様の結合行動を示すだろう

興味深い例として、ハトもこの行動を示します。 1948年、あるアメリカ人の心理学者が珍しい実験について論文を発表しました。彼はハトを囲いの中に入れ、断続的に餌の報酬を与えました。ハトたちは、時には羽ばたいたり、時にはダンスのような動きをしたりしながら、その時やっていることと食べ物を結び付け始めました。そして、彼らは報酬が続くことを期待しているかのように、これらの行動を繰り返します。

古い問題に対する新しい解決策

トゲリウス氏がテストしたゲーム用 AI と心理学者が使用する生きた動物との間には大きな違いがあるが、報酬が特定の行動に誤って結び付けられるという同じ基本的なメカニズムが働いているようだとトゲリウス氏は示唆している。

AI 研究者は機械学習システムが辿る道筋に驚くかもしれないが、だからといって畏敬の念を抱いているわけではない。 「これらのAIが独自の心を持っていると感じたことは一度もなかった」とディープマインドのディープラーニング研究科学者、ラヤ・ハドセル氏は語る。

ハドセル氏は多くの AI システムを実験し、自分や同僚が予想していなかった問題に対して、興味深く斬新な解決策を導き出せることを発見しました。だからこそ研究者は、人間だけではできないことをAIが行えるようにAIの強化に取り組むべきだと彼女は述べた。

ハドセル氏はまた、自動運転車などの人工知能を使用する製品は、予測不可能なことが一定の許容範囲内であることを保証するために厳密にテストできると考えている。 「経験的証拠に基づいて行動について合理的な保証をすることができます」と彼女は語った。

現時点では、AI 製品を販売するすべての企業が同様に慎重になるかどうかは、時が経てばわかるだろう。しかし同時に、AI が示す予期しない動作が研究環境に限定されるのではなく、すでに商用製品の領域にまで浸透していることも注目に値します。

2020年、ドイツのベルリンにある工場で、アメリカの強化学習ロボット企業Covariantが開発したロボットアームが、ベルトコンベアを通過する品物を意外な方法で仕分けする実演を行った。特にプログラムされているわけではないが、アームを制御する AI は、透明なパッケージの中央を狙うことを学習し、毎回確実にアイテムを拾い上げることができた。アイテムは透明で、重なり合うと混ざり合う可能性があるため、狙いが不正確な場合、ロボットがアイテムを拾えない可能性があります。

「物体の重なり合う角を避け、代わりに最も拾いやすい表面をターゲットにします」と、Covariant の共同設立者兼 CEO のピーター・チェン氏は語る。「これには本当に驚きました。」

同様に、ハドセル氏のチームは最近、穴を形状によって分類することでさまざまな物体を拾い上げることができるロボットアームの実験を行った。ロボットの腕は最初は不器用だが、人工知能の制御下で、物体を拾ったり置いたりすることを繰り返すことで学習し、最終的には、鉗子でいじくり回すのではなく、物体が正しい位置に到達したときにそれをつかみ、適切な穴に簡単に入れることができるようになる。

これらすべては、AI の探究的な性質が将来の成功の鍵であるという OpenAI 研究マネージャーのジェフ・クレンの見解を裏付けるものです。近年、クロン氏は世界中の同僚と協力し、人工知能が予期せぬ方法で問題の解決策を生み出す事例を収集している。

「これらの AI システムの規模を拡大し続けると、単なる学術的な好奇心を超えた、本当に創造的で素晴らしいことを実現できるようになります」とクロン氏は語った。

AI システムが病気を診断したり、緊急物資を必要としている人々に届けたりするよりよい方法を見つけることができれば、さらに多くの命を救うことができるかもしれません。クロン氏はさらに、「人工知能には古い問題に対する新たな解決策を見つける力がある」と付け加えた。しかし彼はまた、AI の仕組みを一般の人々に理解してもらうために、そのようなシステムを開発する人々は、その予測不可能な性質についてオープンかつ正直である必要があるとも考えている。

結局のところ、それは諸刃の剣です。人工知能の将来性と脅威は常に同時に存在してきました。次に彼らは何を思いつくのでしょうか? これは興味深い質問です。