機械はどのように学習するのでしょうか?人工知能の「双方向戦闘」を詳しく解説

金庸の武侠小説『射雁英雄伝』には、桃花島に閉じ込められた「悪童」周伯同が「左右の格闘術」を編み出したという名場面がある。これは左手で右手と戦い、両手で戦うことで技量を向上させるというものである。

現在、人工知能の分野では実際にそのような光景が起こっています。それはディープラーニングです。

「左右の戦い」は、ディープラーニングにおける敵対的トレーニング原理に似ており、ジェネレーターとディスクリミネーターの 2 つの役割があります。ジェネレータは左手のように攻撃者の役割を果たし、ディスクリミネーターは右手のように防御者の役割を果たします。

識別器の目的は、実際のデータと生成されたデータを正しく区別して識別精度を最大化することです。一方、生成器の目的は、実際のデータの潜在的な分布を可能な限り近似することです。どちらも、勝利し目標の最適化を達成するためには、それぞれの識別能力と生成能力を継続的に向上させる必要があります。

[[427756]]

今日はこの「不思議な箱」を開けてみましょう。

ディープラーニングの概念は、2006 年にジェフリー・ヒントンによって初めて提案されました。これは、「ディープ」人工ニューラル ネットワークを学習して活用するために使用される機械学習技術です。人工知能の分野で最もホットな研究方向として、ディープラーニングは学界と産業界から急速に注目を集めています。

現在、ディープラーニングが広く利用されています。例えば、ゲームの分野では、アルファ碁がディープラーニングを通じて韓国のチェスプレイヤー、イ・セドルを4対1で破り、プロの囲碁プレイヤーに勝利した最初のコンピュータプログラムとなりました。医療画像認識では、ディープラーニングをコア技術とするX線、MRI、CT、超音波などの医療画像のマルチモーダルビッグデータの解析技術により、2次元または3次元の医療画像に隠れた病気の特徴を抽出できます。画像処理では、画像スタイル転送、画像復元、画像カラー化、顔画像編集、ビデオ生成などのコンピュータビジョンが最も成功している分野です。

機械学習への特別なアプローチ

今日の人工知能は、現実の問題を計算可能な問題として実際に定量化し、それをコンピューターを使用して計算します。数学モデルは中間に橋を架けます。

現実の世界では、多くの問題がモデリングを通じて解決できます。例えば、長距離砲の軌道を計算したり、日食や月食の時間と場所を計算したりすることなどです。対応する数式をコンピューター言語で記述し、パラメータを代入して計算するだけです。

しかし、さらに多くの問題に対する解決策は不確実です。対応する数学モデルが見つかったとしても、どのパラメータを代入すればよいかはわかりません。たとえば、音声認識、顔認識、機械翻訳などです。そのため、コンピューターが自律的に学習し、大量のデータから対応するパラメータを取得できるようにする必要があります。このプロセスは機械学習です。

機械学習は、データ内のパターンを発見し、それを使用して学習し、予測を行うことを目的としています。機械学習のプロセスは、コンピューターアルゴリズムを使用してモデルを継続的に最適化し、実際の状況に近づけていくことです。それは人間が学習する原理とまったく同じです。

人の学習状況を評価する通常の方法は試験であり、点数が満足のいくものでない場合は、さらなる学習が必要になります。機械学習も同じように測定する必要があります。専門用語で言えば、その目標は「期待値を最大化すること」です。

機械学習の有効性は、学習の深さという 2 つの側面に依存します。機械学習は一夜にして達成できるものではなく、トレーニング アルゴリズムを反復的に実行する必要があります。これは、人々が勉強するときに、「古いものを復習して新しいものを学ぶ」ために復習する必要があるのと同じです。機械学習の反復回数が増えるほど、つまり学習が深くなるほど、結果として得られる数学モデルは向上します。もう一つの側面は、データの質と量です。質の高い練習をたくさんやれば、成績は向上します。機械学習でも同様で、トレーニングデータの量が多いほど学習効果は高まります。

数学モデルの特性に応じて、機械学習には 2 つの方法があります。1 つは既知のモデルを使用してトレーニングする方法です。もう 1 つは、モデルが未知の場合にいくつかの単純で一般的なモデル構造を設計し、大量のデータを使用してトレーニングを行う方法です。トレーニング結果はそのままになります。これはよく耳にする人工知能の「ブラックボックス」問題です。トレーニングが効果的であっても、中身がわからないのです。

ディープラーニングは、後者のタイプの機械学習手法です。人工知能は幅広い分野をカバーしており、ディープラーニングはその中の1つの分野であり、機械学習のカテゴリに属します。人工知能には、「自主的に考える」能力と機械学習技術のサポートが必要です。ディープラーニングは、機械が「自主的に考える」ことを支援する方法です。

ディープラーニングが革命的な進歩をもたらした

人工ニューラルネットワークは、ニューラルネットワークとも呼ばれ、動物の中枢神経系の構造と機能を模倣した数学モデルです。これは、広範囲に接続された多数の単純な処理ユニットで構成された人工ネットワークです。実際には関数などを推定するために使用される特殊な分類器です。

ニューラル ネットワークは、多くの問題の研究に新しいアイデアを提供します。特に、急速に発展しているディープラーニングは、高次元データ内の複雑な構造を発見し、従来の機械学習よりも優れた結果を達成できます。

1950 年代に、人間はコンピューター上で実行できる最初のニューラル ネットワーク アルゴリズムを設計しました。当時のニューラルネットワークは人々に多くの想像の余地を与えましたが、実用的な問題を解決することができなかったため、「冷たい宮殿」に追いやられました。

1980 年代後半には、ニューラル ネットワーク モデルが大量のサンプルから統計法則を学習し、未知のイベントについて予測できるようにするバックプロパゲーション アルゴリズムが提案されました。その後、サポートベクターマシンなどのさまざまな機械学習手法が提案されました。しかし、これらのモデルの構造は浅い学習方法であり、複雑な問題を処理する能力はある程度制限されています。そのため、ニューラルネットワークは再び冷たい宮殿に置かれました。

2006年、カナダのヒントン教授とその学生は、ディープラーニングニューラルネットワーク用の「高速学習」アルゴリズムを提案し、ディープラーニングに革命的な進歩をもたらしました。ディープラーニングは、深い非線形ネットワーク構造を学習することで、少数のサンプルからデータと重要な特徴を学習することに集中できる強力な能力を発揮します。

それ以来、ニューラル ネットワークは、予想外の精度でオブジェクトを繰り返し分類および認識する方法を学習しました。

コンピューティングパワーはディープラーニングを促進する強力なツールとなる

人工ニューラルネットワークが提案されてから 50 年が経過しましたが、知能の問題をうまく解決できていません。その理由は、アルゴリズム自体の不完全さに加え、コンピュータの速度が十分でなく、計算能力あたりのエネルギー消費量が高すぎるため、多数のサーバーを介して並列コンピューティング システムを構築し、ディープ ニューラル ネットワークを実現することが不可能だからです。

では、この画期的な進歩の根拠は何でしょうか? 答えはムーアの法則です。

ムーアの法則は、1965 年にインテルの共同創設者であるゴードン・ムーアが提唱した、コンピューターの総合的な処理能力はおよそ 2 年ごとに 2 倍になるという法則です。約 50 年にわたる歴史的テストを経て、ムーアの法則は驚くべき正確さを実証しました。ムーアの法則の結果、過去半世紀にわたって、コンピュータプロセッサのパフォーマンスは数億倍に向上し、消費電力は 1% にまで低下しました。

エネルギーの観点から見ると、ムーアの法則は、エネルギー消費量あたりの人間の情報処理能力の大幅な向上を反映しています。そしてこれが人工知能を実現するための基礎となります。

ある意味、ディープラーニング技術だけでなく、今日の人工知能はコンピューティングパワーによって実現されています。

人工知能の台頭には 3 つの技術的要素があります。第 1 に、計算可能な問題を解決すること、つまりアルゴリズムのブレークスルーです。第 2 に、大量のデータを蓄積し、学習可能な原材料を形成します。第 3 に、ムーアの法則で予測されているように、処理能力が継続的に向上します。

コンピューティング能力は、ディープラーニングを促進する強力なツールです。計算能力が強力であればあるほど、同じ時間内に蓄積できる経験が増え、反復速度が速くなり、ディープラーニングのパフォーマンスが高くなります。

ディープラーニングへの進化の道

1997年、ディープ・ブルーはチェスの試合でガルリ・カスパロフを破り、2016年にはアルファ碁が囲碁の試合でイ・セドルを破った。

どちらの AI システムもチェスの遊び方を学習しましたが、その学習方法と遊び方は非常に異なっていました。

Deep Blue のコア評価関数は、特定のディスクを数値的に「ランク付け」するものであり、この関数は手作業で設計されました。このプレイスタイルは、実際には一種の「力ずく」です。 Deep Blue は、その評価関数を多くの代替未来状態に適用し、各プレイヤーの 7 ～ 8 歩先を検索し、1 秒あたり 2 億回の速度で状況を評価しました。

AlphaGo の学習方法はまったく異なります。これは、状況を評価する「価値ネットワーク」と動きを選択する「ポリシーネットワーク」を使用する、2 つの深層学習アプローチを通じて「学習」します。

ディープラーニング ニューラル ネットワークは、人間のマスター ゲームのデータセット (合計約 3,000 万手) を使用した教師あり学習と、自己ゲームの教師なし強化学習 (数千のランダム ゲームをシミュレート) によって部分的にトレーニングされます。予測検索は使用せず、移動は単一の「囲碁の位置」の全体的な評価の結果です。

2017年5月、中国・烏鎮で開催された囲碁サミットで、AlphaGoのアップグレード版AlphaGo Zeroが世界一の囲碁チャンピオンである柯潔と対戦し、合計スコア3:0で勝利した。

驚くべきことに、AlphaGo Zero は当初、人間のチェスの記録にまったく触れたことがなかった。これは、単一のニューラル ネットワークから開始する新しい強化学習方法を使用し、その後、ニューラル ネットワークの強力な検索アルゴリズムを使用して自己プレイ トレーニングを実行します。自己ゲームの回数が増えるにつれて、ニューラル ネットワークは徐々に調整され、次のステップを予測する能力が向上し、最終的には超強力なチェスのスキルを持つ「プレーヤー」になります。さらに驚くべきことは、トレーニングが進むにつれて、AlphaGo Zero が独自にゲームのルールを発見し、新しい戦略を考案し、古代のゲームである囲碁に新たな洞察をもたらしたことです。

現在、ディープラーニングは多くの分野で技術的なブレークスルーを達成し、優れた成果を示しています。しかし、理論的研究の欠如、教師なし学習能力の弱さ、論理的推論と記憶能力の欠如など、まだいくつかの限界があります。

ディープラーニングは社会の将来の発展にとって大きな意義があり、ディープラーニングの潜在的な価値を多方向と角度からより包括的に開発するためには、継続的な徹底的な研究が必要です。複雑な戦場を前に、ディープラーニングに代表される人工知能技術は徐々に軍事分野に浸透し、人類の戦争に大きな影響を与えています。

今後、ディープラーニングは「左利きの格闘技」として、さらにグレードアップと進化を続け、より高いレベルを切り開いていくことが推測されます。