なぜ大国は陸上戦闘ロボットで競争しているのでしょうか?

この記事はLeiphone.comから転載したものです。転載する場合は、Leiphone.com公式サイトにアクセスして許可を申請してください。

高い目標を設定すると、平均的な結果しか得られません。機械も人間と同じで、これからの道のりは長い。

軍備競争では、1 つの国が最初の一歩を踏み出すと、2 番目の国がそれに続き、3 番目の国がそれに続き、最終的には緊張した不明瞭な覇権関係のネットワークが形成されます。

人類史上最大の内紛に巻き込まれる中、各国の軍隊が戦闘ロボットを開発する意図とは？軍事変革の時代という長い流れの中で、戦闘ロボットの技術は実際どこまで進歩したのだろうか。人工知能は軍備競争において重要な部分となるでしょうか?私たちは軍備拡張競争の恐ろしさを心配しているのでしょうか、それとも最先端の技術によって刺激されているロボットの意識の可能性を心配しているのでしょうか?

技術開発の観点から見ると、多くのハイテク技術が軍事的機会の助けを借りて進歩してきました。 1968年にARPANETが誕生しました。ARPANETは、旧ソ連の核攻撃に対抗するために米国防総省が構築した通信ネットワークであるという言い伝えがあります。一部のコマンドポイントが破壊されても、他のポイントは正常に通信できます。このローカル エリア ネットワークは、もともと米国国防総省の国防高等研究計画局が軍事研究の目的で使用していたもので、今日のインターネットの前身と考えられています。それ以来、インターネット技術は、ローカル相互接続から広域相互接続へ、軍事利用から民間利用へと発展し始めました。

しかし、国際的に目覚ましい成果を上げているAIプロジェクトを見ると、人工知能技術は医療・ヘルスケアの分野でその威力を発揮していることがわかります。その理由は、医療分野には機械学習に利用できるデータが大量にあるということだけでなく、さらに重要なのは、医療の問題には明確な境界があることが多く、AI の運用が極めて秘密裏かつ規則的であることです。データ集約型、知識集約型、精神集約型のこの分野において、機械学習は、利益と損失の目標を設定し、無限の列挙を行い、強力な計算能力を持つスーパーコンピューターに依存するようなものです。しかし、それはまだ人々が認識する「知性」からは程遠いものです。

現実の世界では、明確な境界を持つ問題はほとんどありません。

軍事作戦は複雑な地形を伴い、戦闘環境は戦闘員の機動戦術に左右される。このようなソフトルールとハードルールの制約下で育ったロボットは、軍事作戦の特殊な制約に基づいて自律的な意思決定能力を高め、戦闘で兵士と協力できる鋼の知能に成長できるのだろうか。

1.世界の軍事大国のロボット軍構想

英国は2030年までにロボット軍を編成し、次世代の戦争のために12万台の「ターミネーター」ロボットを配備する計画だ。国防総省のニック・カーター参謀総長によると、今後10年、あるいは2030年代には英国軍の約4分の1がロボットになる可能性があるという。

同時に、米国は陸軍の戦闘能力を強化するためにロボット戦闘車両を開発している。 2030 年代までに、これらの高速で強力な車両は戦場を巡回し、戦闘で陸軍を支援することになります。

先進国がロボットを軍備の一部として取り入れる先頭に立っていることに、ほとんどの人は驚かないだろう。ロボットは新兵の不足を補い、人間の兵士への依存を減らし、国の軍事力を多様化させるかもしれない。米国を筆頭に多くの国々がロボット技術への軍事投資を増やしており、ロボットは将来的にはどの国の軍事兵器にとっても重要な部分となる可能性が高い。

長い歴史の流れを見ると、社会形態が知性に向かって進化し始めると、戦争の形態も必然的に知性に向かって進化するでしょう。ナイフ、銃、剣、戟といった近接戦闘を重視した冷兵器の時代から、銃や弾丸といった戦略と戦術を重視した熱兵器の時代へと、情報戦、信号戦、無人戦闘の時代が到来しようとしているのでしょうか。

現在、米国陸軍研究所 (ARL) は、人間のチームメイトと協力できるようになることを目標に、ロボットを訓練して、起伏の多い地形 (上部および中部) での自律ナビゲーション技術をテストしています。 ARL は、物体と相互作用し、冗長な人間の戦闘行動を置き換えることができる操作機能を備えたロボットも開発しています。

しかし、ロボットの基礎技術は、恐ろしいレベルに達しているのでしょうか? これらの疑問を念頭に置き、IEEE Spectrum の上級編集者である Even Ackerman 氏は最近、メリーランド州の Adelphi Laboratory Center を訪れ、一人称視点でこの記事を執筆しました。 AI Technology Reviewがそれをまとめ、軍用および民間の戦闘ロボットの真の能力を皆さんと一緒に探っていきます。

2.アメリカ陸軍研究所の陸上戦闘ロボット

（１）ロボットは雑然とした環境ではパフォーマンスが低下する

ロボットがゆっくりと目の前の床にある大きな枝に近づいてくると、私は「そんなに近くに立ってはいけないかもしれない」と自分に言い聞かせた。私が不安に思ったのは枝の大きさではなく、自律型ロボットでした。それが何をするべきかはわかっていましたが、次に何をするかは全くわかりませんでした。

ARL のロボット工学者の予想通りに事が運べば、ロボットは枝を認識し、それを掴んで道路脇まで引きずっていくことになる。ロボットたちは自分たちが何をしているのかを正確に理解していましたが、私は彼らの前に立つのがまだ怖かったので、少し後ずさりしました。

このロボットは「RoMan」（Robotic Manipulation）と呼ばれ、「機械操作」を意味します。大型の芝刈り機ほどの大きさで、さまざまな道路状況に対応できるトラックベースを備えています。前方にはカメラと深度センサーを備えた短い胴体と、一対の腕があり、そのプロトタイプは災害対応ロボット RoboSimian から派生したものである。RoboSimian はもともと、災害関連のタスクを実行するために米国 DARPA ロボット工学コンテスト向けに NASA ジェット推進研究所 (JPL) によって開発されたものである。

今日、ローマンの任務は道路を掃除することです。これは、ARL がロボットに可能な限り自律的に完了させることを望んでいる、複数のステップから成るタスクです。ロボットに物体をつかむ方法や特定の場所へ移動する方法などを指示するのではなく、オペレーターは RoMan に「明確な経路を確保する」ように指示し、ロボットがタスクを達成する方法を決定します。

「自律的に判断する能力」こそが、ロボットが機械「人」と呼ばれる所以です。ロボットは周囲で何が起こっているかを感知し、感知した情報に基づいて判断し、人間の介入なしに効果的な行動をとることができるため、私たちはロボットを高く評価しています。これまで、ロボットは高度に構造化されたルールに従って意思決定を行っていました。ロボットは工場のような構造化された環境ではうまく機能しますが、戦場のような混沌とした、なじみのない、または明確に定義されていない環境では、ルールに依存しているため、正確に予測して事前に計画することができず、不器用になる可能性があります。

（２）ディープラーニング：障害

家庭用掃除機、ドローン、自動運転車などの多くのロボットと同様に、RoMan は人工ニューラル ネットワークを使用して、半構造化環境で遭遇する課題に対処します。約 10 年前、人工ニューラル ネットワークがさまざまな半構造化データに適用され始めました。これまで、これらの半構造化データは、「記号推論」とも呼ばれるルールベースのプログラミングに基づいて動作するコンピュータにとって課題となっていました。

人工ニューラル ネットワークは、特定のデータ構造を認識するのではなく、データ内のパターンを認識し、ネットワークが以前に遭遇したデータに類似しているが同一ではない新しいデータを探します。人工ニューラル ネットワークの魅力の 1 つは、例を通じてトレーニングされ、ネットワークがラベル付けされたデータから学習して独自の認識パターンを開発できることです。複数の抽象化レイヤーを持つニューラル ネットワークは、「ディープラーニング」と呼ばれます。

トレーニングプロセスには人間が関与し、人工ニューラルネットワークは人間の脳のニューラルネットワークにヒントを得ていますが、ディープラーニングシステムの認識パターンは人間が世界を見る方法とは根本的に異なります。ディープラーニング システムの入力データと出力データの関係を理解できないことが多いため、ディープラーニング システムは「ブラック ボックス」モデルと呼ばれることがよくあります。

ディープラーニングのこの「ブラックボックス」的な不透明な意思決定の性質は、RoMan や ARL ラボのようなロボットにとっていくつかの問題を引き起こします。この不透明性は、ディープラーニング システムに依存するロボットを使用する際には注意が必要であることも意味します。

ディープラーニングシステムはパターンを認識するのが得意ですが、人間のように世界を理解して合理的な判断を下す能力が欠けています。これが、ディープラーニングが少数の明確に定義された小規模なアプリケーションで最高のパフォーマンスを発揮する理由です。

「ディープラーニングは、適切に形成された入力と出力の両方があり、それらの入力と出力の観点から問題を完全に表現できる場合に有用です」とロチェスター大学ロボット工学および人工知能研究所所長のトム・ハワード氏は語った。以前、Tom Howard は RoMan やその他の地上ロボット向けに多くの自然言語対話アルゴリズムを開発しました。 「問題は、知能ロボットをプログラミングする際に、ディープラーニングシステムに依存するロボットが実際にどの程度の規模で存在するかということです。」

ハワード氏は、ディープラーニングをより高レベルの問題に適用する場合、入力データの量が非常に大きくなり、大量のデータの処理が困難になる可能性があると説明しました。特に研究対象が 170 キログラムの 2 腕の軍用ロボットである場合、その任務遂行中に発生する可能性のある予測不可能な動作や説明のつかない動作は極めて重大になります。

数分経っても、ローマンは動かず、カマキリのように腕を振りながら枝を見つめたまま座っていた。過去 10 年間にわたり、ARL の Robotics Collaborative Technology Alliance (RCTA) は、カーネギーメロン大学、フロリダ州立大学、General Dynamics Land Systems、JPL、MIT、QinetiQ North America、セントラルフロリダ大学、ペンシルベニア大学、その他のトップクラスの研究機関と連携し、将来の地上戦闘のためのロボットの自律機能の開発に取り組んできました。 RoManはこの大きなプロジェクトの代表者です。

RoMan が考えている「道を切り開く」というタスクは、抽象的すぎるため、ロボットにとっては難しいものです。このタスクでは、ローマンは、道を塞いでいる可能性のある物体を識別し、それらの物体の物理的特性を推測し、それらをつかむ方法と使用する最適な操作テクニック（押す、引く、持ち上げるなど）を理解し、これらのアクションを完全に実行する必要があります。すでに世界に対する理解が限られているロボットにとって、このタスクにはステップが多すぎて、未知の部分がたくさんあります。

（３）「モジュール性」を通して世界を理解する

「ロボットに徐々に世界を理解させることが、ARLで開発するロボットとディープラーニングに依存する他のロボットとの違いです」とARLの操作および移動プログラムの主任人工知能科学者イーサン・スタンプ氏は語った。

「軍隊は世界中のどこででも活動しているかもしれないが、ロボットが使用できるすべての地域について詳細なデータを収集することは不可能だ。私たちは地球の反対側にある、一度も行ったことのない森に派遣されるかもしれないが、自分の家の裏庭にいるときと同じように機能しなければならない」と彼は語った。しかし、ほとんどのディープラーニングシステムは、トレーニングされた領域と環境でのみ確実に機能することができる。さらに、軍用戦闘ロボットのディープラーニング システムのパフォーマンスが低い場合、データの量には限りがあるため、単にデータを収集するだけでは問題を解決できません。

ARL ロボットも、自分が何をしているのかを認識する必要があります。 「ミッションの標準的な一連の操作には、目標、制約、指揮官の意図を表す物語があります」と Stump 氏は説明します。つまり、RoMan は、ミッションの具体的な要件に応じて、迅速に道を切り開く必要がある場合もあれば、静かに道を切り開く必要がある場合もあります。これは、今日の最も先進的なロボットにとっても難しい課題です。

私が見ていると、RoMan はまた枝を動かしました。 ARL の自律的なアプローチはモジュール式であり、ディープラーニングが他の技術と組み合わされているため、RoMan は ARL がどのタスクがどの技術に最適であるかを判断するのに役立ちます。

現在、RoMan は 3D センサー データからオブジェクトを識別する 2 つの異なるアプローチをテストしています。ペンシルバニア大学の方法はディープラーニングに基づいており、カーネギーメロン大学はより伝統的な 3D モデルのデータベースに依存する検索による認識アプローチを使用しています。検索対応の方法は、探しているオブジェクトが事前にわかっている場合にのみ機能しますが、オブジェクトごとに 1 つのモデルしか必要ないため、トレーニングがはるかに高速になります。そして。検索認識方法は、物体の一部が隠れていたり、上下逆さまになっているなど、物体を認識するのが難しい場合でも、物体を正確に識別できます。 ARL は 2 つの方法を同時にテストし、同時に実行して互いに競合させ、最も一般的で効果的な方法を選択します。

認識はディープラーニングが得意とするものの 1 つです。 「ディープラーニングはコンピュータービジョンにおいて驚異的な進歩を遂げており、ある環境でトレーニングされたディープラーニングモデルを新しい環境にうまく一般化できるようになった」とARLのコンピューター科学者マギー・ウィグネス氏は語った。

ARL のモジュール式アプローチは、複数の技術の長所を組み合わせたものです。たとえば、地形を分類するためのディープラーニングビジョンに基づく認識システムは、逆強化学習に基づく自動運転システムと連携して動作できます。逆強化学習アプローチでは、人間の兵士からの観察を通じてモデルを迅速に作成または最適化できますが、従来の強化学習は、与えられた報酬関数に基づいてソリューションを最適化し、通常は最善のアクションが不明な場合にのみ使用されます。これは戦闘の考え方と一致しており、一般的には、ロボットを誘導するために訓練された人物を配置することが正しいやり方であると想定されています。

「だから我々は、兵士が介入できる技術と戦場の事例を組み合わせたいのです。新しい行動が必要になったら、システムを更新すればいいのです。ディープラーニング技術には、より多くのデータと時間が必要です」とウィグネス氏は語った。

（４）安全に操作するには

ディープラーニングは、データの希薄性や急速な適応の問題だけでなく、堅牢性、解釈可能性、セキュリティなどの問題にも直面しています。 「こうした問題は戦闘ロボットに限ったことではないが、軍が戦闘中の場合は特に重要だ。その結果は致命的になる可能性があるからだ」とスタンプ氏は語った。誤解のないように言っておくと、ARLは現在、致死的な自律型兵器システムを研究しているのではなく、米軍の自律型システムの基礎を築いているところだ。将来、戦闘ロボットはRoManのように行動するようになるかもしれません。

スタンプ氏はまた、安全性は常に最優先事項だが、現在のところディープラーニングシステムのセキュリティを確保する明確な方法はないと述べた。 「安全な制約の下でディープラーニングを行うことは重要な研究活動ですが、システムにすでに存在する制約がどこから来たのかわからないため、システムにそれらの制約を追加するのは非常に困難です。そのため、タスクが変わったり、環境が変わったりすると、制約を処理するのが難しくなります。

これはデータの問題ではなく、アーキテクチャの問題です。 「ARLのモジュール式アーキテクチャは、ディープラーニングを使用した認識モジュールであれ、逆強化学習を使用した自律運転モジュールであれ、より広範な自律システムの一部を形成し、軍の安全性と適応性の要件を満たすことができます。」

統合ディープラーニングシステムは戦闘に使用できるか?

ニコラス・ロイはMITロボティクスグループの責任者です。彼は、ディープラーニングを神格化すべきではないと感じており、ディープラーニングの手法は軍隊が直面する課題に対応できないことが多いというARLのロボット工学者の意見に賛同しているため、自らを「挑発者」と表現している。

「陸軍は絶えず新しい環境に進出しており、敵は常に環境を変えようとしているため、ロボットが受ける訓練プロセスは陸軍のニーズにまったく合致していない」とロイ氏は述べた。「したがって、ディープ ネットワークのニーズは陸軍が戦っている任務にかなり合致しておらず、それが問題なのです。」

RCTA (後方横断交通警報) タスクでは、ロイは地上ロボットの抽象的推論に重点を置きました。彼は、ディープラーニングは明確な機能的関係を持つ問題に適用する場合は有用な技術だが、抽象的な概念を検討し始めるとディープラーニングが実行可能かどうかは不明であると主張しています。 「

「ニューラル ネットワークとディープラーニングを、より高度な推論をサポートする形でどのように組み合わせるかに非常に興味があります」とロイ氏は言う。「最終的には、複数の低レベルのニューラル ネットワークを組み合わせて、より高度な概念を表現する方法が問題になりますが、その方法はまだわかっていません。」

Roy は、車を検出するためのニューラル ネットワークと赤い物体を検出するためのニューラル ネットワークの 2 つの別個のニューラル ネットワークを使用する例を示しています。これら 2 つのネットワークを 1 つの大きなネットワークに統合して赤い車を検出するのは、論理関係に基づいて構造化されたルールを持つ記号推論システムを使用するよりもはるかに困難です。 「多くの人がこれに取り組んでいますが、この種の抽象的な推論をうまく進めた研究は見たことがありません。」

当面の間、ARL は、高レベルの推論と時折の低レベルのアドバイスに人間を関与させることで、自律システムの安全性と堅牢性を確保します。人間がロボットシステムに常に関与しているわけではありませんが、人間とロボットがチームとして協力して作業すると、より効果的になります。ロボット共同技術連合プログラムの最新フェーズが2009年に始まったとき、ARLはすでにイラクとアフガニスタンで何年も活動しており、そこではロボットがツールとしてよく使用されていました。私たちは、ロボットをツールからチームの仲間に変える方法について考えてきました。 「

人間が枝のどの部分をつかむのが最も効果的かを指摘すると、RoMan は少し助けられました。ロボットは分岐についての知識を持っておらず、この世界についての知識の欠如（人々がよく「常識」と呼ぶもの）は、すべての自律的意思決定システムに共通する問題です。しかし、私たちの豊かな人間的経験を活用して、RoMan にちょっとした指導を与えてくれる人がいれば、RoMan が機能するのはずっと容易になるでしょう。今度は、RoMan は枝をつかんで引きずり去ることに成功しました。

ロボットを良いチームメイトにするのは難しい。ロボットにどの程度の自律性を与えるかを決めるのが難しいからだ。ロボットの自律性が低すぎると、それを管理するために多くの人間の労力が必要になります。これは爆発物の取り扱いなどの特殊な状況には適していますが、他の状況では非効率的です。しかし、ロボットに過度の自律性が与えられると、信頼性、安全性、説明可能性の面でリスクが生じます。

「私たちが求めている基準は、ロボットが作業犬と同じレベルで機能することだと思います」とスタンプ氏は説明する。「ロボットは限られた環境で何をしてもらいたいかを正確に理解しています。新しい環境に移った場合、多少の柔軟性と創造性はありますが、革新的な方法で問題を解決することを期待しているわけではありません。助けが必要な場合は、私たちに助けを求めてください。」

（５）自律システムの探究は継続されるべきである

たとえ人間のチームの一員であっても、RoMan が野生の世界ですぐに独立したミッションを遂行できる可能性は低いでしょう。 RoMan は、ディープラーニングにおける一連の複雑な問題を調査するために使用できる研究プラットフォームのようなものです。しかし、ARL は RoMan や他のロボット向けに Adaptive Planner Parameter Learning (APPL) と呼ばれるソフトウェアを開発しており、これはまず自動運転に使用され、その後 RoMan のようなモバイル オペレーターを含むより複雑なロボット システムに使用される可能性があります。

APPL は、従来の自律ナビゲーション システムの下にさまざまな機械学習手法 (逆強化学習やディープラーニングを含む) を重ねて、高レベルの目標と制約を低レベルのプログラミングに適用できるようにします。人間は遠隔操作のデモンストレーション、是正介入、評価フィードバックを使用してロボットが新しい環境に適応できるようにすることができ、一方ロボットは教師なし強化学習を使用して自身の行動パラメータを調整することができます。

その結果、機械学習の多くの利点を組み合わせながら、軍隊が必要とする安全性と説明可能性も提供できる自律システムが誕生しました。 APPL を使用すると、RoMan のような学習ベースのシステムは、不確実な状況でも予測可能な方法で動作できます。訓練された環境とはまったく異なる環境にいる場合は、人間による調整やデモンストレーションに頼る必要があります。

自動運転車などの商用および産業用の自動運転システムの急速な発展により、人々は必然的に次のような疑問を抱くことになる。なぜ軍隊は先端技術の波に遅れをとっているのだろうか？スタンプ氏の見解は、自律システムには多くの難しい問題があり、軍の問題は産業界の問題とは異なるというものだ。たとえば軍隊には、ロボットを操作するための大量のデータを備えた構造化された環境がありません。将来的には、ARL が開発している自律フレームワークにおいて、人間が引き続き主要な役割を担うことになると思われます。

3.結論: 棒が発明される前に暴力への恐怖に囚われてはいけない

以上の分析から、世界の軍事ロボット研究は停滞しているどころか、積極的に前進していることがわかります。軍用ロボットの開発者は、戦闘とインテリジェントな自動化のバランスをとることができるようになることが期待されています。

私たちの時代の軌道は、人間と機械の真の融合を実現することです。ロボットの観点から見ると、人間と機械の関係は徐々に支援、協力、代替、拡張へと変化しています。援助と調整が実現した今、人間の優位性はより目立つ位置に置かれなければなりません。