朱松春チームによる最新の研究：ロボットは人間と心からコミュニケーションできる！彼はまた、次のステップは「AI大百」を作ることだと述べた。

この記事はAI新メディアQuantum Bit（公開アカウントID：QbitAI）より許可を得て転載しています。転載の際は出典元にご連絡ください。

ロボットは『ベイマックス』のベイマックスのように、人間の感情や価値観を理解し、共通の目標を持って協力して問題を解決できるのでしょうか?

さて、この質問に対する答えは次のとおりです。

北京大学人工知能研究所の朱松春氏のチームによる最新の研究では、説明可能な人工知能（XAI）システムが提案され、ロボットと人間が本当に「心を開き」、人間のパートナーのように職場でOKRを統合できることを証明した。

これは、朱松春のチームが提案したリアルタイムの双方向の人間と機械の価値調整です。

現在、朱松春氏のチームの研究成果はトップ学術誌「サイエンス」とその関連誌「サイエンス・ロボティクス」に掲載されており、いずれも話題となっている。

人間とロボット、価値観はどのように一致するのでしょうか?

人間とロボットの価値観を一致させることができるかどうかを検証するために、朱松春氏のチームは、人間とロボットが協力してタスクを完了する必要がある小さなゲームを設計しました。人間は指揮官の役割を果たし、3台のロボットパートナーを率います。

具体的なタスクは、未知の 20×20 グリッド マップ内で基地(マップの右下隅に位置)から目的地(マップの左上隅に位置)までの安全な経路を見つけることです。

このマップ上のさまざまなグリッドには、爆発物や物資などのさまざまなデバイスが含まれており、ロボットが近づいたときにのみ表示されることに注意してください。

安全な経路を見つけることに加えて、人間の指揮官はゲーム開始前に 4 つの追加ミッション目標を受け取ります。指揮官は 4 つのうち 1 つを選択する必要があります。ミッションには次のものが含まれます。

• できるだけ早く目的地に到着してください。
• 地図上の不審なデバイスを調査します。
• より広いエリアを探索します。

• リソースを集めます。

これら 4 つのミッション目標は人間の指揮官の価値観を表しており、ロボットが指揮官の価値観を理解して自律的に行​​動するためには、人間の指揮官からの継続的なミッションフィードバックが必要です。

具体的なプロセスとしては、人間とロボットが価値目標について次々にフィードバックと説明を行い、最終的に一貫性が保たれる傾向があります。

ゲーム全体を3つのグループに分け、ロボットが人間の指示を一方的に受け入れる、つまり単に聞き手として行動する場合、ゲームの進行が25％に達すると、目標の重要度の少なくとも60％を正しくランク付けすることで、ユーザーの価値観に素早く合わせることができることが実験結果からわかりました。

表現者として行動する場合、ロボットは人間にフィードバックを与え、遭遇した状況の完全な説明を提供します。ゲームが50％まで進むと、人間の指揮官とロボットの値が統一されます。

ロボットが遭遇した状況について簡単な説明のみを行う場合、ゲームの進行が 75% に達するまで 2 つの値は統合されません。

上記の実験結果は、人間とロボットのコラボレーションのプロセスにおける双方向の価値調整のプロセスを示しています。

まず、ロボットは人間からのフィードバックを受け取ることで、自身の価値関数を徐々に更新し、人間の価値観と一致するようにすることができます。

第二に、人間はロボットとの絶え間ない相互作用の中で、ロボットの能力と意図に対する認識を徐々に形成していきます。前半戦では両者の価値観は統一されていませんでしたが、後半戦の状況から判断すると、ロボットの価値を評価する能力に対する人間の認識はまだ向上できると考えられます。

最後に、ロボットの価値選択が安定すると、ユーザーのロボットに対する評価も安定し、ロボットの人間価値評価から人間の価値の真の価値への収束的なペアリングが形成され、人間の実際の価値志向に基づいた双方向の価値調整が形成されます。

結果は上記の通りですが、人間とロボットの双方向の価値観の一致を証明するには理論が必要であり、それはすべての研究結果の背後にある原理でもあります。

説明可能な人工知能* (XAI)* は、静的な機械と動的な人間のコミュニケーションに基づく理論であり、人工知能が下すすべての決定の背後にあるロジックを説明します。学界で広く研究されています。

朱松春氏のチームが実験ゲームで使用したロボットシステムも XAI に基づいていますが、違いは人間とロボットのコミュニケーション方法が変わったことです。

人間と機械が協力して目標を達成できるようにするには、人間の価値観に基づいた、動的な機械と動的なユーザー コミュニケーション モデルが必要です。

このモードでは、ロボットは人間に意思決定プロセスを示すだけでなく、ユーザーの価値目標に基づいて動作を即座に調整します。

同時に、研究チームはユーザー情報をリアルタイムで把握するために、従来のデータ駆動型の機械学習方法に代えてコミュニケーション学習を採用しました。機械は推定されたユーザーの価値目標に基づいて合理的な解釈を行います。

この人間と機械の協力的なコラボレーションには、機械が心の理論 (ToM)、つまり他人の精神状態 (感情、信念、意図、欲求、見せかけ、知識など) を理解する能力を備えていることが必要です。

これは、マルチエージェントや人間とコンピュータのインタラクション環境では特に重要です。なぜなら、マシンは人間の状態や意図を理解して初めてタスクをより適切に実行でき、その意思決定行動は人間の判断に影響を与え、人間中心で人間とコンピュータの互換性のある共同プロセスを形成するからです。

簡単に言えば、上記の方法を人間とロボットの共同作業に使用すると、両者に同時に聞き手と表現者という 2 つのアイデンティティを与えることができます。

これは、少なくとも理論上は、ロボットが人間のチームメンバーと同じようにあなたの考えや価値観を理解し、統一された目標を達成するために効率的に協力できることを意味します。

著者について

Zhu Songchun 氏のチームは、UCLA の Yuan Luyao 氏と Gao Xiaofeng 氏、北京汎用人工知能研究所の Zheng Zilong 氏、北京大学人工知能研究所の Zhu Yixin 氏で構成されています。

チームは長年にわたり、説明可能な人工知能に関連する作業に取り組んできました。これは、サイエンス・ロボティクス誌に掲載された、説明可能な人工知能に関するチームの2番目の論文です。

この研究は、認知推論、自然言語処理、機械学習、ロボット工学などの複数の分野を網羅しており、朱松春教授のチームの学際的な研究成果を凝縮して反映したものです。

朱松春教授は、人工知能の分野で世界的に有名な学者です。UCLAの統計学部とコンピュータサイエンス学部の教授であり、UCLAのコンピュータビジョン、認知、学習、自律ロボットセンターの所長でもありました。

現在、朱松春氏は清華大学と北京大学の教授を務め、両大学で管理職を務めています。彼が主宰する北京汎用人工知能研究所（BIGAI）は、清華大学、北京大学などの機関からも支援を受けている。

もう一つ

最後に、冒頭の質問に戻りますが、「ベイマックス」の「ベイマックス」は現実に本当に存在するのでしょうか？

実際、朱松春氏のチームはすでに研究を開始している。

朱松春氏のチームが所属する北京汎用人工知能研究所は現在、北京大学人工知能研究所などと共同で人工知能の統一理論と認知アーキテクチャに関する研究を行っていると報じられている。

将来の方向性は、人間の感情、倫理、道徳観念に沿った、自律的な知覚、認知、意思決定、学習、実行、社会的コラボレーション機能を備えた汎用インテリジェントエンティティを作成することです。

嬉しい時には寄り添ってくれて、悲しい時には涙を拭ってくれるロボットはいかがでしょうか？こんなロボットがほしいと思いませんか？