アリババDAMOアカデミーがAI分野の権威あるランキングトップ6を獲得：人間の学習方法で人間を超える

[[339371]]

AIが人間の学習方法を模倣したら何が起こるでしょうか?

8月26日、アリババDAMOアカデミー言語技術研究室は一連の躍進を達成し、自然言語処理（NLP）分野の権威ある6つの技術リストで優勝した。コンテストに参加した自社開発のAI技術6つはいずれも人間を模倣した学習モデルを採用しており、機械の言語理解能力が全面的に向上し、一部の能力は人間を上回ったと報じられている。現在、これらの技術は、読解、機械翻訳、人間とコンピュータの相互作用などのシナリオで広く使用されています。

ここ数年、AIは画像認識や音声認識などの面で徐々に人間のレベルを超えてきたと報告されていますが、複雑なテキストの意味を理解するという点では、AIと人間の間にはまだギャップがあります。主な理由は、従来のAIはテキスト知識の学習効率が低いためです。

この目的のために、業界では、まず大規模なウェブページや書籍のテキストで AI をトレーニングして基本的な語彙、文法、意味の知識を学習させ、次に固定分野内のテキストでトレーニングしてドメイン固有の知識を学習させるという、人間を模倣した学習アプローチを提案しています。

このアイデアは、事前トレーニング済み言語モデルの中核的な革新です。 Google が人間の注意メカニズムを模倣した BERT モデルを提案して以来、事前トレーニング済み言語モデルは NLP 分野で注目されている研究分野となっています。

DAMO Academyは2018年から汎用事前学習言語モデルの開発に着手し、徐々にこの考えを多言語、マルチモーダル、構造化および段落テキスト理解とテキスト生成の分野に拡大し、現在では体系的な深層言語モデルシステムを確立しています。自社開発の汎用言語モデルStructBERT、多言語モデルVECO、マルチモーダル言語モデルStructVBERT、生成言語モデルPALMなど、6つの自社開発モデルは世界新記録を樹立しています。

DAMOアカデミーの独自開発モデルがGLUEリストで1位に

中でも、StructBERT は機械が人間の文法をより良く習得することを可能にするため、語順が乱れたり文法的に正しくない習慣のある単語や文章に直面しても、機械は正確に理解して正しい表現や応答を返すことができ、単語、文章、言語全体に対する機械の理解力が大幅に向上します。このモデルは、自然言語処理分野の権威あるデータセットであるGLUEベンチマークで平均スコア90.6で1位となり、人間のレベル（87.1ポイント）を大幅に上回りました。

DAMOアカデミー言語技術研究所チームは次のように述べている。「研究所の目標は、AIが人間の知識の基本技術を習得できるようにすることです。事前トレーニング済みの言語モデルの誕生により、AIが人間のように新しい知識を学習することが可能になりました。将来、DAMOアカデミーはこれらの技術を外部に完全に公開し、特定の分野のAIをよりインテリジェントにします。」

過去 2 年間で、アリババはトップクラスの NLP コンテストで 30 回以上の世界選手権に優勝し、100 件以上の関連するトップカンファレンス論文を発表しました。アリババの自然言語技術は、金融、ニューリテール、通信、インターネット、ヘルスケア、電力、カスタマー サービスなどの分野で 10 億人を超えるユーザーと数万社の企業顧客にサービスを提供してきました。