マイクロソフトの年次研究レビュー: ML のブレークスルーが到来、人間とコンピューターのインタラクションがより現実的に、そして Shum 氏のお別れ

この記事はAI新メディアQuantum Bit（公開アカウントID：QbitAI）より許可を得て転載しています。転載の際は出典元にご連絡ください。

研究は、長期的な目標を達成することを目的とした段階的な開発プロセスです。

年末が近づく中、Microsoft Research は過去 1 年間の人工知能分野における取り組みを振り返ります。

Microsoft Researchは次のように述べています。

2019年は科学技術が厳しい課題に直面する年です。

一般に、研究レビューには次の側面が含まれます。

AI および機械学習システムをよりアクセスしやすくする。
「人間本位」の革新的研究を推進しました。
· 誰にとっても使いやすい人間とコンピュータのインタラクションを作成する。
· セキュリティ、ストレージ、システム、アプリケーションにおけるブレークスルー。
研究コミュニティにオープンソースのツールとデータを提供する。
· 研究グループに奨学金を提供する

さらに、Shen Xiangyang博士は最近、Microsoftからの辞任を発表しました。

Microsoft Research は、このレビュー中に Shen Xiangyang 博士にも別れを告げました。

AIと機械学習へのアクセス性の向上

機械学習が人々の生活に影響を与えていることは明らかです。

それで、マイクロソフトの研究者は今年何をしたのでしょうか?

機械学習システムの機能を向上させることで、科学におけるこの新しいパラダイムがさらに発展するでしょう。

これらのシステムをよりアクセスしやすくするために、いくつかの特別な方法が使用されます。

ディープラーニングに関しては、マイクロソフトリサーチの共同研究マネージャーであるJianfeng Gao博士が率いるチームがMT-DNNモデルを提案しました。

これは、マルチタスク学習と BERT の言語モデルの事前トレーニングの利点を組み合わせた、普遍的な言語埋め込みを学習するためのモデルであり、システムが自然言語処理に必要な意味理解を迅速に開発するのに役立ちます。

MT-DNN アドレス:
https://www.microsoft.com/en-us/research/blog/towards-universal-language-embeddings/

MASS は、Microsoft Research の Xu Tan 氏のチームが開発しました。

これは、シーケンスからシーケンスへの言語生成において既存のモデルよりも優れた事前トレーニング方法です。

MASSアドレス:
https://www.microsoft.com/en-us/research/blog/introducing-mass-a-pre-training-method-that-outperforms-bert-and-gpt-in-sequence-to-sequence-language-generation-tasks/

そして今後数年間で、機械学習にブレークスルーが起こるでしょう。

マルコフ決定プロセスに基づく現在のアプローチを超えるアプローチ、特に強化学習は、現実世界のシナリオにより適用可能になるでしょう。

プロジェクトアドレス:
https://www.microsoft.com/en-us/research/blog/reinforcement-learning-for-the-real-world-with-dr-john-langford-and-rafah-hosn/

多くの機械学習アプリケーションは大規模なデータセットの恩恵を受けますが、その方法が有効であることを証明するのに十分なデータがないアプリケーションも数多くあります。

機械学習を導入すると、ドメインの専門家がごく少量のデータでカスタマイズされた AI モデルを構築できるようになります。

プロジェクトアドレス:
https://www.microsoft.com/en-us/research/blog/machine-teaching-luis-and-the-democratization-of-custom-ai-with-dr-riham-mansour/

AIをさらに民主化するもう1つのプロジェクトは、研究所がジャスティン・ハリスと共同で取り組んでいるブロックチェーンフレームワーク上の分散型かつ協調的な人工知能です。

これにより、ユーザーは Ethereum 上でモデルとデータセットをトレーニングおよび維持できるようになります。

さらに、Microsoft Research の主任研究員である Debadeepta Dey 氏が、今年の NeurIPS で Petridish プロジェクトを提案しました。

△300名以上のマイクロソフト研究者がNeurIPS 2019に参加

これは、特定の機械学習タスクのニューラルアーキテクチャを識別するのに役立つ、効率的な順方向ニューラルアーキテクチャ検索アルゴリズムです。

プロジェクトアドレス:
https://www.microsoft.com/en-us/research/blog/project-petridish-efficient-forward-neural-architecture-search/

責任ある、包括的、人間中心のイノベーションを推進する

2019 ACM FAT* カンファレンスがアトランタで開催されました。

Microsoft Research は、この会議で、職業分類における性別による偏見、不公正を助長するデータ主導の意思決定の役割、アルゴリズムによる意思決定システムの戦略的操作、資金がない場合のプロジェクトの公平な割り当てなど、4 つの論文を発表しました。

この研究は、人工知能、機械学習、データサイエンス、大規模実験、自動化の複雑な社会的影響を研究しているマイクロソフトの FATE 研究グループによるものです。

5月のCHIカンファレンスで、研究者のSaleema Amershi氏とその協力者は、人工知能システムとの効果的なインタラクションに関する20年以上の研究、アドバイス、ベストプラクティスをまとめた、人間とコンピューターのインタラクション設計に関する一連のガイドラインを提案しました。

これらの取り組みを組み合わせることで、設計者はユーザーの期待を管理し、自律性の程度を調整し、曖昧さを解決し、システムがユーザーの行動からどのように学習するかをユーザーに認識させることができます。

プロジェクトアドレス:
https://www.microsoft.com/en-us/research/blog/guidelines-for-human-ai-interaction-design/

さらに、オープンソースシミュレーターの AirSim が今年、ドローン向けの NeurIPS コンテストを主催しました。

ドローンチャレンジでは、参加者は Microsoft Research の対戦相手と同じトラックで競い合い、同様の競技では通常見られないレベルの戦略と操作を駆使します。

プロジェクトアドレス:
https://www.microsoft.com/en-us/research/blog/game-of-drones-at-neurips-2019-simulation-based-drone-racing-competition-built-on-airsim/

誰にとっても役立つ人間とコンピュータのインタラクションの創出

コンピューティングシステムにおけるヒューマンファクターに関する ACM CHI カンファレンスで、マイクロソフトの研究者は、認知障害や感覚障害を持つユーザーにアクセシビリティを提供する方法を探る論文とデモンストレーションを発表しました。

これらには、ブラウザの「読み取りモード」が実際に失読症の人に役立つかどうかの研究や、明るさに敏感な人や視力の弱い人など、視覚に弱い人が VR をより利用しやすくするためのツールが含まれます。

また、3D オーディオキューを使用して状況認識を強化し、ナビゲーションを支援するプロジェクトである Microsoft の Soundscape も紹介されました。

プロジェクトアドレス:
https://www.microsoft.com/en-us/research/product/soundscape/features/

仮想環境をよりリアルに、触りやすく、操作しやすいものにするプロジェクトもあります。

△マイクロソフトドリームウォーカーVR

Dreamwalker は、仮想現実を通じて現実世界の歩行体験を向上させることができる仮想現実プロジェクトです。仮想環境は、ユーザーの周囲をリアルタイムで検出し、ユーザーの進路や障害物を示す仮想世界を生成します。

プロジェクトアドレス:
https://www.microsoft.com/en-us/research/publication/dreamwalker-substituting-real-world-walking-experiences-with-a-virtual-reality/

セキュリティ、ストレージ、システム、アプリケーションにおけるブレークスルー

準同型暗号技術の開発と導入は2019年も引き続き進展しました。準同型暗号化技術は暗号化されたデータに対して計算を実行し、プライバシーの保護に役立ちます。

Microsoft SEAL は、世界で最も人気のある準同型暗号化ライブラリの 1 つとなり、学界と産業界の両方で広く採用されています。

プロジェクトアドレス:
https://github.com/Microsoft/SEAL

今年 4 月、EverCrypt がリリースされ、Project Everest は安全で認証された HTTPS エコシステムの構築に向けて新たな一歩を踏み出しました。

その中で、EverCrypt は TLS プロトコルのセキュリティ要件を満たす、完全に認定された最初の暗号化プロバイダーです。プロジェクトエベレストは、マイクロソフト、Inria、カーネギーメロン大学の共同プロジェクトです。

プロジェクトアドレス:
https://www.microsoft.com/en-us/research/blog/evercrypt-cryptographic-provider-offers-developers-greater-security-assurances/

2023 年までに、100 ZB を超えるデータがクラウドに保存されるようになると予想されています。

このニーズを満たすために、Project Silicon はメディアとクラウドコンピューティングで使用するためにゼロから設計された初のストレージテクノロジを開発しています。

プロジェクトアドレス:
https://www.microsoft.com/en-us/research/project/project-silica/

今年、チームはワーナー・ブラザーズと協力し、1978年の映画「スーパーマン」の画像をコースターほどの大きさのほぼ壊れないガラスで覆うという概念実証を行った。

プロジェクトアドレス:
https://www.microsoft.com/en-us/research/blog/optics-for-the-cloud-storage-in-the-zettabyte-era-with-dr-ant-rowstron-and-mark-russinovich/

一方、今年 4 月には、マイクロソフトとワシントン大学の研究者が、合成 DNA を使ってデータを保存および取得する初の完全自動化システムを実証し、「Hello, World!」を実現しました。

プロジェクトアドレス:
https://news.microsoft.com/innovation-stories/hello-data-dna-storage/?utm_source=elevate&utm_campaign=1385

ケンブリッジ大学の研究者アンディ・ゴードン氏とサイモン・ペイトン・ジョーンズ氏は、プログラミング言語の研究が世界で最も一般的なビジネスアプリケーションであるスプレッドシートをどのように改善できるかを探り、基礎研究の実際的な影響を実証しました。

以下のプロジェクトでは、Microsoft Excel チームとの協力によって、外部データソースにリンクされたレベル 1 レコードを格納できるセルや、隣接するセルに「はみ出す」配列値を計算できる数式などの製品の改善が実現した経緯が詳しく説明されています。

プロジェクトアドレス:
https://www.microsoft.com/en-us/research/blog/influencing-mainstream-software-applying-programming-language-research-ideas-to-transform-spreadsheets/

ACM 国際 Web 検索およびデータマイニング会議において、Microsoft の研究者が極端分類に関する新しい研究を発表しました。

極限分類は、アルゴリズムの速度と品質を大幅に向上させることが期待される研究分野です。この作業により、より関連性の高い推奨事項と検索結果が得られます。

次の 2 月のブログ投稿では、Microsoft Research India の Manik Varma が極端な分類についてさらに詳しく解説しています。

プロジェクトアドレス:
https://www.microsoft.com/en-us/research/blog/everything-you-always-wanted-to-know-about-extreme-classification-but-were-afraid-to-ask/

コンピュータービジョンテクノロジ、特にビデオオブジェクトの検出と分類の進歩により、ビデオ分析はより正確になりました。

しかし、高速かつ実用的なリアルタイムビデオ分析は遅れています。

昨年 12 月、Microsoft の研究者である Ganesh Ananthanarayanan と Yuanchao Shu は、エッジとクラウドを活用してビデオ分析アプリケーションのニーズを満たすスケーラブルなソフトウェアスタックである Project Rocket に関するウェビナーを主催しました。

プロジェクトアドレス:
ライブビデオ分析

研究コミュニティにオープンソースのツールとデータを提供する

今年、マイクロソフトの研究者は、学術コミュニティの利益のために、次のような数多くのオープンソースプロジェクトに貢献しました。

SandDance: Azure Data Studio、Visual Studio Code、Power BI のデータ視覚化ツールです。
アドレス: https://cloudblogs.microsoft.com/opensource/2019/10/10/microsoft-open-sources-sanddance-visual-data-exploration-tool/

TensorWatch: 人工知能のデバッグおよび視覚化ツールです。
アドレス: https://www.microsoft.com/en-us/research/blog/microsoft-makes-ai-debugging-and-visualization-tool-tensorwatch-open-source/

PhoneticMatching: Maluuba 自然言語理解プラットフォームのコンポーネントです。
アドレス: https://www.microsoft.com/en-us/research/blog/a-phonetic-matching-made-in%cb%88h%c9%9bv%c9%99n/

SpaceFusion: 会話型 AI 向けにさまざまなディープラーニングモデルを統合した学習パラダイムです。
アドレス: https://www.microsoft.com/en-us/research/blog/spacefusion-structuring-the-unstructured-latent-space-for-conversational-ai/

Icecaps: 会話型モデリングツールキット。
アドレス: https://www.microsoft.com/en-us/research/blog/microsoft-icecaps-an-open-source-toolkit-for-conversation-modeling/

Icebreaker: 機械学習モデルのトレーニングに必要なデータの量とコストを最小限に抑える深層生成モデル。
アドレス: https://www.microsoft.com/en-us/research/blog/icebreaker-new-model-with-novel-element-wise-information-acquisition-method-reduces-cost-and-data-needed-to-train-machine-learning-models/

同社は、Azure ベースのデータ共有ライブラリである Microsoft Research Open Data の昨年のリリースを基に、複数のパブリックデータセットに適用できる一連のデータ使用契約を開発し、GitHub で公開しました。