WeBank AI 主任科学者 NeurIPS の論文で「最新のニューラル ネットワーク盗難防止技術」が明らかに

保護されていないニューラル ネットワークは、誰でも運転できるロックされていない車のようなものです。ネットワークが違法にコピーされ使用されると、元の所有者は発明の法的知的財産権を証明および維持できなくなります。これは企業のイノベーションの勢いを損ない、業界全体の発展の見通しに影を落とすことになるでしょう。

最近発表された2019年ニューラル情報処理システム会議およびワークショップ（ NeurIPS ）に選ばれた論文の全リストには、WeBankのAI主任科学者であるLixin Fan博士とマラヤ大学のChen Zhisheng准教授、Wu Jinによる論文「ディープニューラルネットワークの所有権検証の再考：曖昧な攻撃に対する防御のためのデジタルパスポートの埋め込み」が掲載され、ディープニューラルネットワークの知的財産権を保護するために「デジタルパスポート」を使用する新しい方法が独創的に提案されました。

NeurIPSは、世界で最も注目されているAIと機械学習に関するハイエンドの学術会議の1つです。公式データによると、今年の会議には合計6,743件の論文が提出され、新記録を樹立しました。そのうち、合計1,428件の論文が採択され、採択率はわずか21.1％でした。

ファン・リシン博士によると、ニューラルネットワークの所有権を保護するために使用されている従来の透かし方式には欠陥がある。トレーニングプロセス中、デジタル透かしが埋め込まれたニューラルネットワークは、所有者の名札が付いた車のようなものだが、他人がその車を運転したり、偽造ラベルを貼ったりすることもできる。この場合、コピーされたネットワークでは真偽の判別が難しい複数の電子透かしが検出される可能性があり、知的財産権の帰属に関する合意が得られません。

デジタルパスポート、新しいニューラルネットワーク盗難防止技術

この状況は新しいメカニズムを通じて解消できるでしょうか?論文では、トレーニングプロセス中、デジタルパスポートが埋め込まれたニューラルネットワークはロックされた車のようなもので、ネットワークを正常に使用するには、ニューラルネットワークと一致するデジタルパスポートでロックを解除する必要があると提案しています。実験により、改ざんまたは偽造されたパスポートを使用すると、ネットワークのパフォーマンスが著しく低下し、使用できなくなることが確認されています。

デジタルパスポートを使用するもう 1 つの利点は、たとえ泥棒が元のデジタルパスポートをさらに盗み、それを使用して通常のネットワーク使用のロックを解除したとしても、元の所有者がデジタルパスポート上の個人署名ID を使用して自分の知的財産の所有権を証明できることです。

上記の原則に基づいて、研究者はブラックボックス、ホワイトボックス、ハイブリッド保護メカニズムも設計し、さまざまなアプリケーションシナリオに完全な知的財産保護方法のシリーズを提供しています。

新しいアプローチにより、 DNNモデルのパフォーマンスはパスポートの真正性に依存し、削除攻撃に対して堅牢で、ファジング攻撃に対して耐性があり、元の所有者によるニューラル ネットワークの証明可能な所有権が保証されます。異なるパスポートを使用して異なるネットワークパフォーマンスを実現するというアイデアも非常に斬新であり、多数の実験によって検証されており、実現可能です。

論文全文リンク: https://arxiv.org/abs/1909.07830

論文のソースコード: https://github.com/kamwoh/DeepIPR

AIイノベーションのための健全なエコシステムを構築するための効果的なメカニズム

デジタルパスポートの保護メカニズムに基づいて、盗作者はジレンマに陥ります。一方では、偽造されたデジタルパスポートが使用されると、ネットワークのパフォーマンスが大幅に低下し、ほとんど役に立たなくなります。さらに、パスポートの偽造にはネットワークの再トレーニングが必要であり、これには時間とエネルギーがかかり、経済的にも利益がありません。一方、元のデジタルパスポートが違法に使用された場合、元の所有者は法的措置や責任追及を受けることになります。

現在、大企業や新興企業は、ほぼ毎秒数十億ドルを投資して、新しいDNNモデルを研究しています。この論文で提案されているデジタル パスポートは、知的財産権を保護し、乱用や偽造を防ぎ、競合他社による悪用を防ぐ上で重要な役割を果たします。企業や発明者の実質的な権利と利益が保護されてこそ、 AIイノベーションは正常に進歩し、真に健全なイノベーション環境を作り出すことができます。

最前線を歩むWeBankのAI研究の探究

この研究は、WeBank の人工知能科学者である Lixin Fan 博士によって開始されました。Fan 博士の WeBank AIチームは、連合学習や転移学習など、最先端の科学研究分野で多くの研究を行ってきました。

今年8月、データサイエンスとデータマイニングに関する国際学術会議であるKDDカンファレンスに、WeBankのAIチームといくつかの大学が共同で提出したAI精密マーケティングとインテリジェント推奨に関する研究論文「 パーソナライゼーションを超えて：クリエイターの平等と消費者の満足のためのソーシャルコンテンツ推奨」が収録されました。論文では、分散型モデルSocial Attentive Exploration Network （ SAEN ）を使用してソーシャルコンテンツ推奨の公平性の問題を解決することを提案しました。現在、研究成果はWeBankのAIマーケティングソリューションのインテリジェント推奨ビジネスセグメントにうまく適用されています。 （論文全文リンク： https://dl.acm.org/citation.cfm? id= 3330965）

WeBankは連合学習の先駆者として、「連合転移学習」という新たな方向性を提案しただけでなく、データプライバシー保護の下でのAI協働エコシステムの構築を世界規模で指導・推進しました。

フェデレーテッドラーニングは、マルチパーティのセキュアコンピューティングに基づく分散型機械学習技術であり、関係するすべての当事者が、基礎データと基礎データの暗号化（難読化）形式を公開することなく、共同でモデルを構築できます。業界のアプリケーションでは、さまざまな機関が障壁を打ち破り、 AIコラボレーションを行うのに役立ちます。同時に、すべての当事者のデータはローカルサーバーから出ないため、ユーザーのプライバシーが保護されます。機械学習に対するこの双方にメリットのあるアプローチにより、フェデレーテッド ラーニングはAI時代のビッグ データのセキュリティとプライバシー保護に不可欠なテクノロジーになります。

今年8月に開催された国際人工知能合同会議（ IJCAI 2019 ）の期間中、WeBankはIBMなどの著名な機関と共同で、第1回フェデレーテッドラーニング国際シンポジウムを開催しました。100人を超える国際的な専門家や学者が参加し、フェデレーテッドラーニングの現在の課題と将来の発展の傾向を探りました。

WeBank のAIチームは、学術研究における最先端の探究を行うだけでなく、フェデレーテッド ラーニング業界の実装も積極的に推進しています。今年2月、フェデレーテッドラーニング向けの産業グレードオープンソースフレームワークであるFederated AI Technology Enabler （ FATE ）がGitHubでオープンソース化されました。今年6月には、世界的に有名なオープンソースコミュニティであるLinux Foundationに寄贈されました。最近では、開発者がオープンな姿勢でフェデレーテッドラーニングエコシステムの構築に参加することを奨励するために、一連の貢献者インセンティブメカニズムがリリースされました。

同時に、フェデレーテッドラーニングの国際標準（ IEEE標準）および国内標準の確立を主導し、より広範囲の産業アプリケーションに統一された技術標準言語を提供します。 IEEE標準ワーキンググループはこれまで3回の会議を開催し、第4回会議は10月に開催され、関連する標準草案は来年発表される予定であると報じられている。

準備完了、 NeurIPS 2019カンファレンス フェデレーテッド ラーニング ワークショップ

ファン・リシン博士によると、WeBankのAIチームは今年のNeurIPS 2019 カンファレンスでGoogleなどの有名企業や大学と共同で連合学習ワークショップを開催し、数十件の論文提出を受けているという。

ますます多くの企業や研究機関がフェデレーテッドラーニングエコシステムに加わり、金融、ヘルスケア、小売などの分野でますます多くのシナリオが実装されるにつれて、フェデレーテッドラーニングの研究も新しい段階に入りました。このセミナーは、きっとさらに驚くべき新しい考え方と探求をもたらすでしょう。