AIに「子犬」を認識させますか？ Facebookは変化を感知できるAIを構築

[[388981]]

今まで見たことのない犬種や色であっても、私たちは一目見てその犬を認識することができます。

周囲の環境の変化を感知する能力は、人間が生まれながらに持っている能力です。

しかし、人工知能システムの場合は違います。たとえSOTAレベルに達し、人間にはできない無数のタスクを完了できたとしても、人間にとっては簡単なことでも人工知能にはできないことがまだたくさんあります。たとえば、ゴールデンレトリバーに正面、横、前、後ろと角度を変えるように頼んだ場合、人工知能はそれを認識するのに苦労するかもしれません。

ディープラーニング モデルは、ピクセルとラベル間の統計パターンを解釈するのに優れていますが、多くの潜在的な自然な変動を持つオブジェクトを正しく識別するのは困難です。

あれは道路を除雪している除雪車ですか？それともスクールバスがひっくり返ったのでしょうか?

上記の画像は、MA Alcorn らによる「Strike(with)a pose: Neural networks are easily fooled by strange poses of familiar objects」に基づいており、バスを除雪車と誤分類するディープ ニューラル ネットワークを示しています。

人間はすぐに判断できますが、色、サイズ、視点などの要素が状況を複雑にし、AI モデルによる予測が難しくなります。

Facebook AI は、従来のソリューションでは大きな限界がある自然の変化をより適切に捉える方法、つまり「分離」と呼ばれるプロセスを模索してきました。また、私たちは最近、同変シフト演算子の概念も提案しました。これは、最も一般的な変換をシミュレートすることで、モデルがオブジェクトがどのように変化するかを理解できるようにする代替ソリューションの概念実証です。

現在、この分野における Facebook AI の取り組みは主に理論的なものですが、ディープラーニング モデル、特にコンピューター ビジョンには大きな可能性があります。解釈可能性と精度が向上し、小さなデータセットでトレーニングした場合でもパフォーマンスが向上し、一般化機能が向上します。 Facebook AI は、これらの貢献によりコンピューター ビジョンがさらに進歩し、視覚世界の複雑さをより深く理解できるようになることを期待しています。

現在の方法の限界

現在の分離手法では、モデル内の各要素をモデルの内部表現の個別のサブスペースにエンコードすることにより、モデル内のオブジェクトの基本的な変換を学習しようとします。

たとえば、分離により、犬の画像のデータセットがポーズ、色、品種のサブスペースにエンコードされる可能性があります。

このアプローチは、単一の MNIST 数字や椅子のような単一のオブジェクトなど、固定されたデータセット内のバリエーションを識別するのに適していますが、複数のカテゴリにまたがる分離のパフォーマンスは低いことがわかりました。

三角形や四角形など、複数の回転した形状を想像してください。分離モデルは、オブジェクトの形状と方向という 2 つの変動要因を 2 つの変動要因に分離しようとします。

下の図は、従来の分離処理では、複数の形状のデータセット全体を単独で回転させることはできないことを示しています。強調表示された形状は回転すると予想されますが、分離の失敗により、形状は固定されたままになります。

もつれを解くと、一連の多数の変換におけるもう 1 つの問題である位相的欠陥も発生します。トポロジカル欠陥は、ディープラーニング モデルの重要な特性である連続性に違反します。継続性がなければ、ディープラーニング モデルがデータ内のパターンを効果的に学習することが難しくなる可能性があります。

正三角形の回転を想像してください。 120 度回転した正三角形は元の三角形と区別がつかず、方向空間では同じ表現になります。ただし、三角形の頂点の 1 つに微小な点を追加すると、表現が識別可能になり、連続性が損なわれます。近くの画像は、より遠くにある画像にマッピングされます。 Facebook AI の研究では、位相欠陥は非対称形状やその他の多くの一般的な変形にも現れることが示されました。

等分散演算子を使用して変動係数を明らかにする

各変換を表現の 1 つのコンポーネントに制限するのではなく、変換によって表現全体を変更できるとしたらどうなるでしょうか。このアプローチの目的は、画像とその表現を操作できる演算子（変動要因ごとに 1 つの演算子）を発見することです。これらは等変量と呼ばれます。

群論と呼ばれる数学の分野があり、同変演算子の応用について多くのことを教えてくれます。変動要因を直感的に理解する方法は、それらを一連の変換としてモデル化することであることが示されています。たとえば、三角形の回転にはグループ構造があり、90 度の回転と 30 度の回転を組み合わせると 120 度の回転が生成されます。

Facebook AI はこれらのアイデアを使用して、従来の分離の欠点を特定し、分離のための等分散演算子をトレーニングする方法を決定しました。我々はシフト演算子と呼ばれる同変演算子を提案します。これは、回転、平行移動、再スケーリングなどの一般的な変換のグループ構造を模倣したブロックを持つマトリックスです。次に、元の画像とその変換に基づいて AI モデルがトレーニングされます。

シフト演算子は、複数のクラスを含むデータセットでも変換を正常に学習できることがわかりました。これは、従来の分離が失敗することが多い条件とまったく同じです。

未来

群論に基づく等変モデルは、エンタングルメントの理解に関する研究の範囲を大幅に拡大します。既存のモデルは、関心の変容を事前に理解し、それをモデルに実装するなど、強力な監督に依存しています。

しかし、最小限の監督を使用してデータセット内の対称性をどのように発見するのでしょうか?この分野のこれまでの研究は主に合成データに適用されてきたため、基礎となる対称性に関する知識があれば、バスの側面や特大のおもちゃをくわえた犬など、通常とは異なる観察状況に直面した場合でもモデルの信頼性を高めることができる。

人間は未知の物体を、以前に見た物体と直感的に比較することで認識します。このモデルは、画像のサブパーツの変換と同等になるようにトレーニングすることができ、さらに重要なことに、未知のオブジェクトに遭遇したときにサブパーツを再構成することができます。

最後に、グループ構造が完全に尊重されていないため、グループ理論に基づくモデルを使用して実際のデータセットを処理することは困難です。たとえば、不均一な背景にあるオブジェクトを回転する場合、回転後に表示されるピクセル値を推測する方法は多数あります。このアイデアを、人工的な拡張のない画像など、より現実的な設定やデータセットに拡張すると、価値のあるアプローチとなる可能性があります。